Aidanix
Aidanix
از یادگیری تا درآمد، با هوش مصنوعی
شروعرایگان
اخبار و تازه‌های هوش مصنوعیتحقیقات

متا با تبلیغات هوش مصنوعی «نودفی» کودکان را در معرض سوءاستفاده قرار داد

تیم Aidanix3 دقیقه۲۰ شهریور ۱۴۰۵
متا با تبلیغات هوش مصنوعی «نودفی» کودکان را در معرض سوءاستفاده قرار داد

متا پس از چند روز توانست تبلیغاتی را که شامل محتوای سوءاستفاده جنسی از کودکان (CSAM) تولید شده توسط هوش مصنوعی بودند، از فیسبوک و اینستاگرام حذف کند. برخی از این تبلیغات شامل عکس‌های واقعی از کودکان بود؛ از جمله یک عکس مطبوعاتی از یک عضو جوان خانواده سلطنتی اروپا و تصاویری که از پروفایل اینستاگرام یک دختر پیش‌نوجوان اینفلوئنسر برداشته شده بود.

در تحقیقی که توسط پروژه شفافیت فناوری (TTP) منتشر شد، اعلام شد متا در سال جاری ۳۳۲ تبلیغ حاوی CSAM را شناسایی نکرده است. اکثر این تبلیغات برنامه‌های هوش مصنوعی ساخت چین را تبلیغ می‌کردند و تعداد زیادی از آن‌ها برنامه‌های «نودفی» را معرفی می‌کردند که به عوامل مخرب امکان می‌دهد با استفاده از هوش مصنوعی تصاویر کودکان را به‌صورت دیجیتال تغییر دهند.

TTP توانست چندین تبلیغ CSAM را با عکس‌های واقعی کودکان که به‌صورت آنلاین منتشر شده بودند، مطابقت دهد. این تبلیغات به‌نظر می‌رسد قوانین فدرال مربوط به پورنوگرافی کودکان را نقض می‌کنند، چرا که وزارت دادگستری آمریکا تأکید کرده است که CSAM تولید شده توسط هوش مصنوعی به همان اندازه مضر است. تصویر دختر جوان سلطنتی به ویدیویی تبدیل شد که در آن او یک عمل جنسی گرافیکی انجام می‌دهد؛ همچنین یک اینفلوئنسر ۱۴ ساله به ویدیویی تبدیل شد که در آن او عمل جنسی دهانی انجام می‌دهد و یک پیش‌نوجوان دیگر در یک ویدیو به‌صورت ترسیده توسط یک مرد بزرگسال مورد آزار قرار می‌گیرد.

هوش مصنوعیسوءاستفاده جنسی از کودکانCSAMمتانودفیتبلیغات دیجیتال
نظرات

هنوز نظری ثبت نشده — اولین نفر باش.

کاربران Claude راه‌های دور زدن محدودیت‌های سلاح‌های بیولوژیکی را یافتندراهنمای جامع تنظیم دقیق هوش مصنوعی عامل‌محور: چهار نکته کلیدینمایندگان OpenAI روش‌های فرار از sandbox را در ویکی عمومی فاش کردند
انگیزه بگیر