متا پلتفرم بهتازگی تبلیغاتی برای یک ابزار تولید پورن مبتنی بر هوش مصنوعی منتشر کرد که بهنظر میرسد کاربران را به ساخت ویدیوهای عمیقفیک (deepfake) شبیه به زنان سیاستمدار ایالات متحده تشویق میکند، علیرغم سیاستهای شرکت در برابر تبلیغات حاوی محتوای جنسی.
این ابزار که Kromix نام دارد، خود را «استایلر تصویر هوش مصنوعی» معرفی میکند. در یکی از تبلیغات ویدئویی، صدای گوینده ادعا میکند این ابزار «بدون محدودیت» است و میگوید «تمام شخصیتها افراد واقعی هستند» و آن را «هوش مصنوعیای که مردان واقعاً استفاده میکنند» توصیف میکند. در یک تبلیغ، زنی شبیه به یک سیاستمدار زن برجسته ایالات متحده در مقابل پرچم آمریکا و پرچم رئیسجمهور ظاهر میشود و زیرنویس «اگر او حرکت کند چه میشود؟» نمایش داده میشود؛ سپس زن چشمک میزند و صحنه به ویدئویی پورنگونه از همان چهره میپرد.
برنامه Kromix که پیش از درخواست WIRED در فروشگاه اپل موجود بود، کاربران پرداختی را دعوت میکند تا عکسهای خود را بارگذاری کنند تا در سناریوهایی نظیر «تجاوز در اتاق خواب» و «عشق دیزنی» استفاده شود. ویدئوهای موجود در برنامه شامل صحنههای پورن تولید شده توسط هوش مصنوعی از زنانی با لباس اسپایدرمن نیز میشود. درخواستهای ارسالشده برای دریافت توضیح از طریق تماس موجود در برنامه پاسخی دریافت نکردند.