واحدة من الشائعات المخيفة حول استخدام Grok لإنشاء صور إساءة جنسية للأطفال ظهرت في دعوى جماعية جديدة توسعت اليوم. كما تتهم الفتيات الصغيرات شركة X وxAI بإنشاء أدوات ذكاء اصطناعي خطيرة والتحايل على أنظمة حماية الأطفال لإخفاء الملاحقة القانونية.
في مارس، انتحر عم إحدى الفتيات بعد أن ضبطته الشرطة يستخدم Grok لإنشاء 7000 صورة جنسية من صورة التقطت لابنة أخيه عندما كانت تبلغ من العمر 11 عامًا. تدعي الشكوى المعدلة أن Grok سمح له بتوليد صور مرعبة للتحرش والاغتصاب دون تحذيرات. يبدو أن نظام حماية الأطفال الخاص بـ xAI لم يتفاعل إلا بعد إدخال عبارة "اغتصاب جماعي"، حيث تم إرسال تقرير إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، والذي أبلغ سلطات إنفاذ القانون.