واجهت xAI ضغوطًا متزايدة للاعتراف بمشكلة توليد الصور غير القانونية والاعتداء الجنسي بواسطة روبوت الدردشة Grok. ولهذا السبب، اتخذت الشركة أول إجراء قانوني لها يوم الثلاثاء ضد مستخدم استغل الأداة لإنتاج محتوى غير قانوني.
تم اعتقال تيسري واين هاروود، الشخص الذي يتم مقاضاته، في وقت سابق من هذا العام لحيازته وتوزيعه صورًا لإساءة معاملة الأطفال، وهو ما أكدته النيابة العامة في ولاية كارولينا الجنوبية. وفقًا لـ xAI، ساعدت الشركة في عملية الاعتقال، وكان هاروود قد استخدم Grok لعدة أشهر بحسابين لتحويل صور عادية إلى صور جنسية، بما في ذلك صورة لفتاة تبلغ من العمر 10 سنوات.