شرکت xAI با فشارهای فزایندهای مواجه شده که به معضل تولید تصاویر غیرقانونی و سوءاستفاده جنسی توسط چتبات Grok اذعان کند. به همین دلیل، این شرکت روز سهشنبه نخستین اقدام قضایی خود را علیه کاربری که از این ابزار برای تولید محتوای غیرقانونی استفاده کرده بود، انجام داد.
تسری وین هاروود، فرد مورد شکایت، اوایل سال جاری به جرم نگهداری و انتشار تصاویر سوءاستفاده از کودکان دستگیر شد که دفتر دادستانی کارولینای جنوبی نیز آن را تایید کرد. طبق اعلام xAI، این شرکت در روند دستگیری کمکرسانی کرد و هاروود ماهها با دو حساب کاربری از Grok برای تبدیل تصاویر عادی به تصاویر جنسی، از جمله تصویر دختری ۱۰ ساله، استفاده کرده بود.