Grok'un çocuk cinsel istismarı görselleri üretmek için kullanıldığına dair korkutucu söylentiler, bugün genişletilen yeni bir toplu davada ortaya çıktı. Genç kızlar ayrıca X ve xAI'yı tehlikeli yapay zeka araçları oluşturmakla ve çocuk güvenliği sistemlerini aşarak yasal kovuşturmadan kaçmakla suçluyorlar.
Mart ayında, bir kızın amcası, polis onun 11 yaşındaki yeğeninin fotoğrafından Grok'u kullanarak 7.000 cinsel görüntü oluşturduğunu ortaya çıkardıktan sonra intihar etti. Değiştirilen şikayette, Grok'un uyarı vermeden istismar ve tecavüzle ilgili korkunç görseller üretmesine izin verdiği iddia ediliyor. Görünüşe göre xAI'nin çocuk güvenliği sistemi yalnızca "gang rape" komutu girildikten sonra tepki verdi ve Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi'ne (NCMEC) bir rapor göndererek kolluk kuvvetlerini bilgilendirdi.