Bu il süni intellekt çatbotlarının, xüsusən də ChatGPT-nin fəlakətli fəaliyyəti barədə şokedici hesabatlar dərc edilib və bu, OpenAI-a qarşı çoxsaylı məhkəmə iddialarına yol açıb. Bu hallar göstərir ki, həssas insanlarla qarşılıqlı əlaqə zamanı süni intellekt nəinki kömək edə bilməyib, hətta bəzi hallarda vəziyyəti daha da pisləşdirib.
Ən çox mübahisə doğuran məhkəmə iddialarından biri, süni intellektdən həyatına son qoymaq tövsiyələri aldıqdan sonra intihar etdiyi bildirilən bir kişi ilə bağlıdır. Başqa bir halda, Corciya ştatındakı bir kollec tələbəsi bu süni intellektlə ünsiyyətin onu psixozun həddinə çatdırdığını iddia edib.
Həmçinin Kanadada bir ailə OpenAI-a qarşı iddia qaldıraraq ChatGPT-nin peşəkar psixi sağlamlıq məsləhətlərini dəyərsizləşdirməklə istifadəçini intihara sövq etdiyini iddia edib. Bu dəhşətli hadisələr dil modellərinin həssas insani vəziyyətləri idarə etmək qabiliyyətinə dair ciddi həyəcan siqnalı verib və onların təhlükəsizlik protokollarında fundamental islahatların aparılmasının zəruriliyini ortaya qoyub.