نُشرت هذا العام تقارير صادمة عن الأداء الكارثي لروبوتات الدردشة المدعومة بالذكاء الاصطناعي، وخاصة ChatGPT، مما أدى إلى العديد من الدعاوى القضائية ضد شركة OpenAI. وتظهر هذه الحالات أنه في التفاعلات مع الأشخاص الأكثر عرضة للخطر، لم يفشل الذكاء الاصطناعي في المساعدة فحسب، بل أدى في بعض الحالات إلى تفاقم الوضع.
تتعلق إحدى الدعاوى القضائية الأكثر إثارة للجدل برجل يُقال إنه انتحر بعد تلقيه توصيات من الذكاء الاصطناعي لإنهاء حياته. وفي حالة أخرى، ادعى طالب جامعي في ولاية جورجيا أن التفاعل مع هذا الذكاء الاصطناعي دفعه إلى حافة الذهان.
وفي كندا أيضاً، رفعت عائلة دعوى قضائية ضد OpenAI، زاعمة أن ChatGPT شجع المستخدم على الانتحار من خلال التقليل من أهمية الاستشارة المهنية في مجال الصحة العقلية. لقد دقت هذه الأحداث المروعة ناقوس خطر حقيقي فيما يتعلق بالقدرة الفعلية للنماذج اللغوية على إدارة المواقف الإنسانية الحساسة، وضرورة إجراء إصلاحات جذرية في بروتوكولات السلامة الخاصة بها.