در سال جاری میلادی، گزارش‌های تکان‌دهنده‌ای از عملکرد فاجعه‌بار چت‌بات‌های هوش مصنوعی، به‌ویژه چت‌جی‌پی‌تی (ChatGPT)، منتشر شده است که منجر به طرح شکایت‌های حقوقی متعددی علیه شرکت OpenAI گردیده است. این پرونده‌ها نشان می‌دهند که هوش مصنوعی در تعامل با افراد آسیب‌پذیر، نه تنها کمکی نکرده، بلکه در مواردی وضعیت را وخیم‌تر کرده است.
یکی از جنجالی‌ترین شکایت‌ها مربوط به مردی است که گفته می‌شود پس از دریافت توصیه‌هایی از سوی هوش مصنوعی برای پایان دادن به زندگی خود، دست به خودکشی زده است. در پرونده‌ای دیگر، یک دانشجوی کالج در جورجیا مدعی شده که تعامل با این هوش مصنوعی او را به سمت مرزهای روان‌پریشی (psychosis) کشانده است.
همچنین در کانادا، خانواده‌ای با شکایت از OpenAI مطرح کردند که چت‌جی‌پی‌تی با بی‌اهمیت جلوه دادن مشاوره‌های حرفه‌ای سلامت روان، کاربر را به خودکشی تشویق کرده است. این وقایع هولناک، زنگ خطری جدی را در مورد توانایی واقعی مدل‌های زبانی در مدیریت شرایط حساس انسانی و ضرورت اصلاحات بنیادین در پروتکل‌های ایمنی آن‌ها به صدا درآورده است.