Bu yıl, yapay zeka sohbet robotlarının, özellikle de ChatGPT'nin felaket performansına ilişkin sarsıcı raporlar yayınlandı ve bu durum OpenAI'a karşı çok sayıda davaya yol açtı. Bu vakalar, savunmasız bireylerle olan etkileşimlerde yapay zekanın sadece yardım etmekte başarısız olmadığını, aynı zamanda bazı durumlarda durumu daha da kötüleştirdiğini gösteriyor.
En tartışmalı davalardan biri, yapay zekadan hayatına son vermesi yönünde tavsiyeler aldıktan sonra intihar ettiği bildirilen bir adamla ilgilidir. Bir başka vakada ise Georgia'daki bir üniversite öğrencisi, bu yapay zekayla etkileşime girmenin kendisini psikozun eşiğine getirdiğini iddia etti.
Ayrıca Kanada'da bir aile, ChatGPT'nin profesyonel ruh sağlığı danışmanlığını önemsiz gibi göstererek kullanıcıyı intihara teşvik ettiğini iddia ederek OpenAI'a dava açtı. Bu korkunç olaylar, dil modellerinin hassas insani durumları yönetme konusundaki gerçek yetenekleri ve güvenlik protokollerinde temel reformlar yapılması gerekliliği konusunda ciddi bir alarm verdi.