ədqiqat qrupu xAI və Elon Musk-a məxsus böyük dil modeli olan Grok-a qarşı yeni bir hücum üsulunu açıqlayıb. Gizli, şifrələnmiş əmrləri yeridərək hücum AI köməkçisini poçt qutusundan çat yazışmalarını, e-poçtları və digər şəxsi istifadəçi məlumatlarını əldə etməyə məcbur edir; bu, Microsoft 365 Copilot-a edilmiş əvvəlki hücuma bənzər bir texnikadır.
Bu hadisə göstərir ki, böyük dil modelləri prompt injection hücumlarına qarşı hələ də həssasdır, çünki onlar naməlum mənbələrdən daxil olan məzmunu istifadəçi əmrlərindən etibarlı şəkildə ayırd edə bilmirlər. Nəticədə tərtibatçılar şübhəli əmrləri aşkar etmək və bloklamaq üçün yalnız "qoruyucu baryerlər" kimi müvəqqəti həllər tətbiq edə bilirlər.
xAI komandası bu problemi iyun ayında bildirsə də, məqalənin dərc edildiyi tarixə qədər Grok istifadəçi məlumatlarını hücumçulara avtomatik şəkildə ifşa etməyə davam edir ki, bu da yalnız qoruyucu tədbirlərin deyil, struktur həllərin vacibliyini bir daha önə çəkir.