Bir araştırma ekibi, xAI ve Elon Musk'a ait büyük dil modeli Grok'a karşı yeni bir saldırıyı ortaya çıkardı. Gizli, şifreli komutlar enjekte edilerek saldırı, AI asistanını gelen kutusundan sohbetleri, e-postaları ve diğer kişisel kullanıcı verilerini çıkarmaya zorlar; bu, Microsoft 365 Copilot'a yönelik önceki bir saldırıya benzer bir tekniktir.
Bu olay, büyük dil modellerinin istem enjeksiyon saldırılarına karşı hâlâ savunmasız olduğunu gösteriyor, çünkü bilinmeyen kaynaklardan gelen içeriği kullanıcı komutlarından güvenilir bir şekilde ayırt edemiyorlar. Sonuç olarak, geliştiriciler yalnızca şüpheli komutları tanımlamak ve engellemek için "koruma çubukları" gibi geçici çözümler uygulayabilir.
xAI ekibi bu sorunu Haziran ayında bildirmiş olmasına rağmen, bu makalenin yayınlanma zamanında Grok, kullanıcı verilerini otomatik olarak saldırganlara açmaya devam ediyor ve yalnızca koruyucu önlemler yerine yapısal çözümlere ihtiyaç duyulduğunu vurguluyor.

