Şimdiye kadar saldırganlar tarafından yapay zeka platformlarını istismar etmek ve hassas bilgilere erişmek için popüler bir araç olan prompt injection, artık güvenlik savunucuları tarafından da kullanılmaktadır. Bu teknik, büyük zeki sistemleri yetkisiz işlemler gerçekleştirmeye ve özel komutlar içeriğe yerleştirilerek veri açıklamaya zorlayabilir.
Tracebit grubunun yakın zamanda yaptığı bir çalışmada, AWS gibi bulut ortamlarında prompt injection'un parolalar ve şifreleme anahtarlarının yanında yer almasının genellikle yapay zeka saldırı ajanlarının saldırılarını durdurduğu gösterilmiştir. Bu promptlar, saldırı ajanını tanımlanmış güvenlik sınırlarının dışında işlemler yapmaya zorlayarak saldırgan sistemin kapanmasına neden olur.