Bu makalede, ajan tabanlı yapay zeka sistemlerinde prompt enjeksiyonu ve araçların yanlış kullanımı gibi kavramlarla tanışacaksınız. Prompt enjeksiyonu, kötü amaçlı komutlar göndermek suretiyle yapay zeka modellerinin çıktı ve davranışlarını bozan yaygın bir tehdittir.
Ayrıca, bu sistemlere bağlı araçların yanlış kullanımı ilave riskler oluşturabilir. Güvenlik uzmanları, bu tehditlere karşı, araçlara erişimin sınırlandırılması, çıktının izlenmesi ve güvenlik filtrelerinin kullanılması gibi önlemleri tavsiye etmektedir.