Bu məqalədə siz agent əsaslı süni intellekt sistemlərində prompt injeksiyası və alətlərin səhv istifadəsi kimi anlayışlarla tanış olacaqsınız. Prompt injeksiyası AI modellərinin çıxışını və davranışını zərərli əmrlər göndərərək pozan ümumi təhlükədir.
Üstəlik, bu sistemlərlə əlaqəli alətlərin səhv istifadəsi əlavə risklər yarada bilər. Təhlükəsizlik mütəxəssisləri bu təhlükələrə qarşı alətlərə çıxışı məhdudlaşdırmaq, çıxışın monitorinqi və təhlükəsizlik filtrəri istifadə etmək kimi tədbirlər görməyi tövsiyə edirlər.