تزریق پرامپت، که تاکنون ابزاری محبوب میان مهاجمان برای سوءاستفاده از پلتفرمهای هوش مصنوعی و دسترسی به اطلاعات حساس بود، حالا توسط مدافعان امنیت نیز به کار گرفته شده است. این تکنیک میتواند با گنجاندن دستورات خاص در محتوا، سامانههای هوشمند بزرگ را وادار به انجام اعمال غیرمجاز و حتی افشای دادهها کند.
در پژوهشی تازه از گروه Tracebit مشخص شده، قرار دادن تزریقهای پرامپت در کنار رمزهای عبور و کلیدهای رمزنگاری در فضای ابری مانند AWS، غالبا باعث توقف حملات عاملهای هککننده هوش مصنوعی میشود. این پرامپتها، عامل مهاجم را وادار به اجرای کاری خارج از محدودههای تعیینشده امنیتی کرده و نتیجه آن خاموش شدن سامانه مهاجم است.