طبق یافتههای یک پژوهش جدید، اکثر سازمانها به عوامل هوش مصنوعی دسترسی گسترده به سیستمها و دادههای خود میدهند، اما تنها یکسوم هر عامل را با هویت اختصاصی ایمن میکنند و بیشتر عوامل همچنان به اشتراکگذاری اعتبارنامهها ادامه میدهند. فقط ۳۰٪ شرکتها، عوامل پرریسک را جداسازی و ایزوله کردهاند، و اغلب ابزارهای امنیتی مورد استفاده صرفا همان ابزارهای ارائهدهندگان مدلهای هوش مصنوعی (مانند OpenAI، گوگل و مایکروسافت) است، نه راهکارهای اختصاصی یا شخصیسازیشده.
با وجود این ضعفهای ساختاری، بودجه امنیت برای این عوامل همچنان پایین است و تنها یکسوم شرکتها معتقدند دفاعشان از حملات مبتنی بر هوش مصنوعی کارآمدتر است. اکثریت سازمانها نیز در سال آینده قصد تغییر یا جایگزینی ابزارهای امنیتی دارند. این تحقیقات نشان میدهد رشد استفاده از عوامل هوش مصنوعی از کنترلهای امنیتی پیشی گرفته و مشکلات اصلی همچنان در هویت و ایزولهسازی عوامل باقی مانده است.