VentureBeat'in yeni bir raporuna göre, yapay zeka sektöründeki birçok büyük kuruluş otomatik ajanlarına daha fazla özerklik verdi, ancak bu ajanların kalite ve performansını garanti altına almak için otomatik değerlendirmelere tam olarak güvenmiyor. Araştırmaya katılan 157 şirketten yarısı, geçen yıl iç değerlendirmeleri geçmesine rağmen müşterilerle başarısız olan en az bir yapay zeka ajanı kullanıma almış. Kuruluşların sadece yüzde 5'i otomatik değerlendirmelere tamamen güvendiğini belirtirken, en sık belirtilen zayıflık, değerlendirmelerin genellikle gerçek sonuçlarla uyuşmaması oldu.
Ajan özerkliği, değerlendirme altyapısının geliştirilmesinden daha hızlı ilerlerken, kuruluşların üçte ikisi ya şu anda ajanların insan müdahalesi olmadan çalışmasına izin veriyor ya da böyle bir operasyonu bir yıl içinde mümkün kılacak mekanizmalar tasarlıyor. Çoğu şirket hâlâ basit araçlara veya model sağlayıcıların sunduğu yerleşik değerlere güveniyor ve kuruluşların yalnızca dörtte biri ajan çıktıları üzerinde gerçek zamanlı kalite kontrol uyguluyor. Bu arada, gelecekteki yatırımlar giderek üretimin insan gözetimi ve izlenmesine yöneliyor. Bu değerlendirme açığı, yapay zeka endüstrisi için temel bir zorluk olarak kabul ediliyor.