Şu anda AI ajanlarının karmaşıklığı, aydınlatılması gereken şirketler içinde gizli bir gölge olarak ortaya çıkmıştır. Organizasyonlar artık tek bir ajan dağıtmaz; yerine, bir ajan filosu kurarlar ve her biri sürekli olarak API'lere erişir, birbiriyle etkileşime girer ve makine karar alma için tasarlanmamış uygulamalara bağlanır.
Bu durum, kimsenin tam olarak anlayamayacağı veya kontrol edemeyeceği karmaşık bir sistem yaratır. Yeni bir ajan eklemek sadece yeni bir bağlantı oluşturmakla ilgili değildir; her ajan herhangi bir diğer ajana bağlanabilir ve her bağlantı sistemin diğer kısımları genelinde bir çağrı zincirini başlatabilir. Başka bir deyişle, karmaşıklık ajan sayısıyla değil, ajanlar arasındaki yolların sayısıyla büyür.
Sonuç olarak, eskiden yalnızca bir sisteme ulaşan bir destek bileti artık dört farklı ajandan geçebilir ve her devir, kimse tarafından incelenmemiş yeni bir karar noktasını temsil eder.
Güvenlik ve uyum ekipleri genellikle "Hangi ajanlar hangi sistemlere erişebilir?" veya "Hangi ajan üç adım önce hangi eylemi başlattı?" gibi basit sorularda çaresiz kalır ve belirsiz cevaplar alırlar. Bu opaklık, kurumsal AI projelerinin durmasına neden olur.
Geleneksel kontrol listesi tabanlı ve tek seferlik onay yaklaşımları her ajan için yetersizdir; bunlar yalnızca zamanın tek bir noktasını kapsar, oysa karmaşıklık sürekli bir izleme gerektiren sürekli bir zincirdir.
İlk sorun, erişimin sinsi büyümesidir. Örneğin, bir ajan biletleri özetlemek için geliştirilir ve geliştirme süresini kısaltmak için geniş API erişimi verilir; sonra, altı ay sonra bu ajan kimse değişikliği onaylamadan ödeme sistemine erişim kazanır.
İkinci sorun, zayıflamış sahiplik durumudur. Bir iş akışında beş ajan dahil olduğunda, dördüncü adımda bir sorun çıkarsa sorumluluk belirsiz kalır ve kimsenin sorumlu olması gerektiği bilinmez.
Bu zorlukları çözmek için yönetişim altyapıları güncellenmelidir. Her ajan, bir isim ve belirli izinlerle bağımsız bir varlık olarak kaydedilmeli ve bir insan gözetmeni atanmalıdır. Ancak bu çözümün sadece bir kısmıdır; ajan etkileşimlerinin tamamını gerçek zamanlı olarak izlemek ve politikaya aykırı çağrıları engelleyebilmek şarttır.
Ölçeklenebilirlik ve hesap verebilirlik arasında dengeyi kurmayı başaran organizasyonlar, yavaşlamak yerine insan-ajan orktrasyonuna doğru hareket etmektedir. Gerçek tehlike tek bir ajan değil, öngörülemez kombinasyonlarda aynı anda çalışan yüzlerce ajandır; bu, birçok kurumsal AI projesini pilot modunda tutan engeldir.