Hazırda AI agentlərinin mürəkkəbliyi şirkətlər daxilində işıqlandırılması lazım olan gizli bir kölgə kimi meydana çıxıb. Təşkilatlar artıq tək bir agent yerləşdirmirlər; əvəzində, hər biri davamlı olaraq API-lərə daxil olan, bir-biri ilə qarşılıqlı əlaqədə olan və əvvəlcə maşın qərar verməsi üçün nəzərdə tutulmamış tətbiqlərə qoşulan agentlər dəstəsi qururlar.
Bu vəziyyət heç kəsin tam başa düşə və ya idarə edə bilmədiyi mürəkkəb bir sistem yaradır. Yeni bir agent əlavə etmək sadəcə yeni bir əlaqə yaratmaq demək deyil; hər bir agent istənilən başqa agentə qoşula bilər və hər bir əlaqə sistemin digər hissələri arasında zəncirvari çağırışlar başlada bilər. Başqa sözlə, mürəkkəblik agentlərin sayı ilə deyil, agentlər arasındakı yolların sayı ilə artır.
Nəticə odur ki, əvvəllər yalnız bir sisteme çatan dəstək bileti indi dörd fərqli agentdən keçə bilər və hər bir ötürmə heç kəsin yoxlamadığı yeni bir qərar nöqtəsini təmsil edir.
Təhlükəsizlik və uyğunluq komandaları tez-tez "Hansı agentlər hansı sistemlərə daxil ola bilər?" və ya "Üç addım əvvəl hansı agent hansı əməliyyatı başlatdı?" kimi sadə suallar qarşısında çaşbaş qalır və aydın olmayan cavablar alırlar. Bu qeyri-şəffaflıq müəssisə AI layihələrinin dayanmasına səbəb olur.
Ənənəvi yoxlama siyahısına əsaslanan və tək-tək razılıq yanaşmaları hər bir agent üçün kifayət deyil; onlar yalnız tək bir zaman nöqtəsini əhatə edir, halbuki mürəkkəblik davamlı monitorinq tələb edən davamlı bir zənciridir.
Birinci problem girişin gizli artımıdır. Məsələn, bir agent biletləri xülasə etmək üçün qurulur və inkişaf vaxtına qənaət etmək üçün geniş API girişi verilir; sonra, altı ay sonra, bu agent heç kimin dəyişikliyi təsdiq etmədən ödəniş sisteminə giriş əldə edir.
İkinci məsələ məsuliyyətin seyrəlməsidir. Bir iş axınında beş agent iştirak etdikdə, dördüncü addımda bir şey səhv getsə, məsuliyyət aydın olmur və heç kim kimin məsuliyyət daşımalı olduğunu bilmir.
Bu çətinlikləri həll etmək üçün idarəetmə infrastrukturları yenilənməlidir. Hər bir agent adı və xüsusi icazələri olan müstəqil bir qurum kimi qeydə alınmalı və ona insan nəzarətçisi təyin edilməlidir. Lakin bu yalnız həllin bir hissəsidir; agent qarşılıqlı əlaqələrinin bütün zəncirinin real vaxt rejimində monitorinqi və siyasətə zidd çağırışların qarşısını almaq bacarığı vacibdir.
Miqyaslılıq və məsuliyyəti tarazlaşdıra bilmiş təşkilatlar yavaşlamaq əvəzinə insan-agent orkestrləşməsinə doğru hərəkət edirlər. Əsl təhlükə tək bir agent deyil, eyni anda proqnozlaşdırıla bilməyən kombinasiyalarda fəaliyyət göstərən yüzlərlə agentdir; bu, bir çox müəssisə AI layihələrini pilot rejimində saxlayan maneədir.