Hozirgi vaqtda AI agentlarining murakkabligi kompaniyalar ichida yoritilishi kerak bo'lgan yashirin soya sifatida paydo bo'ldi. Tashkilotlar endi bitta agentni joriy qilmaydi; buning o'rniga, ular agentlar flotini tashkil qiladi, har biri doimiy ravishda API-larga kiradi, bir-biri bilan o'zaro ta'sir qiladi va aslida mashina qaror qabul qilishi uchun mo'ljallanmagan ilovalarga ulanadi.
Bu holat hech kim to'liq tushuna olmaydigan yoki boshqara olmaydigan murakkab tizimni yaratadi. Yangi agent qo'shish faqat yangi ulanish yaratish haqida emas; har bir agent boshqa har qanday agentga ulanishi mumkin va har bir ulanish tizimning boshqa qismlari bo'ylab qo'ng'iroqlar zanjirini boshlashi mumkin. Boshqacha qilib aytganda, murakkablik faqat agentlar soni bilan emas, balki agentlar o'rtasidagi yo'llar soni bilan o'sadi.
Natijada, ilgari faqat bitta tizimga yetib boradigan qo'llab-quvvatlash chiptasi endi to'rtta turli agent orqali o'tishi mumkin, va har bir uzatish hech kim tekshirmagan yangi qaror nuqtasini ifodalaydi.
Xavfsizlik va muvofiqlik jamoalari ko'pincha "Qaysi agentlar qaysi tizimlarga kirishi mumkin?" yoki "Uch qadam oldin qaysi agent qanday harakatni boshlagan?" kabi oddiy savollar oldida ham qotib qolishadi va noaniq javoblar olishadi. Bu shaffofmaslik korporativ AI loyihalarining to'xtab qolishiga sabab bo'ladi.
An'anaviy nazorat ro'yxati asosidagi va bir martalik tasdiqlash yondashuvlari har bir agent uchun yetarli emas; ular faqat vaqtning bir nuqtasini qamrab oladi, murakkablik esa doimiy monitoringni talab qiladigan uzluksiz zanjirdir.
Birinchi muammo — kirish huquqining yashirin o'sishi. Masalan, tiketlarni umumlashtirish uchun agent yaratiladi va ishlab chiqish vaqtini tejash uchun unga keng API kirish huquqi beriladi; keyin, olti oydan so'ng, bu agent hech kim o'zgartirishni tasdiqlamasdan to'lov tizimiga kirish huquqini oladi.
Ikkinchi muammo — egalik huquqining suyultirilishi. Ish jarayonida besh agent ishtirok etganda, agar to'rtinchi qadamda biror nima noto'g'ri ketsa, javobgarlik noaniq bo'ladi va hech kim kim mas'ul bo'lishi kerakligini bilmaydi.
Bu muammolarni hal qilish uchun boshqaruv infratuzilmasi yangilanishi kerak. Har bir agent nom va aniq ruxsatlar bilan mustaqil subyekt sifatida ro'yxatdan o'tkazilishi kerak va unga inson nazoratchisi tayinlanishi kerak. Lekin bu faqat yechimning bir qismi; agent o'zaro ta'sirlarining butun zanjirini real vaqtda kuzatish va siyosatga zid qo'ng'iroqlarning oldini olish qobiliyati muhim ahamiyatga ega.
Masshtablilik va javobgarlikni muvozanatlashga muvaffaq bo'lgan tashkilotlar sekinlashmasdan, balki inson-agent uyushmasiga qarab harakat qilmoqda. Haqiqiy xavf bitta agent emas, balki bir vaqtda bashorat qilib bo'lmaydigan kombinatsiyalarda ishlaydigan yuzlab agentlardir; bu ko'plab korporativ AI loyihalarini sinov rejimida ushlab turadigan to'siqdir.