حاليًا، ظهرت تعقيدات وكلاء الذكاء الاصطناعي كظل خفي داخل الشركات يحتاج إلى إضاءته. لم تعد المنظمات تنشر وكيلًا واحدًا؛ بل تُنشئ أسطولًا من الوكلاء، كل منهم يصل باستمرار إلى واجهات برمجة التطبيقات، ويتفاعل مع الآخرين، ويتصل بالتطبيقات التي لم تُصمم أصلاً لاتخاذ قرارات آلية.
هذا الوضع يخلق نظامًا معقدًا لا يمكن لأحد أن يفهمه أو يسيطر عليه بالكامل. إضافة وكيل جديد لا تقتصر على إنشاء اتصال جديد؛ يمكن لكل وكيل أن يتصل بأي وكيل آخر، ويمكن لكل اتصال أن يطلق سلسلة من المكالمات عبر أجزاء أخرى من النظام. بعبارة أخرى، تنمو التعقيدات مع عدد المسارات بين الوكلاء، وليس فقط مع عدد الوكلاء أنفسهم.
النتيجة هي أن تذكرة الدعم التي كانت تصل إلى نظام واحد فقط قد تمر الآن عبر أربعة وكلاء مختلفين، حيث يمثل كل تسليم نقطة قرار جديدة لم يتم فحصها من قبل أحد.
غالبًا ما تُحبط فرق الأمن والامتثال بأسئلة بسيطة مثل أي الوكلاء يمكنهم الوصول إلى أي أنظمة؟ أو أي وكيل بدأ أي إجراء قبل ثلاث خطوات؟ ويتلقون إجابات غير واضحة. هذه الغموض يسبب توقف مشاريع الذكاء الاصطناعي في المؤسسات.
الأساليب التقليدية القائمة على قوائم المراجعة والموافقات الفردية غير كافية لكل وكيل؛ فهي تغطي نقطة زمنية واحدة فقط، بينما التعقيد هو سلسلة مستمرة تتطلب مراقبة مستمرة.
المشكلة الأولى هي النمو الخفي للوصول. على سبيل المثال، يُبنى وكيل لتلخيص التذاكر ويُمنح وصولًا واسعًا إلى واجهات برمجة التطبيقات لتوفير وقت التطوير؛ ثم، بعد ستة أشهر، يحصل هذا الوكيل على وصول إلى نظام المدفوعات دون موافقة أحد على التغيير.
المشكلة الثانية هي تشتت الملكية. عندما يشارك خمسة وكلاء في سير عمل، إذا حدث خطأ في الخطوة الرابعة، تكون المساءلة غير واضحة ولا يعرف أحد من يجب أن يكون مسؤولًا.
لمواجهة هذه التحديات، يجب تحديث بنية الحوكمة. يجب تسجيل كل وكيل ككيان مستقل باسم وصلاحيات محددة، وتعيين مشرف بشري. لكن هذا جزء فقط من الحل؛ مراقبة السلسلة الكاملة لتفاعلات الوكلاء في الوقت الفعلي والقدرة على منع المكالمات المخالفة للسياسة أمران أساسيان.
المنظمات التي نجحت في تحقيق التوازن بين القابلية للتوسع والمسؤولية تتجه نحو تنسيق الإنسان والوكيل بدلاً من الإبطاء. الخطر الحقيقي ليس وكيلًا واحدًا بل مئات الوكلاء الذين يعملون في وقت واحد بتوليفات غير متوقعة؛ هذه هي العقبة التي تبقي العديد من مشاريع الذكاء الاصطناعي في مرحلة التجربة.