ما المقصود بإدارة وكلاء الذكاء الاصطناعي؟

حظي هذا المفهوم بالاهتمام مع زيادة استقلالية أنظمة الذكاء الاصطناعي ودمجها في عمليات المؤسسة. غالبًا ما كانت أنظمة الذكاء الاصطناعي المبكرة تؤدي مهام ضيقة بإشراف بشري مباشر. يمكن لوكلاء الذكاء الاصطناعي الحديثين إكمال مهام سير عمل متعددة الخطوات، والتفاعل مع الأنظمة الخارجية، واتخاذ القرارات بتدخل محدود.

مع قيام المؤسسات بنشر أعداد أكبر من الوكلاء عبر الأقسام والمنصات، فإنها بحاجة بشكل متزايد إلى طرق مركزية لإدارة أمن الوكلاء والسيطرة التشغيلية. تتوقع مؤسسة Gartner أنه بحلول عام 2028، ستتضمن 33% من تطبيقات البرامج المؤسسية الذكاء الاصطناعي الوكيل، مقارنة بأقل من 1% في عام 2024.¹

عادة ما تجمع إدارة وكلاء الذكاء الاصطناعي بين عناصر التحكم الفنية والسياسات التشغيلية. قد تشمل عناصر التحكم الفنية أدوات المراقبة، وأنظمة الأذونات، وسجلات الأنشطة. غالباً ما تحدد السياسات التشغيلية من يمكنه نشر الوكلاء، وما هي المهام التي يمكن للوكلاء تنفيذها، وكيف يجب أن تعمل المراجعة البشرية. معاً، تساعد عناصر التحكم هذه المؤسسات على إدارة المخاطر مع السماح للوكلاء بالعمل بكفاءة.

غالباً ما تتعامل المؤسسات مع إدارة وكلاء الذكاء الاصطناعي كطبقة بين نماذج الذكاء الاصطناعي وعمليات الأعمال. يمكن لطبقة الإدارة هذه تنسيق العديد من الوكلاء وتوجيه المهام وتتبع الأداء بمرور الوقت. كما يمكن أن تساعد المؤسسات على توحيد كيفية وصول الوكلاء إلى الأنظمة الداخلية أو التطبيقات الخارجية.

تربط العديد من المؤسسات الآن هذه الطبقة بالفكرة الأوسع لمستوى التحكم في الوكلاء، الذي يوفر إشرافاً مركزياً على تنسيق الوكلاء والأذونات وإدارة الهوية وعمليات دورة الحياة. تدعم هذه البنية توسيع نطاق عمليات نشر الوكلاء مع مزيد من الرؤية والاتساق التشغيلي.

يعكس المجال أيضاً تغيراً أوسع نطاقاً في طريقة تفكير الشركات في تبني الذكاء الاصطناعي. عادةً ما تتبع البرامج التقليدية قواعد ثابتة يحددها المطورون مسبقًا. يمكن لوكلاء الذكاء الاصطناعي أن يتصرفوا بشكل أقل توقعاً لأنهم يستجيبون بشكل ديناميكي للمطالبات والبيانات والبيئات المتغيرة. العديد من هذه الأنظمة مبنية على تقنيات نموذج لغوي كبير (LLM) والذكاء الاصطناعي التوليدي التي يمكنها تكييف الردود أثناء وقت التشغيل. تخلق هذه المرونة فرصاً جديدة، لكنها أيضاً تقدم تحديات حوكمة وكلاء الذكاء الاصطناعي لم تصمم العديد من ممارسات إدارة تكنولوجيا المعلومات الحالية لمعالجتها.

أصبحت إدارة وكلاء الذكاء الاصطناعي ضرورية لتوسيع نطاق عمليات نشر الذكاء الاصطناعي الوكيل. بدون رقابة منسقة، يمكن أن تصبح عمليات النشر مجزأة، وغير متسقة مع سياسات الحوكمة ورؤية محدودة لنشاط الأنظمة. تسمى هذه المشكلة أحياناً باسم انتشار وكلاء الذكاء الاصطناعي، حيث يصبح من الصعب مراقبة أو صيانة أو إدارة أعداد كبيرة من الوكلاء غير المترابطين. استجابة لذلك، يقدم البائعون منصات مخصصة تجمع بين التنسيق والحوكمة وقابلية الملاحظة إلى طبقة إدارة موحدة.

تُغير أنظمة الذكاء الاصطناعي طريقة عمل المؤسسات. أفاد عملاء Salesforce أن وكلاء ومساعدي الذكاء الاصطناعي يحققون عائد استثمار قوي في تكنولوجيا المعلومات والمبيعات وخدمة العملاء. ² مع تولي الوكلاء مسؤوليات أوسع، تحتاج المؤسسات إلى بِنى أوضح لتنسيق نشاطها وإدارة كيفية تفاعلهم مع الموظفين والأنظمة.

التحول نحو الذكاء الاصطناعي الوكيل يغير أيضاً طريقة تفكير الشركات في الرقابة التشغيلية. تتميز أنظمة البرمجيات التقليدية بأنها قابلة للتنبؤ ومحددة النطاق بدقة. يعمل وكلاء الذكاء الاصطناعي بمرونة أكبر لأنهم يستطيعون تفسير الأهداف، وتقديم التوصيات، والتفاعل مع أدوات متعددة في الوقت الفعلي. تعمل هذه المرونة على تحسين الكفاءة مع إدخال التعقيد. تحتاج المؤسسات إلى طرق مركزية لمراقبة السلوك وإدارة الأذونات والحفاظ على الرؤية عبر شبكات كبيرة من الوكلاء.

تتجه المزيد من الشركات نحو الأنظمة متعددة الوكلاء. قد تقوم أقسام مختلفة بنشر وكلاء متخصصين في مجال الشؤون المالية أو دعم العملاء أو الأمن أو تحليل البيانات. وبمرور الوقت، يمكن أن تصبح هذه الأنظمة مجزأة إذا كان كل فريق يدير الوكلاء بشكل مستقل. تساعد طبقة الإدارة المؤسسات على إنشاء نماذج حوكمة متسقة ومعايير تشغيلية مشتركة وإشراف مركزي عبر الأقسام والمنصات.

تؤدي البيئات متعددة الوكلاء إلى مسؤوليات جديدة لفرق تكنولوجيا المعلومات والأمن والامتثال وفرق المنصة. في بعض المؤسسات، تتوسع مجموعات حوكمة الذكاء الاصطناعي لتشمل الإشراف على تنسيق الوكلاء، وإدارة الهوية، وعمليات دورة الحياة. مع تزايد التبني، أصبحت إدارة وكلاء الذكاء الاصطناعي جزءًا من البنية التحتية الأوسع التي تدعم عمليات المؤسسات والمبادرات طويلة الأمد للذكاء الاصطناعي.

من المرجح أن تزداد أهمية إدارة وكلاء الذكاء الاصطناعي مع دمج المؤسسات للوكلاء بشكل أعمق في عمليات الأعمال الأساسية. ستساعد إدارة وكلاء الذكاء الاصطناعي المؤسسات في الحفاظ على السيطرة على أنظمة الوكلاء التي تزداد تعقيداً مع دعم الجهود الأوسع نطاقاً لتحويل الأعمال.

هناك عدة عوامل تعزّز اعتماد إدارة وكلاء الذكاء الاصطناعي:

المخاوف بشأن عمليات النشر المجزأة: بدون رقابة مركزية، قد تواجه المؤسسات صعوبة في التعامل مع وكلاء منفصلين، وحوكمة غير متسقة، ومساءلة محدودة عبر الفرق.

الحاجة إلى مزيد من الرؤية: تحتاج الشركات بشكل متزايد إلى رؤى حول كيفية تصرف الوكلاء والأنظمة التي يصلون إليها وكيفية اتخاذ القرارات في وقت التشغيل.

توسع البيئات متعددة الوكلاء: تقوم العديد من الشركات بنشر وكلاء متخصصين لوظائف أو أقسام مختلفة. تساعد منصات الإدارة في تنسيق هؤلاء الوكلاء ضمن إطار تشغيلي مشترك.

تزايد تعقيد العمليات: يمكن لوكلاء الذكاء الاصطناعي التفاعل مع أنظمة وأدوات ومهام سير عمل مختلفة في نفس الوقت. تحتاج المؤسسات إلى تنسيق مركزي مع تزايد ترابط هذه البيئات.

التكامل مع أنظمة المؤسسة: أصبح وكلاء الذكاء الاصطناعي أكثر ارتباطًا بالمنصات السحابية، وواجهات برمجة التطبيقات (API) والتطبيقات الداخلية للأعمال. يؤدي هذا التكامل إلى زيادة الحاجة إلى طبقات إدارة العمليات.

الحاجة إلى حوكمة مركزية: ترغب المؤسسات في سياسات أكثر اتساقاً فيما يتعلق بالأذونات والموافقات والرقابة التشغيلية بالتزامن مع التوسع في نشر الوكلاء.

التحول من التجارب إلى توسيع النطاق التشغيلي: العديد من المؤسسات تتجاوز تجارب الذكاء الاصطناعي المعزولة وتبني استراتيجيات طويلة الأمد لإدارة منظومات الوكلاء. كما أن تزايد توفر أدوات الذكاء الاصطناعي، والمنصات بدون رمز برمجي، والقوالب القابلة لإعادة الاستخدام يجعل نشر وكلاء الذكاء الاصطناعي أكثر سهولة بين فرق الأعمال.

تختلف حالات استخدام إدارة الذكاء الاصطناعي حسب الصناعة وحجم الأعمال. تعتمد معظم المؤسسات إدارة وكلاء الذكاء الاصطناعي عندما يبدأ الوكلاء في التفاعل مع أنظمة أو مهام سير عمل أو فرق متعددة. تتضمن حالات استخدام وكلاء الذكاء الاصطناعي في العالم الحقيقي ما يلي:

يتم استخدام وكلاء الذكاء الاصطناعي بشكل متزايد في BPA لتنسيق مهام سير العمل عبر فرق الشؤون المالية والمشتريات والعمليات. تعمل بعض المؤسسات أيضاً على توسيع نطاق مهام سير العمل هذه لتشمل سلسلة التوريد حيث يساعد وكلاء الذكاء الاصطناعي في تتبع المخزون والإبلاغ عن الاضطرابات. على سبيل المثال، قد يعالج وكيل الذكاء الاصطناعي طلبات المصروفات، ويكتشف نشاطاً غير معتاد، ويوجه طلبات المصروفات ذات القيمة العالية لتلقي مراجعات إضافية.

تستخدم العديد من الشركات وكلاء الذكاء الاصطناعي للتعامل مع طلبات الدعم، وتوجيه التذاكر، واسترجاع المعلومات من الأنظمة الداخلية. تساعد إدارة وكلاء الذكاء الاصطناعي المؤسسات على مراقبة كيفية تفاعل الوكلاء مع العملاء وتطبيق قواعد حول الموافقات أو التصعيد. تستخدم هذه الأنظمة بشكل متزايد لتحسين تجارب العملاء الرقمية مع الحفاظ على الرقابة البشرية على التفاعلات الحساسة. على سبيل المثال، قد يتعامل وكيل الدعم مع أسئلة الفوترة الروتينية بمفرده ولكنه ينقل المشكلات الأكثر حساسية إلى ممثل بشري.

غالباً ما تقوم المؤسسات بنشر وكلاء يبحثون في المستندات الداخلية ويلخصون المعلومات ويدعمون سير عمل الموظفين في البحث. تساعد إدارة وكلاء الذكاء الاصطناعي في التحكم في الوصول إلى المعلومات الحساسة وتتبع كيفية استرجاع أو مشاركة الوكلاء للبيانات. على سبيل المثال، يمكن لوكيل البحث القانوني الوصول إلى مستودعات المستندات المعتمدة مع الحفاظ على سرية سجلات الموارد البشرية.

يمكن لوكلاء الذكاء الاصطناعي أتمتة مراقبة البنية التحتية والاستجابة للحوادث ومهام صيانة النظام. في هذه البيئات، تساعد طبقات الإدارة مجموعة على تتبع إجراءات الوكلاء والحفاظ على الرؤية التشغيلية عبر منصة سحابية أو الأنظمة الداخلية. على سبيل المثال، قد يقوم وكيل الذكاء الاصطناعي بتحديد نشاط غير عادي للخادم وإنشاء تذكرة حادث تلقائياً مع تنبيه فرق الأمن.

تقوم بعض المؤسسات بنشر العديد من الوكلاء المتخصصين الذين يتعاونون ضمن مهام سير عمل أكبر. تساعد إدارة وكلاء الذكاء الاصطناعي في تنسيق المسؤوليات بين هؤلاء الوكلاء مع الحفاظ على وضوح الرؤية في العملية الشاملة. على سبيل المثال، يمكن لأحد الوكلاء جمع بيانات العملاء، ويمكن لوكيل آخر تحليل سجل الحسابات، ويمكن لوكيل ثالث إنشاء توصيات لفريق المبيعات.

غالباً ما تتطلب قطاعات مثل الرعاية الصحية والخدمات المالية والتأمين حوكمة أقوى وقابلية تدقيق حول أنظمة الذكاء الاصطناعي. تساعد إدارة وكلاء الذكاء الاصطناعي المؤسسات على توثيق نشاط الوكلاء وتطبيق الضوابط التشغيلية التي تدعم متطلبات الامتثال. على سبيل المثال، يمكن لمؤسسات الرعاية الصحية استخدام أدوات الإدارة لتتبع الأنظمة التي وصل إليها وكيل الدعم السريري أثناء سير عمل المريض.

يمكن لفرق الأمن استخدام وكلاء الذكاء الاصطناعي لتحليل التنبيهات، والتحقيق في الشذوذ، أو المساعدة في اكتشاف التهديدات. نظرا لأن هؤلاء الوكلاء غالباً ما يتفاعلون مع الأنظمة الحساسة، فإن المؤسسات عادة ما تطبق ضوابط مراقبة وحوكمة أكثر صرامة. على سبيل المثال، قد يقوم وكيل الأمن بجمع المعلومات من أدوات مراقبة متعددة قبل التوصية باستجابة للموافقة البشرية.

تستخدم فرق التطوير بشكل متزايد وكلاء الذكاء الاصطناعي للمساعدة في مهام البرمجة والاختبار والتوثيق. تساعد منصات الإدارة على تنسيق كيفية وصول هؤلاء الوكلاء إلى المستودعات والتفاعل مع أدوات التطوير واتباع السياسات التنظيمية. على سبيل المثال، قد تسمح مؤسسة ما لوكلاء البرمجة باقتراح تغييرات مع تقييد عمليات النشر المباشرة في الإنتاج دون مراجعة بشرية.

تُعد إدارة وكلاء الذكاء الاصطناعي أكثر تعقيداً من العمليات الذكاء الاصطناعي التقليدية لأن وكلاء الذكاء الاصطناعي أكثر ديناميكية من أنظمة الذكاء الاصطناعي السابقة. تم تصميم أنظمة الذكاء الاصطناعي التقليدية لمهام ضيقة مثل التصنيف أو التنبؤ أو توليد المحتوى. غالباً ما يظل سير العمل المتعلق بتلك الأنظمة ثابتاً إلى حد كبير.

يعمل وكلاء الذكاء الاصطناعي بشكل مختلف لأنهم يستطيعون تفسير الأهداف، وتوليد القرارات، والتفاعل مع الأدوات الخارجية أثناء التنفيذ. يخلق هذا التحول متطلبات تشغيلية جديدة لم تُصمم ممارسات إدارة الذكاء الاصطناعي القياسية للتعامل معها.

تتضمن بعض أهم الاختلافات ما يلي:

• بنية النشر: غالبًا ما تكون عمليات النشر التقليدية للذكاء الاصطناعي معزولة في تطبيقات أو أقسام فردية. يتم نشر وكلاء الذكاء الاصطناعي بشكل متزايد عبر بيئات مترابطة متعددة الوكلاء.
  
  
• نطاق الحوكمة: تتناول حوكمة الذكاء الاصطناعي التقليدية بشكل رئيسي مخاطر النماذج والتعامل مع البيانات. تقدم إدارة الوكلاء المزيد من المخاوف حول الاستقلالية وإنفاذ السياسة.
  
  
• تركيز الإدارة: عادة ما تركز عمليات الذكاء الاصطناعي التقليدية على النماذج ومسارات البيانات. وتركّز إدارة وكلاء الذكاء الاصطناعي على تنسيق سلوك الوكيل عبر مهام سير العمل والأنظمة المتصلة.
  
  
• متطلبات المراقبة: غالباً ما تقيس المراقبة التقليدية دقة النموذج أو وقت التشغيل. تتطلب إدارة وكلاء الذكاء الاصطناعي أيضاً رؤية واضحة للإجراءات والأذونات ومسارات اتخاذ القرار.
  
  
• المرونة التشغيليةً: عادة ما تعمل أنظمة الذكاء الاصطناعي السابقة ضمن حدود محددة مسبقاً. يمكن لوكلاء الذكاء الاصطناعي تكييف تصرفاتهم بناءً على السياق أو المدخلات المتغيرة. في العديد من البيئات، تم تصميم الوكلاء لزيادة الوعي بالسياق. تسمح لهم هذه القدرة بالاستجابة بشكل ديناميكي مع تغير مهام سير العمل وأنماط تدفق البيانات أثناء التنفيذ.

تشمل إدارة وكلاء الذكاء الاصطناعي القدرات التشغيلية وقدرات الحوكمة التي تستخدمها المؤسسات لنشر وتنسيق والإشراف على وكلاء الذكاء الاصطناعي على نطاق واسع. وعلى الرغم من أن المنصات قد تختلف في نهجها، إلا أن معظم استراتيجيات المؤسسات تركز على مجموعة مماثلة من المكونات الأساسية. ويشمل ذلك ما يلي:

تحدد قدرات الحوكمة القواعد والحدود التي توجه سلوك الوكلاء. يمكن أن تشمل هذه الضوابط مهام سير عمل الموافقة، وسياسات الاستخدام، والقيود التشغيلية، ومتطلبات الامتثال التي تنطبق على مستوى المؤسسة.

تقوم العديد من المؤسسات بتضمين آليات المراجعة البشرية ضمن مهام سير عمل الوكلاء، خاصةً بالنسبة للمهام عالية المخاطر أو مهام الأعمال الحساسة. يمكن أن يتضمن الإشراف البشري الموافقات أو عمليات التصعيد أو التدخل اليدوي عندما يواجه الوكلاء حالة من عدم اليقين أو نتائج غير متوقعة.

غالبًا ما يتفاعل وكلاء الذكاء الاصطناعي مع أنظمة المؤسسة وواجهات برمجة التطبيقات ومصادر البيانات الحساسة. تساعد إدارة الهوية والوصول المؤسسات على التحكم في وصول الوكلاء والإجراءات وإدارة الأذونات بمرور الوقت.

غالباً ما يعتمد وكلاء الذكاء الاصطناعي على أدوات خارجية وبرامج مؤسسية وخدمات سحابية لإكمال المهام. تساعد إدارة التكامل في تنسيق هذه الاتصالات مع الحفاظ على الاتساق التشغيلي عبر المنصات والبيئات. كما تعتمد العديد من المؤسسات أيضاً على بوابة الذكاء الاصطناعي وأدوات إدارة واجهة برمجة التطبيقات وأطر عمل موحدة للموصلات لإدارة التفاعلات بين وكلاء الذكاء الاصطناعي ومقدمي الخدمات الخارجيين.

تتضمن إدارة وكيل الذكاء الاصطناعي أيضًا عمليات النشر والتحديث والاختبار وإحالة الوكلاء إلى التقاعد. تساعد إدارة دورة الحياة المؤسسات في الحفاظ على الاتساق بين البيئات مع دعم التحكم في الإصدار والاستقرار التشغيلي. تقوم بعض المؤسسات بمواءمة هذه الأنشطة مع ممارسات دورة حياة تطوير الوكلاء (ADLC) الأوسع لإدارة أنظمة الذكاء الاصطناعي طوال دورة حياتها التشغيلية.

توفر قابلية الملاحظة رؤية لكيفية تصرف الوكلاء في وقت التشغيل. تستخدم المؤسسات أنظمة المراقبة لتتبع الإجراءات، ومراجعة مسارات اتخاذ القرار، وتحديد الإخفاقات، وتحليل كيفية تفاعل الوكلاء مع المستخدمين أو الأنظمة المتصلة. تساعد لوحات المعلومات التشغيلية ومقاييس الأداء الفرق على مراقبة نشاط الوكلاء بمرور الوقت.

ينظم التنسيق كيفية تنفيذ الوكلاء للمهام وتفاعلهم مع الأنظمة وتعاونهم مع الوكلاء الآخرين. في البيئات متعددة الوكلاء، يمكن لطبقات التنسيق توجيه الطلبات، وتعيين المسؤوليات، وإدارة مهام سير العمل عبر أدوات أو تطبيقات مختلفة.

مع قيام المؤسسات بنشر أعداد أكبر من وكلاء الذكاء الاصطناعي، يتبنى العديد منها مستويات التحكم في الوكلاء لتوفير التنسيق المركزي والإشراف التشغيلي. يعمل مستوى التحكم في الوكلاء كطبقة إدارة تربط التنسيق والحوكمة والمراقبة عبر منظومات الوكلاء. وبدلاً من إدارة الوكلاء بشكل فردي، يمكن للمؤسسات استخدام مستوى تحكم للإشراف على كيفية عمل الوكلاء عبر مهام سير العمل والأنظمة.

عادةً ما تدعم مستويات التحكم في الوكلاء العديد من الوظائف الرئيسية:

• التنسيق المركزي: تنسق مستويات التحكم كيفية تنفيذ الوكلاء للمهام، ومشاركة المعلومات، وتفاعلهم مع الأنظمة أو الوكلاء الآخرين.
  
  
• الحوكمة وإنفاذ السياسات: يمكن للمؤسسات تطبيق السياسات التشغيلية وقيود الوصول ومتطلبات الموافقة عبر جهات متعددة من طبقة مركزية.
  
  
• قابلية الملاحظة والمراقبة: توفر مستويات التحكم رؤية لسلوك وقت التشغيل، وتفاعلات النظام، ونشاط الوكلاء عبر البيئات.
  
  
• إدارة الهوية والأذونات: تساعد العديد من مستويات التحكم المؤسسات على إدارة المصادقة، والوصول إلى النظام، والأذونات القائمة على الأدوار للوكلاء.
  
  
• تنسيق دورة الحياة: تدعم بعض المنصات أيضاً إدارة النشر، وتتبع الإصدارات، والصيانة التشغيلية عبر منظومات الوكلاء.

يعكس التركيز المتزايد على مستويات التحكم في الوكلاء التعقيد المتزايد لبيئات الذكاء الاصطناعي للمؤسسات. مع تحرك المؤسسات نحو أنظمة متعددة الوكلاء مترابطة فيما بينها، أصبحت طبقات الإدارة المركزية أكثر أهمية للحفاظ على الرؤية والتنسيق والاتساق التشغيلي.

تساعد إدارة وكلاء الذكاء الاصطناعي المؤسسات على تنسيق وحوكمة وتوسيع نطاق وكلاء الذكاء الاصطناعي بشكل أكثر فعالية عبر بيئات المؤسسة. ومن بين الفوائد الرئيسية:

• تنسيق أفضل عبر مهام سير العمل: تدعم قدرات التنسيق التعاون بين الوكلاء وأنظمة المؤسسات وعمليات الأعمال. يمكن أن يساعد هذا التنسيق في تبسيط العمليات، وتحسين استخدام الموارد، وخلق قيمة أكبر للأعمال من خلال عمليات نشر الذكاء الاصطناعي.
  
  
• زيادة المساءلة: توفر سجلات التدقيق وأنظمة الموافقة ومراقبة وقت التشغيل سجلات أوضح لكيفية اتخاذ الوكلاء للقرارات وتنفيذ الإجراءات.
  
  
• تحسين الرؤية التشغيلية: تساعد أدوات المراقبة وقابلية الملاحظة المؤسسات على تتبع سلوك الوكلاء، وتفاعلات الأنظمة، ونشاط سير العمل عبر البيئات.
  
  
• عمليات نشر أكثر قابلية للتوسع: تسهل أُطر عمل الإدارة الموحدة على المؤسسات توسيع نطاق استخدام الوكلاء عبر الأقسام دون إنشاء بيئات مجزأة. تساعد أطر العمل هذه أيضاً المؤسسات على إدارة أحمال التشغيل المتزايدة للوكلاء مع دعم قابلية التوسع طويلة الأمد عبر العمليات.
  
  
• تقليل التجزئة التشغيلية: يمكن لطبقة الإدارة الموحدة أن تساعد المؤسسات على تجنب عمليات النشر غير المتصلة وممارسات الحوكمة غير المتسقة.
  
  
• إدارة دورة حياة مبسطة: تساعد عمليات النشر والصيانة المركزية المؤسسات على إدارة التحديثات والاختبار والتحكم في الإصدارات بشكل أكثر كفاءة.
  
  
• حوكمة أقوى: تساعد السياسات المركزية وهياكل الإشراف المركزية المؤسسات على تطبيق معايير تشغيلية متسقة على مستوى العديد من الوكلاء والفرق.

على الرغم من أن إدارة وكلاء الذكاء الاصطناعي تقدم مزايا تشغيلية مهمة، إلا أن المؤسسات تواجه تحديات كبيرة أثناء نشر الوكلاء على نطاق واسع. تنبع العديد من المخاطر من الطبيعة الديناميكية والمستقلة لأنظمة الذكاء الاصطناعي العميلة.

• انتشار الوكلاء: مع بدء المزيد من الفرق في نشر الوكلاء بشكل مستقل، يمكن للمؤسسات أن تفقد بسرعة رؤية عدد الوكلاء الذين يعملون في جميع أنحاء الشركة أو الأنظمة التي يمكن لهؤلاء الوكلاء الوصول إليها. تعالج العديد من المؤسسات هذا التحدي من خلال إدخال طبقات تنسيق مركزية ومعايير حوكمة مشتركة تخلق رؤية تشغيلية أكثر توحيداً.
  
  
• مخاوف الامتثال والمساءلة: قد تواجه المؤسسات صعوبات في توثيق كيفية اتخاذ الوكلاء للقرارات أو تنفيذ الإجراءات، خاصة في القطاعات الخاضعة للوائح التنظيمية. يمكن أن تؤدي محدودية التوثيق وضعف قابلية التدقيق إلى خلق تحديات لفرق الامتثال وجهود الرقابة الداخلية. يمكن أن تساعد سجلات التدقيق وأنظمة إعداد التقارير وسياسات الحوكمة المركزية في دعم المساءلة بشكل أقوى في جميع عمليات الوكلاء.
  
  
• حوكمة غير متسقة: غالباً ما يتم تقديم وكلاء الذكاء الاصطناعي بسرعات مختلفة عبر وحدات الأعمال المختلفة. من دون إشراف مركزي، يمكن للفرق اتباع عمليات موافقة أو ممارسات أمنية أو سياسات تشغيلية مختلفة. يمكن أن تؤدي هذه التناقضات إلى حدوث ارتباك ومخاوف بشأن الامتثال. يمكن لأطر العمل الموحدة مساعدة المؤسسات على تطبيق ضوابط أكثر اتساقاً عبر عمليات النشر.
  
  
• قابلية الملاحظة المحدودة: لا تزال العديد من المؤسسات تفتقر إلى رؤية واضحة لكيفية تصرف الوكلاء أثناء التشغيل. عندما يتفاعل الوكلاء مع أنظمة متعددة أو يتخذون قرارات مستقلة، قد يصبح من الصعب تتبع الإجراءات أو فهم سبب حدوث نتائج معينة. أدوات مراقبة وقت التشغيل والتسجيل والقدرات أصبحت أكثر أهمية لتحسين الشفافية التشغيلية.
  
  
• عدم القدرة على التنبؤ بالعمليات: على عكس أنظمة البرامج التقليدية، يستجيب وكلاء الذكاء الاصطناعي بشكل ديناميكي للمدخلات المتغيرة والمطالبات وظروف وقت التشغيل. يمكن أن تحسن هذه المرونة من القدرة على التكيف، ولكنها أيضًا تجعل السلوك أقل قابلية للتنبؤ به في بعض المواقف. تقلل العديد من المؤسسات من هذا الخطر من خلال دمج عمليات الاختبار، وآليات المراجعة البشرية، والحواجز التشغيلية في مهام سير عمل الوكلاء.
  
  
• مخاطر الأمن والوصول: غالبًا ما يتفاعل وكلاء الذكاء الاصطناعي مع الأنظمة ومصادر البيانات الحساسة، مما قد يخلق تحديات جديدة حول الأذونات وإدارة الهوية. تستخدم المؤسسات بشكل متزايد أطر عمل إدارة الهوية وضوابط الوصول المستندة إلى الأدوار ومهام سير عمل الموافقة للحد من هذه المخاطر.
  
  
• تعقيد سير العمل: قد يصبح من الصعب التنسيق بين البيئات متعددة الوكلاء حيث يتفاعل الوكلاء عبر المنصات والتطبيقات والخدمات الخارجية. يمكن أن يتطور النشر البسيط إلى بيئات شديدة الترابط. مع تزايد التعقيد، يمكن لمنصات التنسيق وممارسات التكامل الموحدة أن تساعد المؤسسات في الحفاظ على تنسيق أكثر اتساقا. ومع توسع عمليات النشر، قد تحتاج المؤسسات أيضاً إلى رقابة قوية على استخدام البنية التحتية وتسعير النماذج.