ما المقصود بإدارة دورة حياة الوكيل؟

تاريخ النشر 23 يونيو 2026
موظفة وموظف ينظران إلى شاشات كمبيوتر في مكتب عصري
By Amanda McGrath and Amanda Downie

إدارة دورة حياة الوكلاء (ALM) هي عملية شاملة لإدارة وكلاء الذكاء الاصطناعي طوال فترة تشغيلهم. وتغطي دورة حياة الوكيل كاملةً، بدءًا من التخطيط والبناء، ومرورًا بالاختبار والنشر والمراقبة والحوكمة والتحسين، وانتهاءً بإيقاف تشغيلهم.

وتوفر إدارة دورة حياة الوكلاء للمؤسسات منهجًا منظمًا لتحديد كيفية تصميم الوكلاء، والبيانات والأدوات التي يُسمح لهم بالوصول إليها، وطريقة تقييم سلوكهم، وكيفية تحديثهم أو إيقاف تشغيلهم.

في بيئات الأعمال، تستند إدارة دورة حياة الوكلاء إلى ممارسات مألوفة في عمليات البرمجيات والأمن والذكاء الاصطناعي، بما في ذلك دورة حياة تطوير البرمجيات (SDLCوDevSecOps، وMLOps. لكن وكلاء الذكاء الاصطناعي يحتاجون إلى ضوابط أكثر، لأنهم قد يستخدمون النماذج اللغوية الكبيرة (LLMs)، ويستدعون الأدوات، ويحتفظون بالسياق، ويخططون لمهام متعددة الخطوات، ويؤتمتون الإجراءات. على عكس التطبيقات التقليدية، قد ينتج الوكلاء مخرجات مختلفة لمدخلات متشابهة، أو يختارون خطوات مختلفة بحسب هدف المستخدم، والسياق المتاح، والأنظمة المتصلة.

مَن هم وكلاء الذكاء الاصطناعي؟

وكيل الذكاء الاصطناعي هو نظام ينفّذ المهام بصورة مستقلة عبر تصميم مهام سير العمل باستخدام الأدوات المتاحة. ويستوعب وكلاء الذكاء الاصطناعي السياق، ويستدلون في ضوء الأهداف والقيود، ويتخذون إجراءات من خلال الأدوات أو الخدمات لإنجاز المهام. ويمكنهم استخدام نموذج لغوي كبير واحد أو أكثر لفهم مقصود المستخدم، وتخطيط الخطوات التالية، واسترجاع المعلومات، واستدعاء واجهات برمجة التطبيقات، وتحديث الأنظمة، وتوليد الاستجابات.

ولأن وكلاء الذكاء الاصطناعي أنظمة قابلة للتكيف، فهم يحتاجون إلى إشراف مستمر. وبما أنهم قادرون على الاستدلال، واتخاذ الإجراءات، واستخدام الأدوات، وتغيير سلوكهم، فلا يكفي أن تدير المؤسسات التعليمات البرمجية وحدها. بل يتعين عليها إدارة نظام الوكيل بكامل عناصره، بما في ذلك الموِّجهات، والنماذج، ومصادر البيانات، وعمليات التكامل، والأذونات، وأدلة التدقيق، والضمانات التشغيلية.

تُستخدم وكلاء الذكاء الاصطناعي في بيئات الأعمال لدعم تكنولوجيا المعلومات، وخدمة العملاء، والعمليات المالية، والامتثال، والموارد البشرية، وتطوير البرمجيات، والعمليات، والأعمال المعرفية. وخلافًا لروبوتات المحادثة الأساسية، يمكن للوكلاء في كثير من الأحيان اتخاذ إجراءات، مثل استرجاع السجلات، وفتح التذاكر، وتحديث الأنظمة، وإعداد التقارير، أو طلب الموافقات. يُوصَف بعض وكلاء الذكاء الاصطناعي بأنهم وكلاء مستقلون أو أنظمة مستقلة، لكن معظم أنظمة الوكلاء في بيئات المؤسسات تُصمَّم باستقلالية خاضعة للضبط، وأذونات محددة، وإشراف بشري على الإجراءات الأعلى خطورة.

إدارة دورة حياة الوكلاء مقارنةً بإدارة النماذج

تركّز إدارة النماذج على نموذج الذكاء الاصطناعي ذاته، بما يشمل إصدارات النموذج، وأدائه، ونشره، ومراقبته. أما إدارة دورة حياة الوكلاء، فنطاقها أوسع. فهي تدير المنظومة الكاملة للوكيل، بما يتجاوز النموذج نفسه، وتشمل الموِّجهات، والأدوات، والذاكرة، ومصادر البيانات، وعمليات تكامل الأنظمة، والتحكم في الوصول، ومسارات التدقيق، وعمليات التقييم، والاستجابة للحوادث، وإيقاف تشغيل الوكيل.

وبعبارة أخرى، تطرح إدارة النماذج سؤالًا مفاده: هل يؤدي النموذج ما هو متوقع منه؟ أما إدارة دورة حياة الوكلاء، فتبحث فيما إذا كان الوكيل بكامل منظومته، بما في ذلك نموذجه وأذوناته وإجراءاته وسياقه الخاص بالأعمال، يعمل بأمان وموثوقية وعلى النحو المنشود.

ما أهمية إدارة دورة حياة الوكلاء؟

تكتسب إدارة دورة حياة الوكلاء أهمية لأن وكلاء الذكاء الاصطناعي ينتقلون من تجارب أولية منعزلة إلى عمليات نشر مؤسسية أوسع نطاقًا. ومع اتساع هذا الانتقال، يصبح الحفاظ على ممارسات الإشراف غير الرسمية أكثر صعوبة. وتحتاج المؤسسات إلى نهج موحّد يمكّنها من معرفة الوكلاء الموجودين، والجهات المسؤولة عنهم، وما يمكنهم الوصول إليه، وكيف يؤدون، ومتى ينبغي تحديثهم أو إيقاف تشغيلهم.

تشير الأبحاث إلى أن تبنّي الوكلاء يتسارع بوتيرة تفوق وتيرة تطور كثير من برامج الحوكمة. وأظهرت IBM 2026 Tech Leader Study أن مسؤولي المعلومات ومسؤولي التقنية (CIOs وCTOs) الذين شملهم الاستطلاع يتوقعون زيادة قدرها 38% في عدد وكلاء الذكاء الاصطناعي المنشورين بحلول عام 2027، بينما قال 11% فقط إنهم مستعدون تمامًا لهذا المستوى من التوسع. كما أظهرت الدراسة أن 77% من المؤسسات التي شملها الاستطلاع أفادت بأن اعتماد الذكاء الاصطناعي يتجاوز بالفعل قدراتها الحالية على الحوكمة. وبالمثل، أظهر استطلاع أُجري عام 2026 لقادة تقنية المعلومات والأعمال أن 21% فقط من المؤسسات أفادت بوجود نموذج حوكمة ناضج معمول به لإدارة مخاطر الذكاء الاصطناعي الوكيل.1

وتكتسب هذه الفجوات أهمية لأن وكلاء الذكاء الاصطناعي ليسوا أدوات برمجية ثابتة. فعادةً ما تعمل البرمجيات التقليدية وفق قواعد محددة: فإذا اتخذ المستخدم إجراءً معينًا، استجاب التطبيق بطريقة يمكن التنبؤ بها. أما وكلاء الذكاء الاصطناعي، فيختلفون عن ذلك. فقد ينتجون مخرجات مختلفة لمدخلات متشابهة. وقد يختار الوكلاء أيضًا خطوات مختلفة بحسب طلب المستخدم، والسياق المتاح، والتفاعلات السابقة، أو الأدوات المتصلة.

وينشأ عن ذلك عدد من متطلبات الإدارة:

  • الأمن: قد يحتاج الوكلاء إلى الوصول إلى أنظمة الأعمال، والبيانات، وواجهات برمجة التطبيقات، أو حسابات الخدمة. ومن دون ضوابط مناسبة للتحكم في الوصول، قد يصبحون هويات غير بشرية مُنحت أذونات أوسع مما يلزم.
  • الموثوقية: قد يرتكب الوكلاء أخطاء، أو ينتجون هلوسات، أو يستدعون أداة غير مناسبة، أو يتعذر عليهم العمل عند حدوث تغيير في إحدى عمليات التكامل.
  • الحوكمة: تحتاج المؤسسات إلى معرفة الوكلاء المستخدمين، والجهات المسؤولة عنهم، وما يمكنهم الوصول إليه، وما إذا كانوا يلبون السياسات الداخلية أو المتطلبات التنظيمية.
  • إمكان التتبع: تحتاج الفرق إلى مسارات تدقيق توضح ما فعله الوكيل، والأدوات التي استخدمها، والبيانات التي وصل إليها، وسبب اتخاذ قرار أو تنفيذ إجراء معين.
  • المرونة التشغيلية: عندما يتصرف الوكيل على نحو غير متوقع، تحتاج الفرق إلى وسائل لإيقافه مؤقتًا، وسحب صلاحية وصوله، والتراجع عن التغييرات، والتحقيق في المشكلة، واستعادة الخدمة.

تساعد إدارة دورة حياة الوكلاء (ALM) على تلبية هذه الاحتياجات من خلال إضفاء إطار منظم على دورة حياة الوكيل بأكملها. كما تساعد المؤسسات على تجاوز المراجعات المتفرقة غير المنهجية، عبر وضع عمليات قابلة للتكرار لاعتماد الوكلاء، واختبارهم، ونشرهم، ومراقبتهم، وتحديثهم، وإيقاف تشغيلهم على امتداد دورة حياتهم. وتساعد أيضًا على إدارة مخاطر مثل الذكاء الاصطناعي الظلي، والأذونات المفرطة، وقصور قابلية الملاحظة، والتغييرات التي تطرأ على الموِّجهات أو إصدارات النماذج، وزمن الانتقال، وانكشاف البيانات، والسلوك غير المتسق.

أكاديمية الذكاء الاصطناعي

كن خبيرًا في الذكاء الاصطناعي

اكتسب المعرفة لتحديد أولويات استثمارات الذكاء الاصطناعي التي تدفع نمو الأعمال. ابدأ مع أكاديمية الذكاء الاصطناعي المجانية اليوم وتولَّ زمام المبادرة لتعزيز مستقبل الذكاء الاصطناعي في مؤسستك.

كيف تعمل إدارة دورة حياة الوكلاء

ويمكن تنظيم نموذج عملي لإدارة دورة حياة الوكلاء حول المراحل الرئيسية الآتية:

1. وضع التصوّر والتخطيط

تبدأ دورة الحياة بتحديد مشكلة الأعمال التي يُراد أن يعالجها الوكيل، ثم تقرير ما إذا كان الوكيل هو النهج المناسب لمعالجتها. فبعض المشكلات قد يكون من الأنسب التعامل معها باستخدام الأتمتة التقليدية، أو البحث، أو مهام سير العمل القائمة على القواعد، أو موِّجه بسيط.

وخلال مرحلة التخطيط، تحدد الفرق الغرض من الوكيل، والمستخدمين المستهدفين، والجهة المسؤولة عنه من جانب الأعمال، ومقاييس النجاح، وملف المخاطر. كما تحدد المستوى المناسب من الاستقلالية. فعلى سبيل المثال، يحتاج وكيل يوجز المستندات الداخلية إلى ضوابط أقل من وكيل يحدّث سجلات العملاء أو يشغّل مهام سير عمل مالية.

وتشمل أنشطة التخطيط المعتادة ما يلي:

  • تحديد النتائج المرجوة للأعمال
  • وضع مؤشرات الأداء الرئيسية، مثل الدقة، وإتمام المهام، وزمن الانتقال، والتكلفة، ورضا المستخدمين
  • تحديد مصادر البيانات وعمليات تكامل الأنظمة
  • وضع حدود الصلاحيات ونقاط الموافقة البشرية
  • تقييم متطلبات الامتثال
  • تحديد آلية تقييم الوكيل قبل إصداره

2. البناء والتهيئة

في هذه المرحلة، تصمم الفرق المكوّنات التي يتألف منها نظام الوكيل، وتضبط إعداداتها. ويشمل ذلك النماذج التي سيستخدمها الوكيل، والموِّجهات التي توجه سلوكه، والأدوات التي يمكنه استدعاؤها، والبيانات التي يمكنه استرجاعها، ومهام سير العمل التي يمكنه تنفيذها.

وغالبًا ما تتضمن تهيئة الوكيل ما يلي:

  • قوالب الموِّجهات وتعليمات النظام
  • اختيار النموذج وتتبع إصداراته
  • تعريفات الأدوات ومخططات واجهات برمجة التطبيقات
  • سياسات إدارة الذاكرة والسياق
  • التوليد المعزز بالاسترجاع أو الربط بقواعد المعرفة
  • التحكم في الوصول وتهيئة الهوية
  • التسجيل والتتبع وأدوات القياس البرمجي لرصد بيانات القياس عن بُعد
  • مسارات التصعيد للمراجعة البشرية

يتمثل أحد المبادئ الأساسية في ضرورة التعامل مع الموِّجهات والأدوات والنماذج والسياسات بوصفها عناصر تخضع لإدارة دورة حياة منظمة، لا مجرد تفاصيل ضبط غير رسمية. فأي تغيير يطرأ على أحد هذه العناصر قد يؤثر في السلوك؛ لذا ينبغي إدارة إصداراتها، ومراجعتها، وتوثيقها.

وفي سياق الاستخدام المؤسسي، ينبغي ألا يُمنح الوكلاء سوى ما يلزمهم من صلاحيات لاستخدام الأدوات والوصول إلى البيانات لتحقيق الغرض المعتمد لهم. كما يحتاج المديرون البشريون إلى تطبيق ضوابط على الوكلاء المسؤولين عنهم، مثل التحكم في الوصول المستند إلى الأدوار، وحوكمة حسابات الخدمة، والوصول المؤقت عند الحاجة، حيثما كان ذلك مناسبًا.

3. الاختبار والتقييم

ولا يقتصر اختبار وكيل الذكاء الاصطناعي على التحقق من عمل البرمجيات. بل يتعين على الفرق أيضًا تقييم مدى تصرف الوكيل وفق المتوقع عبر مجموعة متنوعة من المهام والمدخلات والمستخدمين وظروف النظام.

وقد تشمل هذه المرحلة ما يلي:

  • اختبار وظائف الأدوات وعمليات التكامل
  • تقييم الموِّجهات والاستجابات
  • الاختبار الانحداري
  • اختبارات أمنية للكشف عن حَقن الموِّجهات وتسرب البيانات
  • التحقق من الهلوسة ومدى استناد المخرجات إلى المعلومات المتاحة
  • اختبار الامتثال للسياسات
  • اختبار الموافقات بمشاركة العنصر البشري
  • اختبار التحميل
  • اختبار A/B
  • مقارنات بين النموذج المعتمد والنموذج المنافس
  • اختبارات الفرق الحمراء لحالات الاستخدام عالية المخاطر

4. ينشر وتوفير الموارد

بعد اجتياز الوكيل عمليات التحقق المطلوبة، يمكن نشره في بيئة خاضعة للضبط. ويشمل النشر إتاحة الوكيل للمستخدمين أو الأنظمة، وإعداد بيئة وقت التشغيل الخاصة به، وتفعيل الهويات والأذونات وعمليات التكامل التي يحتاج إليها للعمل.

وتشمل الممارسات الشائعة إطلاق الإصدارات عبر مسارات CI/CD، والفصل بين بيئات التطوير والاختبار والإنتاج، وتثبيت إصدارات النماذج والموِّجهات، والنشر التدريجي، ومفاتيح تفعيل الميزات، وخطط التراجع، وإدارة الأسرار، والتحكم في الوصول في وقت التشغيل. وقد يحتاج بعض الوكلاء أيضًا إلى آلية تحديد الوصول (sandbox)، ولا سيما إذا كانوا ينفذون تعليمات برمجية، أو يعالجون بيانات حساسة، أو يستخدمون أدوات خارجية.

وتكتسب عملية توفير الموارد أهمية خاصة لأن الوكلاء قد ينفذون إجراءات عبر واجهات برمجة التطبيقات أو تطبيقات المؤسسات. وينبغي أن تقتصر بيانات الاعتماد وحسابات الخدمة والأذونات على الدور المعتمد للوكيل. وقد تخضع الإجراءات الحساسة لعمليات موافقة، أو حدود لمعدل الاستخدام، أو مفاتيح إيقاف طارئة.

5. المراقبة والتحسين

بعد النشر، تستمر إدارة دورة حياة الوكلاء من خلال قابلية الملاحظة والتقييم والتحسين. وتتابع الفرق سلامة التشغيل من الناحية التقنية وجودة السلوك، بما في ذلك:

  • المدخلات والمخرجات ومسارات تتبع المحادثات
  • استدعاءات الأدوات واستجاباتها
  • زمن الانتقال ومعدل المعالجة
  • معدلات الأخطاء وأنواع الإخفاقات
  • استخدام الرموز المميزة والتكلفة
  • معدلات نجاح المهام
  • تعليقات المستخدمين
  • انتهاكات السياسات
  • مؤشرات الهلوسة ومدى استناد المخرجات إلى مصادر موثوقة
  • معدلات التصعيد والموافقة
  • الأحداث الأمنية وأنماط الوصول غير المعتادة

إذا كشفت المراقبة عن تراجع في الأداء، أو سلوك غير متوقع، أو تغير في احتياجات الأعمال، فيمكن للفرق تنقيح الموِّجهات، وتحديث النماذج، وضبط مصادر استرجاع المعلومات، وتعديل الأذونات، أو إعادة تصميم مهام سير العمل. وينبغي أن تخضع هذه التغييرات لضوابط دورة الحياة ذاتها التي خضع لها الإصدار الأول، بما في ذلك الاختبار والتقييم والموافقة والتوثيق.

وقد يأتي وقت يحتاج فيه الوكيل إلى إيقاف تشغيله. وينبغي أن تتضمن عملية إيقاف التشغيل تعطيل نقاط النهاية، وسحب بيانات الاعتماد، وإزالة حسابات الخدمة، والاحتفاظ بالسجلات المطلوبة، وأرشفة الأدلة، وإخطار المستخدمين، وتحديث الكتالوجات.

الأدوات والقدرات الأساسية لإدارة دورة حياة الوكلاء

تعتمد إدارة دورة حياة الوكلاء على مزيج من قدرات التطوير والأمن والمراقبة والحوكمة. وتساعد هذه الأدوات المؤسسات، مجتمعةً، على بناء الوكلاء، والتحكم في ما يمكنهم الوصول إليه، وفهم سلوكهم، وإدارتهم بمرور الوقت.

تطوير الوكلاء وتنسيق العمليات

تساعد أدوات التطوير الفرق على تصميم الطريقة التي يستدل بها الوكلاء، ويخططون للمهام، وينجزونها. ويمكن أن تدعم قوالب الموِّجهات، والذاكرة، واستدعاء الأدوات، وتنسيق مهام سير العمل، ومراحل الموافقة البشرية. وفي بيئات المؤسسات، ترتبط هذه الأدوات غالبًا بعمليات تسليم البرمجيات، بما يتيح مراجعة التغييرات التي تطرأ على الوكلاء واختبارها وإصدارها عبر مسار CI/CD خاضع للضبط.

إدارة الإصدارات والتهيئة

لا تعتمد الوكلاء على التعليمات البرمجية وحدها. فقد يتغير سلوك الوكيل عند تعديل موِّجه، أو إصدار نموذج، أو مخطط أداة، أو مصدر بيانات، أو إعداد. وتساعد إدارة الإصدارات على تتبع الموِّجهات، والنماذج، والأدوات، ومصادر المعرفة، ومجموعات بيانات التقييم، وسجل الإصدارات.

إدارة تكامل الأدوات والأنظمة

غالبًا ما تتصل الوكلاء بأنظمة التذاكر، ومنصات إدارة علاقات العملاء (CRM)، وقواعد البيانات، ومستودعات المستندات، وأدوات مهام سير العمل. وينبغي أن تتضمن عمليات التكامل هذه مخططات واضحة، وأذونات محددة، ومسارات تدقيق. ويمكن لمعايير مثل Model Context Protocol (MCP) أن تجعل الوصول إلى الأدوات أكثر اتساقًا، عبر تحديد الكيفية التي يكتشف بها الوكلاء الأدوات والموارد والموِّجهات ويستدعونها. كما تتيح البوابات إدارة مركزية للمصادقة، والتفويض، والتوجيه، وحدود المعدل، وعمليات الموافقة، والتسجيل، وآليات الإيقاف الطارئ.

الهوية والتحكم في الوصول

نظرًا لأن الوكلاء قد ينفذون إجراءات داخل أنظمة المؤسسة، فإنهم يحتاجون إلى هويات وأذونات مُدارة. وتشمل القدرات الأساسية التحكم في الوصول المستند إلى الأدوار، والأذونات القائمة على مبدأ الحد الأدنى من الامتيازات، والوصول في الوقت المناسب، وإدارة الأسرار، وحوكمة حسابات الخدمة، ومهام سير عمل الموافقة، والمراجعات الدورية للوصول. والغاية هي ضمان ألا يتمكن كل وكيل من الوصول إلا إلى ما يحتاج إليه لتحقيق الغرض المعتمد له.

الاختبار والتقييم

تقيس أدوات التقييم مدى تصرف الوكلاء على النحو المقصود قبل النشر وبعده. وقد يشمل ذلك اختبارات الانحدار، واختبار A/B، واختبار حَقن الموِّجهات، والتحقق من الهلوسة ومدى استناد المخرجات إلى المعلومات المتاحة، والتحقق من الامتثال للسياسات، والمراجعة البشرية، واختبارات الفرق الحمراء. وينبغي أن يقيّم الاختبار المخرجات النهائية والخطوات الوسيطة على السواء، مثل استدعاءات الأدوات وقرارات التوجيه.

قابلية الملاحظة والاستجابة للحوادث

ترصد أدوات قابلية الملاحظة المدخلات والمخرجات ومسارات التتبع واستدعاءات الأدوات وزمن الانتقال والأخطاء واستخدام الرموز المميزة والتكلفة وانتهاكات السياسات وعمليات التصعيد والأحداث الأمنية. وتدعم هذه البيانات استكشاف الأخطاء وإصلاحها، ومسارات التدقيق، والاستجابة للحوادث. وتساعد الضوابط التشغيلية، مثل التنبيهات، وأدلة التشغيل، وإجراءات التراجع، وقواطع الدوائر، ومفاتيح الإيقاف الطارئ، الفرق على احتواء المشكلات واستعادة الخدمة.

الحوكمة والفهرسة

تحتفظ أدوات حوكمة الذكاء الاصطناعي بسجلات للوكلاء المعتمدين، والجهات المسؤولة عنهم، ومستويات المخاطر، وإصدارات النماذج، والموِّجهات، والأدوات، والأذونات، والتقييمات، والموافقات، وحالة إيقاف التشغيل. وتكتسب هذه السجلات أهمية خاصة مع انتقال المؤسسات من تجارب أولية محدودة إلى إدارة أعداد كبيرة من الوكلاء.

فوائد إدارة دورة حياة الوكلاء

تساعد إدارة دورة حياة الوكلاء المؤسسات على إدارة وكلاء الذكاء الاصطناعي بمزيد من الاتساق والرؤية والتحكم. تشمل الميزات الرئيسية ما يلي:

  • رؤية أوضح: يوضح سجل الوكلاء أي الوكلاء موجود، والجهة المسؤولة عن كلٍ منهم، وما يفعله، والأنظمة التي يصل إليها، والإصدارات المستخدمة حاليًا.
  • أمن أقوى: تعزز ضوابط التحكم في الوصول، مثل التحكم في الوصول المستند إلى الأدوار، ومبدأ الحد الأدنى من الامتيازات، والوصول في الوقت المناسب، الحماية من مخاطر حسابات الخدمة الممنوحة أذونات مفرطة والهويات غير البشرية غير المُدارة.
  • إمكانية تتبُّع أفضل: تساعد مسارات التدقيق وسجلات التتبع الفرق على فهم ما فعله الوكيل، والأدوات التي استخدمها، والتغييرات التي طرأت بين الإصدارات.
  • إصدارات أكثر موثوقية: تحد اختبارات الانحدار، وبوابات التقييم، وضوابط مسارات CI/CD من خطر أن تؤدي التغييرات في الموِّجهات أو النماذج أو البيانات أو الأدوات إلى سلوك غير متوقع.
  • استجابة أسرع للحوادث: تساعد المراقبة، وخطط التراجع، ومفاتيح الإيقاف الطارئ، وأدلة التشغيل الفرق على الاستجابة عند تعطل الوكلاء، أو انحراف أدائهم، أو تصرفهم على نحو غير متوقع.
  • توافق أوضح مع أهداف الأعمال: يمكن لمقاييس التقييم أن تربط أداء الوكيل بنتائج مثل معدل حل الحالات، ومعدل الاحتواء، ووقت المعالجة، ورضا العملاء، وتكلفة كل نتيجة.

تحديات إدارة دورة حياة الوكلاء

لا تقضي إدارة دورة حياة الوكلاء على مخاطر وكلاء الذكاء الاصطناعي، لكنها توفر إطارًا لإدارتها. تشمل التحديات ما يلي:

  • تباين السلوك: يمكن للنماذج اللغوية الكبيرة (LLMs) أن تنتج مخرجات مختلفة لمدخلات متشابهة، مما يصعّب الاختبار وتحليل الأسباب الأساسية.
  • الهلوسة: قد ينشئ الوكلاء إجابات لا تستند إلى معلومات موثوقة، أو يستخدمون سياقًا غير صحيح. ويمكن للتحقق من استناد المخرجات إلى المعلومات المتاحة، إلى جانب المراجعة البشرية، الحد من هذا الخطر، لكنه لا يزيله تمامًا.
  • سطح هجوم أوسع: قد يؤثر الوكلاء القادرون على استخدام الأدوات في أنظمة فعلية، مما ينشئ مخاطر مثل حَقن الموِّجهات، وإساءة استخدام واجهات برمجة التطبيقات، وتسميم الذاكرة، وتصعيد الامتيازات، والإجراءات غير المصرّح بها.
  • زمن الانتقال والتكلفة: قد يستخدم الوكلاء عدة استدعاءات للنماذج، وخطوات لاسترجاع المعلومات، واستدعاءات للأدوات، مما يزيد وقت الاستجابة وتكلفة التشغيل.
  • أعباء الحوكمة: تتطلب السجلات، والموافقات، والتقييمات، ومسارات التدقيق، وسجل الإصدارات تنسيقًا مستمرًا بين الفرق.
  • الذكاء الاصطناعي الظلي: قد ينشئ الموظفون وكلاء غير معتمدين أو يستخدمونهم خارج العمليات الرسمية، مما يجعل اكتشافهم والتحكم فيهم أكثر صعوبة.

أمثلة وحالات استخدام لإدارة دورة حياة الوكلاء

تُستخدم وكلاء الذكاء الاصطناعي في خدمة العملاء، ودعم تكنولوجيا المعلومات، والموارد البشرية، والعمليات المالية، والشؤون القانونية، والامتثال، وتطوير البرمجيات، والعمليات، وإدارة المعرفة. وتكتسب إدارة دورة حياة الوكلاء أهمية خاصة عندما يتجاوز دور هؤلاء الوكلاء الإجابة عن الأسئلة البسيطة إلى استخدام الأدوات، والوصول إلى البيانات الخاضعة للحوكمة، وتنفيذ إجراءات ضمن مهام سير العمل.

ومن الأساليب العملية لتقييم حالات الاستخدام هذه طرح السؤال الآتي: ما الذي يمكن للوكيل الوصول إليه أو تعديله أو تشغيله؟ فكلما زادت درجة تفاعل الوكيل مع البيانات الحساسة، أو العمليات الخاضعة للتنظيم، أو أنظمة الإنتاج، ازدادت أهمية ضوابط إدارة دورة الحياة.

وفي حالات الاستخدام منخفضة المخاطر، قد تكفي المراقبة الأساسية وإدارة الإصدارات. أما حالات الاستخدام الأعلى خطورة، فتتطلب المؤسسات فيها غالبًا مؤشرات أداء رئيسية محددة، والتحكم في الوصول المستند إلى الأدوار، ومسارات للموافقة البشرية، وعتبات للتقييم، ومسارات تدقيق، وقابلية الملاحظة، وخططًا للاستجابة للحوادث، وإجراءات إيقاف تشغيل الوكلاء.

كيف يُطبَّق ذلك عمليًا؟ لنفترض أن شركة تنشر وكيل ذكاء اصطناعي لمساعدة مديري العلاقات في التحضير لاجتماعات العملاء. أثناء التطوير، يحدد فريق الذكاء الاصطناعي مصادر البيانات المعتمدة للوكيل، وأذونات الوصول، وقواعد التصعيد، ومقاييس النجاح، مثل مقدار الوقت الموفر، ودقة الاستجابات، ورضا المستخدمين. وقبل الإطلاق، يُختبر الوكيل وفق سيناريوهات نموذجية للعملاء، وتُراجع المخاطر المرتبطة بالامتثال. كما يُربط بأدوات مراقبة ترصد المخرجات، وزمن الانتقال، وأنماط الاستخدام، والحالات الاستثنائية.

بعد النشر، تتعامل الشركة مع الوكيل بوصفه أصلًا رقميًا مُدارًا، لا مشروعًا يُنفذ لمرة واحدة. يراجع مالك المنتج لوحات معلومات الأداء، وتدقق فرق الامتثال التفاعلات عالية المخاطر، بينما يعيد علماء البيانات تدريب الوكيل أو ضبطه عند تغير السياسات أو المنتجات أو احتياجات العملاء. وعندما يفيد المستخدمون بأن بعض التوصيات مربكة، يحدّث الفريق الموِّجهات، ومصادر استرجاع المعلومات، وحواجز الحماية. ومع مرور الوقت، تضيف الشركة قدرات جديدة، وتُخرج مهام سير العمل غير المستخدمة من الخدمة، وتوثق كل إصدار. ويساعد هذا النهج القائم على إدارة دورة الحياة المؤسسة على توسيع نطاق استخدام الذكاء الاصطناعي الوكيل، مع الحفاظ على المساءلة والأمن والأداء والمواءمة مع أهداف الأعمال.

يوضح هذا المثال الافتراضي عملية إدارة دورة حياة الوكلاء من بدايتها إلى نهايتها. ومن أمثلة التطبيق الفعلي في القطاعات المختلفة:

الموارد البشرية

يوضح وكيل الموارد البشرية الداخلي لدى IBM، AskHR، كيف يمكن لإدارة دورة حياة الوكلاء أن تدعم الأتمتة على مستوى المؤسسة، مع توفير مسارات للتصعيد إلى العنصر البشري. وبفضل تعزيز قدراته باستخدام ®IBM® watsonx Orchestrate، يدعم AskHR أكثر من 80 مهمة للموارد البشرية، ويتعامل سنويًا مع ما يزيد على 2.1 مليون محادثة مع الموظفين. ويتكامل مع أنظمة مثل Workday وSAP وConcur، ما يتيح للموظفين الاستفسار عن كشوف الرواتب أو طلبات الإجازة، كما يتيح للمديرين بدء مهام سير عمل، مثل النقل الوظيفي أو تحديثات الهيكل التنظيمي.

من منظور إدارة دورة حياة الوكلاء، تتطلب هذه القدرات حدودًا واضحة للصلاحيات، وضوابط للتكامل، وإمكانية التدقيق، ومنطقًا للتوجيه. وقد حقق AskHR معدل احتواء بلغ 94% للأسئلة الشائعة، وأسهم في خفض عدد تذاكر الدعم المُنشأة بنسبة 75% منذ عام 2016، كما ساعد في خفض التكاليف التشغيلية للموارد البشرية بنسبة 40% على مدى أربع سنوات.

الرعاية الصحية

في قطاع الرعاية الصحية، تساعد إدارة دورة حياة الوكلاء على إدارة الوكلاء القادرين على التفاعل مع المعلومات الصحية المحمية ومهام سير العمل الخاضعة للتنظيم. طبقت إحدى كبرى مؤسسات تمويل الرعاية الصحية في الولايات المتحدة إمكانات روبوتات المحادثة القائمة على الذكاء الاصطناعي الوكيل والمساعدة الصوتية لخدمات الأعضاء ضمن بيئة متوافقة مع HIPAA. نظرًا إلى أن الوصول إلى البيانات التاريخية لمركز الاتصال كان مقيّدًا، أنشأ الفريق بيانات مرجعية موثوقة أو ولّدها اصطناعيًا لتقييم سلوك الوكيل بأمان.

شملت عملية إدارة دورة الحياة مؤشرات أداء رئيسية لقياس حل الحالات والاحتواء وزمن الانتقال والسلامة، إلى جانب موِّجهات وعمليات تكامل خاضعة لإدارة الإصدارات، ووصول إلى الأدوات وفق مبدأ الحد الأدنى من الامتيازات، وتقييم منهجي، والتحقق من الامتثال، والاختبارات الأمنية، واختبارات الفرق الحمراء، وقابلية ملاحظة موحّدة. ورصدت المراقبة المقاييس التقنية، مثل زمن الانتقال والأخطاء، إلى جانب مقاييس الأعمال، مثل الاحتواء وحل الحالات ورضا المستخدمين.

العمليات القانونية

طوّرت Dynamiq، شريك أعمال IBM، وكيلًا قانونيًا مدعومًا بالذكاء الاصطناعي باستخدام IBM watsonx.data ونماذج الأساس IBM Granite وIBM watsonx Orchestrate، لمساعدة الفرق القانونية على البحث في العقود وتقارير الامتثال والمستندات التنظيمية، ومقارنتها وتحليلها. ودعم الوكيل البحث الدلالي في العقود، والتحليل المقارن، وتقييم الامتثال على مستوى البنود. كما ساعد الفرق على العثور على الصياغات ذات الصلة، ورصد المسائل التنظيمية المثيرة للقلق، واكتشاف الانحرافات عن السياسات، وإحالة المستندات لاعتمادها.

ومن منظور إدارة دورة حياة الوكلاء، تطلبت حالة الاستخدام هذه استيعاب البيانات الخاضع للحوكمة، وضوابط استرجاع المعلومات، وتكامل أنظمة الأعمال، ومسارات التصعيد للمراجعة القانونية، ومواءمة النماذج مع المهام. واستخدمت Dynamiq أيضًا نماذج Granite الأصغر حجمًا لتنفيذ مهام الامتثال الروتينية، بهدف تحقيق توازن بين الأداء وزمن الانتقال والتكلفة.

المؤلفون

Amanda McGrath

Staff Writer

IBM Think

Amanda Downie

Staff Editor

IBM Think

حلول ذات صلة
وكلاء الذكاء الاصطناعي للأعمال

يمكنك إنشاء مساعدين ووكلاء ذكاء اصطناعي ووكلاء أقوياء يعملون على أتمتة مهام سير العمل والعمليات باستخدام الذكاء الاصطناعي التوليدي ونشرها وإدارتها.

    استكشف watsonx Orchestrate
    حلول وكلاء الذكاء الاصطناعي من IBM

    يمكنك بناء مستقبل عملك باستخدام حلول الذكاء الاصطناعي الجديرة بالثقة.

    استكشف حلول وكلاء الذكاء الاصطناعي
    خدمات الذكاء الاصطناعي لدى IBM Consulting

    تساعد خدمات IBM Consulting AI في إعادة تصور طريقة عمل الشركات باستخدام حلول الذكاء الاصطناعي من أجل النهوض بأعمالها.

    استكشف خدمات الذكاء الاصطناعي
    اتخِذ الخطوة التالية

    سواء اخترت تخصيص التطبيقات والمهارات المُعدّة مسبقًا أو إنشاء خدمات مخصصة مستندة إلى وكلاء ونشرها باستخدام استوديو الذكاء الاصطناعي، فإن منصة IBM watsonx تُلبي احتياجاتك.

    1. استكشف watsonx Orchestrate
    2. استكشف watsonx.ai