لماذا تُعدّ قابلية الملاحظة ضرورية لوكلاء الذكاء الاصطناعي

مع استمرار الإثارة التي تسود عالم الأعمال حول الذكاء الاصطناعي (AI)، يتجه الاهتمام الآن إلى أحدث أشكال هذه التقنية: وكلاء الذكاء الاصطناعي.

على عكس نماذج الذكاء الاصطناعي التقليدية، يمكن لوكلاء الذكاء الاصطناعي اتخاذ القرارات دون إشراف بشري مستمر. فهي تعمل بشكل مستقل لتحقيق أهداف معقدة مثل الإجابة على أسئلة العملاء، أو تحسين سلسلة التوريد أو تحليل بيانات الرعاية الصحية لتقديم تشخيص.

على المستوى التطبيقي، هذا يعني أن وكلاء الذكاء الاصطناعي يمكنها التعامل مع مهام سير العمل بالكامل من البداية إلى النهاية—مثل معالجة مطالبات التأمين تلقائيًا أو إدارة مستويات المخزون—بدلاً من مجرد تقديم التوصيات.

تشير التقديرات الأخيرة إلى أن المؤسسات تتبنى وكلاء الذكاء الاصطناعي بسرعة. أظهر استطلاع أجرته KPMG أن 88% من المؤسسات إما تستكشف أو تختبر مبادرات وكلاء الذكاء الاصطناعي¹. وتتوقع مؤسسة Gartner أنه بحلول عام 2028، سيتضمن أكثر من ثلث تطبيقات البرامج المؤسسية الذكاء الاصطناعي الوكيل—وهو التقنية الأساسية التي تمكّن وكلاء الذكاء الاصطناعي.²

ومع ذلك، فإن القدرات ذاتها التي تجعل وكلاء الذكاء الاصطناعي قيّمة للغاية يمكن أن تجعل من الصعب أيضًا مراقبتها وفهمها والتحكم فيها.

يستخدم وكلاء الذكاء الاصطناعي نماذج لغوية كبيرة (LLMs) للتفكير وإنشاء مهام سير العمل وتقسيم المهام إلى مهام فرعية. وهم يصلون إلى الأدوات الخارجية—مثل قواعد البيانات ومحركات البحث والآلات الحاسبة—ويستخدمون الذاكرة لتذكر المحادثات السابقة ونتائج المهام.

في حين أن هذه العملية تمكنهم من العمل بشكل مستقل، فإنها تجعلهم أيضًا أقل شفافية بكثير من التطبيقات التقليدية المبنية على قواعد ومنطق صريح ومُحدد مسبقًا.

يمكن أن تؤدي هذه التعقيدات الكامنة والافتقار إلى الشفافية إلى صعوبة تتبع كيفية قيام وكلاء الذكاء الاصطناعي بإنشاء مخرجات محددة. بالنسبة إلى المؤسسات، يمكن أن يشكل ذلك مخاطر كبيرة، من ضمنها:

• انتهاكات الامتثال: عندما يتعامل الوكلاء مع البيانات الحساسة، لا تستطيع المؤسسات إظهار عمليات اتخاذ القرار أو إثبات الالتزام باللوائح التنظيمية.
• الإخفاقات التشغيلية: من دون وضوح الرؤية في منطق الوكلاء، يمكن أن تكافح الفرق لتحديد الأسباب الأساسية أو منع تكرار الأخطاء.
• تآكل الثقة: يمكن أن تؤدي تصرفات الوكيل غير المبررة إلى الإضرار بثقة الأطراف المعنية، خاصة عندما يتخذ الوكلاء قرارات تجارية حاسمة أو يتفاعلون مباشرةً مع العملاء.

وللتخفيف من هذه المخاطر، تلجأ المؤسسات بشكل متزايد إلى قابلية الملاحظة لاكتساب رؤى حول سلوك وكلاء الذكاء الاصطناعي وأدائهم.

قابلية ملاحظة وكلاء الذكاء الاصطناعي هي عملية مراقبة وفهم السلوكيات الشاملة للنظام البنائي للوكيل، بما في ذلك أي تفاعلات قد يجريها وكيل الذكاء الاصطناعي مع النماذج اللغوية الكبيرة والأدوات الخارجية.

تأتي من الممارسة الأوسع لـ قابلية الملاحظة، وهي القدرة على فهم الحالة الداخلية للنظام من خلال تحليل بيانات القياس عن بُعد الخاصة به—أي مخرجاته الخارجية، مثل المقاييس، الأحداث، السجلات، والتتبع، والمعروفة إجمالاً باسم "بيانات MELT".  

يمكن للمؤسسات، باستخدام قابلية ملاحظة وكلاء الذكاء الاصطناعي، تقييم أداء الوكيل عبر جمع البيانات المتعلقة بالإجراءات، والقرارات، واستخدام الموارد. يساعد ذلك في الإجابة على الأسئلة الحساسة، مثل:

• هل يقدم الوكيل إجابات دقيقة ومفيدة؟
• هل يستخدم الوكيل قوة المعالجة بكفاءة؟
• هل يستخدم الوكيل الأدوات المناسبة لتحقيق أهدافه؟
• ما هي الأسباب الأساسية للمشاكل مع الوكيل؟
• هل يمتثل الوكيل لأخلاقيات الذكاء الاصطناعي وتفويضات حماية البيانات؟

باستخدام هذه الرؤى، يمكن للمؤسسات استكشاف المشكلات وتصحيحها بشكل أكثر فعالية وتحسين الأداء وموثوقية وكلاء الذكاء الاصطناعي. 

تستخدم الأنظمة متعددة الوكلاء عدة وكلاء ذكاء اصطناعي يعملون معًا لإنجاز مهام معقدة، مثل أتمتة مسار مبيعات المؤسسة أو الإجابة على الأسئلة وإنشاء تذاكر لنظام دعم تكنولوجيا المعلومات.

على عكس الأنظمة ذات الوكيل الواحد، حيث يمكن غالبًا تتبع الأخطاء إلى مكون محدد، فإن الأنظمة متعددة الوكلاء أكثر تعقيدًا بكثير. مع وجود العديد من التفاعلات بين وكلاء الذكاء الاصطناعي المستقلين، هناك احتمال أكبر لسلوك غير متوقع.

توفر قابلية ملاحظة وكلاء الذكاء الاصطناعي رؤى هامة في الأنظمة متعددة الوكلاء هذه. فهي تساعد المطورين على تحديد الوكيل أو التفاعل المسؤول عن مشكلة ما، وتوفر رؤية واضحة لمهام سير العمليات المعقدة التي تنشئها هذه الوكلاء. كما أنها تساعد على تحديد السلوكيات والأنماط الجماعية التي قد تتصاعد وتسبب مشاكل مستقبلية.

على سبيل المثال، في نظام حجز سفر متعدد الوكلاء يتضمن وكلاء منفصلين للرحلات الجوية والفنادق وتأجير السيارات، قد تفشل عملية الحجز في أي مرحلة. يمكن لأدوات قابلية الملاحظة تتبع العملية بأكملها بشكل شامل لتحديد مكان وسبب الفشل بدقة.  

تستخدم العديد من المؤسسات حلول مصدر مفتوح مثل IBM BeeAI و LangChain و LangGraph و AutoGen لبناء أنظمة متعددة الوكلاء بشكل أسرع وأكثر أمانًا. توفر هذه الحلول مجموعة أدوات لتطوير البرمجيات (SDK) مع أدوات لإنشاء وكلاء الذكاء الاصطناعي وإطار عمل الذكاء الاصطناعي الوكيل—وهو المحرك الذي يدير وينسق الوكلاء.

تعمل إمكانية ملاحظة وكلاء الذكاء الاصطناعي من خلال جمع وتحليل بيانات القياس عن بُعد التي تلتقط مقاييس النظام التقليدية والسلوكيات الخاصة بالذكاء الاصطناعي. يمكن للفرق بعد ذلك استخدام هذه البيانات لفهم قرارات الوكيل واستكشاف المشكلات وإصلاحها وتحسين الأداء.

تستخدم قابلية ملاحظة وكيل الذكاء الاصطناعي نفس بيانات القياس عن بُعد المستخدمة في حلول قابلية الملاحظة التقليدية، ولكنها تتضمن أيضًا نقاط بيانات إضافية فريدة لأنظمة الذكاء الاصطناعي التوليدي—مثل: استخدام الرمز المميز، وتفاعلات الأدوات، ومسارات اتخاذ القرار للوكيل. لا تزال هذه الإشارات الخاصة بالذكاء الاصطناعي تندرج ضمن MELT (المقاييس والأحداث والسجلات والتتبعات). 

بالإضافة إلى مقاييس الأداء التقليدية التي يتم جمعها بواسطة أدوات قابلية الملاحظة القياسية—مثل استخدام موارد وحدة المعالجة المركزية، والذاكرة، والشبكة—تقيس قابلية ملاحظة وكلاء الذكاء الاصطناعي ما يلي:

الرموز المميزة هي وحدات النص التي تعالجها نماذج الذكاء الاصطناعي—عادةً الكلمات أو أجزاء من الكلمات. بما أن موفري الذكاء الاصطناعي يفرضون رسومًا على استخدام الرمز المميز ، فإن تتبع هذا المقياس يؤثر بشكل مباشر على التكاليف. يمكن للمؤسسات تحسين الإنفاق من خلال مراقبة استهلاك الرمز المميز. على سبيل المثال، إذا كانت بعض أسئلة العملاء تستهلك عددًا من الرموز المميزة أكثر بعشرة أضعاف من غيرها، يمكن للفرق إعادة تصميم طريقة تعامل الوكلاء مع تلك الطلبات لخفض التكاليف.

مع تطور البيانات في العالم الحقيقي، قد تصبح نماذج الذكاء الاصطناعي أقل دقة بمرور الوقت. يمكن أن تساعد مراقبة المقاييس الرئيسية لانحراف النموذج—مثل التغيرات في أنماط الاستجابة أو الاختلافات في جودة المخرجات—المؤسسات على اكتشافه مبكرًا. على سبيل المثال، قد يصبح وكيل كشف الاحتيال أقل فعالية مع تطوير المحتالين لأساليب جديدة. تراقب قابلية الملاحظة هذا التراجع حتى تتمكن الفرق من إعادة تدريب النموذج باستخدام مجموعات بيانات محدثة.

يقيس هذا المقياس جودة مخرجات وكيل الذكاء الاصطناعي وما إذا كانت إجاباته دقيقة وذات صلة ومفيدة. إنه يتتبع عدد المرات التي هلوس فيها الوكلاء أو قدموا معلومات غير دقيقة. يمكن أن يساعد المؤسسات في الحفاظ على جودة الخدمة وتحديد مجالات التحسين. على سبيل المثال، إذا كان الوكلاء يواجهون صعوبة في التعامل مع الأسئلة التقنية، يمكن للفرق توسيع قاعدة معارف الوكيل أو إضافة أدوات متخصصة.

يقيس المدة التي يستغرقها وكيل الذكاء الاصطناعي للاستجابة للطلبات. تُعد أوقات الاستجابة السريعة أمرًا بالغ الأهمية لتحقيق رضا المستخدم ونتائج الأعمال. على سبيل المثال، إذا استغرق مساعد التسوق وقتًا طويلاً للتوصية بالمنتجات، فقد يغادر العملاء دون شراء. تتبع زمن الاستجابة يساعد الفرق على تحديد مواطن البطء وإصلاح مشكلات الأداء قبل أن تؤثر على المبيعات.

الأحداث هي الإجراءات المهمة التي يتخذها وكيل الذكاء الاصطناعي لإكمال المهمة. توفر هذه البيانات رؤى حول سلوك الوكيل وعملية صناعة القرار للمساعدة في استكشاف المشكلات وإصلاحها وتحسين الأداء.

تتضمن أمثلة أحداث وكلاء الذكاء الاصطناعي ما يلي:

عندما يستخدم وكيل الذكاء الاصطناعي واجهة برمجة التطبيقات (API) للتفاعل مع أداة خارجية مثل محرك بحث أو قاعدة بيانات أو خدمة ترجمة. يساعد تتبع استدعاءات واجهة برمجة التطبيقات المؤسسات على مراقبة استخدام الأداة وتحديد أوجه القصور. على سبيل المثال، إذا أجرى أحد الوكلاء 50 استدعاء لواجهة برمجة تطبيقات لمهمة لا تتطلب سوى 2-3 استدعاءات، يمكن للفرق إصلاح هذا المنطق.

عندما يستخدم وكلاء الذكاء الاصطناعي نماذج لغوية كبيرة لفهم الطلبات أو اتخاذ القرارات أو توليد الاستجابات. تساعد مراقبة استدعاءات النماذج اللغوية الكبيرة في الكشف عن سلوك وأداء وموثوقية النماذج التي تقود تصرفات وكلاء الذكاء الاصطناعي. على سبيل المثال، إذا قدم وكيل الذكاء الاصطناعي معلومات حساب غير صحيحة للعميل، يمكن للفرق تحليل استدعاءات النماذج اللغوية الكبيرة الخاصة بالوكيل للعثور على المشكلة، مثل البيانات القديمة أو المطالبات غير الواضحة.

عندما يحاول الوكيل استخدام أداة ما ولكنها لا تعمل، مثل فشل استدعاء واجهة برمجة تطبيقات (API) بسبب مشكلة في الشبكة أو طلب غير صحيح. إن تتبع هذه الإخفاقات قد يؤدي إلى تحسين موثوقية الوكيل وتحسين الموارد. على سبيل المثال، إذا لم يتمكن أحد وكلاء الدعم من التحقق من حالة الطلب بسبب فشل استدعاءات قاعدة البيانات، يتم تنبيه الفرق على الفور لإصلاح المشكلات مثل بيانات الاعتماد المفقودة أو انقطاع الخدمة.

عندما يقوم وكلاء الذكاء الاصطناعي بتصعيد الطلبات التي لا يستطيعون التعامل معها إلى الموظفين البشريين. يمكن لهذه المعلومات أن تكشف عن الثغرات في قدرات الوكيل وفروقات التفاعلات مع العملاء. على سبيل المثال، إذا كان وكيل الذكاء الاصطناعي للخدمات المالية يقوم بشكل متكرر بتصعيد الأسئلة إلى موظف بشري، فقد يتطلب ذلك بيانات تدريب مالية أفضل أو أداة استثمار متخصصة.

عندما يحدث خطأ ما—مثل أوقات استجابة بطيئة، أو وصول غير مصرح به إلى البيانات، أو انخفاض في موارد النظام—ويتلقى وكيل الذكاء الاصطناعي تحذيرًا آليًا. يمكن أن تساعد التنبيهات الفرق في اكتشاف المشكلات وإصلاحها في الوقت الفعلي قبل أن تؤثر على المستخدمين. على سبيل المثال، يتيح التنبيه حول الاستخدام العالي للذاكرة للفرق إضافة الموارد قبل تعطل الوكيل.

السجلات هي سجلات تفصيلية ومتسلسلة زمنيًا لكل حدث وإجراء يحدث أثناء تشغيل وكيل الذكاء الاصطناعي. يمكن استخدامها لإنشاء سجل دقيق للغاية، يسجل كل حدث بالمللي ثانية، مع سياقه الكامل المحيط به.

تتضمن أمثلة السجلات في قابلية الملاحظة لوكيل الذكاء الاصطناعي ما يلي:

تسجل هذه السجلات كل تفاعل بين المستخدمين وأنظمة الذكاء الاصطناعي، بما في ذلك الاستفسارات، وتفسير النوايا، والمخرجات. يمكن للمؤسسات استخدام هذه السجلات لفهم احتياجات المستخدمين وأداء الوكلاء. على سبيل المثال، إذا أعاد المستخدمون صياغة نفس السؤال بشكل متكرر، فمن المحتمل ألا يفهم الوكيل قصدهم.

تلتقط هذه السجلات كل تبادل بين الوكلاء والنماذج اللغوية الكبيرة (LLMs)، بما في ذلك المطالبات، والاستجابات، والبيانات الوصفية، والطوابع الزمنية، واستخدام الرموز المميزة. تُظهر هذه البيانات كيف وكلاء أنظمة الذكاء الاصطناعي بتفسير الطلبات وتوليد الإجابات، بما في ذلك الحالات التي قد يسيء فيها النظام فهم السياق. على سبيل المثال، إذا قام وكيل ذكاء اصطناعي لمراقبة المحتوى بوضع علامة خاطئة على محتوى بريء بينما أغفل المحتوى الضار، يمكن لهذه السجلات أن تكشف الأنماط المعيبة التي تسببت في هذه الأخطاء.

إنها تسجل الأدوات التي يستخدمها الوكلاء، ومتى يستخدمونها، وما الأوامر التي يرسلونها، وما النتائج التي يحصلون عليها. يساعد هذا على تتبع مشكلات الأداء وأخطاء الأدوات وتحديد مصدرها. على سبيل المثال، إذا كان وكيل الذكاء الاصطناعي للدعم الفني يستجيب ببطء لأسئلة معينة، فقد تكشف السجلات أنه يستخدم استعلامات بحث غامضة. يمكن بعد ذلك للفرق كتابة مطالبات أكثر تحديدًا لتحسين الاستجابات.

تسجل هذه السجلات كيف وصل وكيل الذكاء الاصطناعي إلى قرار أو إجراء معين عندما تكون متاحة—مثل الإجراءات المختارة، والنتائج، واختيارات الأدوات والمطالبات/المخرجات، دون التلميح إلى الوصول إلى "الاستدلال" الداخلي. هذه البيانات ضرورية لاكتشاف التحيز وضمان الذكاء الاصطناعي المسؤول، خاصةً مع زيادة استقلالية الوكلاء.

على سبيل المثال، إذا قام وكيل ذكاء اصطناعي للقروض برفض طلبات من أحياء معينة بشكل غير عادل، يمكن لسجلات اتخاذ القرار أن تساعد في الكشف عن أنماط تمييزية في بيانات التدريب. ثم تقوم الفرق بإعادة تدريب نماذج الذكاء الاصطناعي لتلبية متطلبات الإقراض العادلة.

تسجل التتبعات "الرحلة" الشاملة لكل طلب مستخدم، بما في ذلك جميع التفاعلات مع النماذج اللغوية الكبيرة والأدوات على طول الطريق.

على سبيل المثال، قد يلتقط تتبع طلب بسيط لوكيل ذكاء اصطناعي هذه الخطوات.

• إدخال المستخدم الذي يشغل الوكيل
• خطة الوكيل وتقسيم المهام
• استدعاءات الأدوات الخارجية (على سبيل المثال بحث الويب)
• معالجة النموذج اللغوي الكبير (LLM) للطلب
• المعالجة المطالبات وتوليد الاستجابة
• الاستجابة التي يتم إرجاعها إلى المستخدم

يمكن للمطوّرين بعد ذلك استخدام هذه البيانات لتحديد مصدر الاختناقات أو الإخفاقات، وقياس الأداء في كل خطوة من خطوات العملية.

على سبيل المثال، إذا أظهرت التتبعات أن عمليات البحث على الويب تستغرق 5 ثوانٍ بينما تُنجز جميع الخطوات الأخرى في أجزاء من الثانية، فيمكن للفرق عندها تطبيق التخزين المؤقت أو استخدام أدوات بحث أسرع لتحسين وقت الاستجابة الإجمالي.

هناك طريقتان شائعتان لجمع البيانات المستخدمة في قابلية ملاحظة وكلاء الذكاء الاصطناعي: أجهزة مدمجة وحلول الطرف الثالث.

في النهج الأول، يتم جمع بيانات MELT من خلال الأجهزة المدمجة في إطار عمل وكيل الذكاء الاصطناعي. تُتيح إمكانيات المراقبة والتسجيل المدمجة هذه التقاط بيانات القياس عن بُعد وإرسالها تلقائيًا، والتي تشمل المقاييس، والأحداث، والسجلات، والتتبعات.

تعتمد العديد من المؤسسات الكبرى وتلك ذات الاحتياجات المتخصصة هذا النهج لأنه يوفر تخصيصًا عميقًا وتحكمًا دقيقًا في جمع البيانات ومراقبتها. ومع ذلك، فإنه يتطلب أيضًا جهود تطوير كبيرة ووقتًا وصيانة مستمرة.

في النهج الثاني، توفر حلول قابلية ملاحظة وكيل الذكاء الاصطناعي أدوات ومنصات متخصصة لجمع وتحليل بيانات MELT. وتوفر هذه الحلول للمؤسسات نشرًا سريعًا وبسيطًا مع ميزات وتكاملات مبنية مسبقًا تقلل من الحاجة إلى الخبرة الداخلية. ومع ذلك، فإن الاعتماد على حل من طرف ثالث قد يخلق تبعية لمزود معين ويحد من خيارات التخصيص لتلبية الاحتياجات المتخصصة أو الفريدة جدًا للمؤسسة.

تختار بعض المؤسسات الجمع بين الأدوات المدمجة وموفري الحلول من طرف ثالث لجمع بيانات القياس عن بُعد لوكلاء الذكاء الاصطناعي.

تعتمد كلا الطريقتين عادةً على OpenTelemetry (OTel)، وهي أداة قابلية الملاحظة مفتوحة المصدر مستضافة على منصة GitHub المستندة إلى الويب.

برز OTel كإطار عمل قياسي في الصناعة لجمع ونقل بيانات القياس عن بُعد، لأنه يوفّر نهجًا محايدًا للبائعين في مجال قابلية الملاحظة. وهذا النهج ذو قيمة خاصة في أنظمة الذكاء الاصطناعي المعقدة، حيث يجب أن تعمل المكونات من مختلف البائعين معًا بسلاسة. يساعد على ضمان تدفق بيانات قابلية الملاحظة بشكل متسق عبر الوكلاء، والنماذج المتعددة، والأدوات الخارجية، وأنظمة التوليد المعزز بالاسترجاع (RAG).

بمجرد أن تقوم المؤسسات بجمع بيانات MELT بالطريقة التي تختارها، يمكنها استخدامها بعدة طرق.

تتضمن بعض حالات الاستخدام الأكثر شيوعًا ما يلي:

تستخدم الفرق لوحات المعلومات لعرض المقاييس اللحظية، وتدفقات الأحداث، وخرائط التتبع. تساعد هذه النظرة الموحدة في تحديد الأنماط والاختلالات عبر النظام البنائي لوكلاء الذكاء الاصطناعي بالكامل. على سبيل المثال، قد تُظهر لوحة معلومات أن أداء موظفي خدمة العملاء يتباطأ كل يوم في الساعة الثالثة عصرًا، مما يدفع الفرق للتحقيق في السبب.

عندما تنشأ المشكلات، تقوم الفرق بربط البيانات عبر المقاييس، والأحداث ، والسجلات، والتتبعات لتحديد نقاط الفشل بدقة. على سبيل المثال، يساعد ربط الارتفاع المفاجئ في معدلات الخطأ (المقياس) بفشل معين في واجهة برمجة التطبيقات (الأحداث) ومراجعة سجلات القرارات الفرق على فهم سبب تصرف الوكيل بشكل غير متوقع.

تستخدم المؤسسات رؤى قابلية الملاحظة لتحسين كفاءة الوكيل. يمكنهم تقليل استهلاك الرموز المميزة، أو تحسين اختيار الأدوات، أو إعادة هيكلة مهام سير عمل الوكيل بناءً على تحليل التتبع. على سبيل المثال، قد يكتشفون أن الوكيل يبحث في نفس قاعدة البيانات ثلاث مرات بدلاً من حفظ النتيجة بعد البحث الأول.

تنشئ الفِرق حلقات ملاحظات حيث تدفع رؤى قابلية الملاحظة إلى تحسينات الوكيل. تساعد المراجعة الدورية لبيانات MELT على تحديد المشكلات المتكررة والحالات الاستثنائية، مثل: معاناة الموظفين في التعامل مع طلبات استرداد الأموال، أو فشل النظام عند سؤال المستخدمين عن مواضيع غير مذكورة في الوثائق. قد تشير هذه المشكلات إلى الحاجة إلى توسيع مجموعات بيانات التدريب وتحديث الوثائق.

تخيّل كيف يمكن لمتاجر التجزئة عبر الإنترنت استخدام قابلية الملاحظة لتحديد وتصحيح مشكلة في وكيل الذكاء الاصطناعي الذي يتفاعل مع العملاء.

أولاً، تُظهر لوحة معلومات قابلية الملاحظة ارتفاعًا حادًا في تعليقات العملاء السلبية بخصوص وكيل ذكاء اصطناعي معين.

عندما تفحص الفِرَق سجلات الوكيل، تكتشف أنه يستخدم استدعاء أداة قاعدة بيانات للإجابة على أسئلة العملاء. ومع ذلك، فإن الإجابات تحتوي على معلومات قديمة أو غير صحيحة.

يحدد التتبع—السجل الكامل لعملية الوكيل (Agent) خطوة بخطوة للتعامل مع سؤال العميل، والذي يحدد بدقة استدعاء الأداة التي أعادت البيانات القديمة. يُظهر المزيد من التحليل قاعدة البيانات الدقيقة التي تحتوي على المعلومات القديمة.

وبفضل هذه الرؤى، يقوم بائع التجزئة عبر الإنترنت بتحديث مجموعة البيانات الخاطئة أو إزالتها. يقوم الفريق أيضًا بتحديث منطق الوكيل للتحقق من الصحة ودقة البيانات قبل الرد على العملاء. ونتيجة لذلك، يقدم الوكيل الآن إجابات دقيقة ومفيدة تحسّن من رضا العملاء.

على الرغم من أن الجزء الأكبر من قابلية ملاحظة وكيل الذكاء الاصطناعي لا يزال يتضمن تسليم التنبيهات وحالات الخلل لأعضاء الفريق للتحقيق اليدوي وحلها، فإن الأتمتة المدعومة بالذكاء الاصطناعي تعمل بشكل متزايد على تغيير طريقة جمع المؤسسات لبيانات القياس عن بُعد وتحليلها والتصرف بناءً عليها.

تستخدم حلول قابلية الملاحظة المتقدمة الآن هذه التقنيات لمراقبة وكلاء الذكاء الاصطناعي، وتصحيح أخطائهم، وتحسين أدائهم بتدخل بشري قليل أو معدوم. وتشمل حالات الاستخدام الناشئة في هذا المجال ما يلي:

• تجميع بيانات القياس عن بُعد لوكيل الذكاء الاصطناعي ومعالجتها وتخزينها تلقائيًا من أجل تدقيق الامتثال وتحليل الأداء
• تحليل كميات هائلة من بيانات وكلاء الذكاء الاصطناعي لتحديد حالات الخلل والمشكلات
• التنبؤ بمشاكل تطبيقات الذكاء الاصطناعي ووكلائه قبل حدوثها
• توقع متطلبات الموارد بناءً على أنماط استخدام الذكاء الاصطناعي
• اقتراح تحسينات على المنطق أو استخدام الأدوات لتحسين الأداء
• منع وكلاء الذكاء الاصطناعي من الوصول إلى البيانات الحساسة أو مشاركتها