مَن هم وكلاء الذكاء الاصطناعي؟

يمكن لوكلاء الذكاء الاصطناعي أن يشملوا مجموعة واسعة من الوظائف تتجاوز معالجة اللغة الطبيعية، بما في ذلك اتخاذ القرار، وحل المشكلات، والتفاعل مع البيئات الخارجية، وأداء الإجراءات.

يعمل وكلاء الذكاء الاصطناعي على حل المهام المعقدة عبر تطبيقات المؤسسات المختلفة، بما في ذلك تصميم البرمجيات، وأتمتة تكنولوجيا المعلومات، وتوليد الأكواد، والمساعدة الحوارية.وهم يستخدمون تقنيات معالجة اللغة الطبيعية المتقدمة للنماذج اللغوية الكبيرة (LLMs) لفهم مدخلات المستخدم والاستجابة لها خطوة بخطوة وتحديد وقت استدعاء الأدوات الخارجية.

في جوهر وكلاء الذكاء الاصطناعي توجد نماذج لغوية كبيرة (LLMs). لهذا السبب، غالبًا ما يُشار إلى وكلاء الذكاء الاصطناعي باسم وكلاء النماذج اللغوية الكبيرة. تُنتج النماذج اللغوية الكبيرة التقليدية، مثل ®IBM® Granite، استجاباتها على أساس البيانات المستخدمة لتدريبها وهي محدودة بحدود المعرفة والاستدلال. وعلى النقيض من ذلك، تستخدم تقنية الوكلاء استدعاء الأدوات على الواجهة الخلفية للحصول على أحدث المعلومات وتحسين سير العمل وإنشاء مهام فرعية بشكل مستقل لتحقيق أهداف معقدة.

في هذه العملية، يتعلم الوكيل المستقل التكيف مع توقعات المستخدم بمرور الوقت. تشجِّع قدرة الوكيل على تخزين التفاعلات السابقة في الذاكرة وتخطيط الإجراءات المستقبلية على تقديم تجربة شخصية واستجابات شاملة.¹يمكن تحقيق استدعاء هذه الأدوات دون تدخل بشري، ما يوسِّع إمكانيات تطبيقات هذه الأنظمة الذكية في العالم الحقيقي. تحدِّد هذه المراحل الثلاث أو العناصر الوكيلية كيفية عمل الوكلاء:

رغم أن وكلاء الذكاء الاصطناعي يعملون بشكل مستقل في عمليات اتخاذ القرار، إلا إنهم يحتاجون إلى أهداف وقواعد محددة مسبقًا يضعها البشر.² توجد ثلاثة مؤثرات رئيسية على تصرفات الوكلاء المستقلين:

• فريق المطورين الذين يصممون ويدربون نظام الذكاء الاصطناعي الوكيل. 
• الفريق الذي ينشر الوكيل ويوفر للمستخدم إمكانية الوصول إليه.
• المستخدم الذي يزود وكيل الذكاء الاصطناعي بأهداف محددة لإنجازها ويحدد الأدوات المتاحة لاستخدامها.

بالنظر إلى أهداف المستخدم والأدوات المتاحة للوكيل، يقوم وكيل الذكاء الاصطناعي بعد ذلك بإجراء تحليل المهام لتحسين الأداء.³ بشكل أساسي، يقوم الوكيل بإنشاء خطة من المهام والمهام الفرعية المحددة لإنجاز الهدف المعقد.

بالنسبة للمهام البسيطة، التخطيط ليس خطوة ضرورية. وبدلاً من ذلك، يمكن للوكيل أن يفكر بشكل متكرر في استجاباته ويحسّنها دون التخطيط لخطواته التالية.

يبني وكلاء الذكاء الاصطناعي أفعالهم على المعلومات التي يدركونها. ومع ذلك، فإنهم غالبا ما يفتقرون إلى المعرفة الكاملة المطلوبة لمعالجة كل مهمة فرعية ضمن هدف معقد. ولسد هذه الفجوة، يلجؤون إلى الأدوات المتاحة مثل مجموعات البيانات الخارجية، وعمليات البحث على الويب، وواجهات برمجة التطبيقات، وحتى الوكلاء الآخرين.

بمجرد جمع المعلومات المفقودة، يحدِّث الوكيل قاعدة معارفه ويشارك في التفكير الوكيل. وتتضمن هذه العملية إعادة تقييم خطة العمل باستمرار وإجراء تصحيحات ذاتية، ما يُتيح عملية اتخاذ قرار أكثر استنارة وقدرة على التكيف.

للمساعدة على توضيح هذه العملية، تخيَّل مستخدمًا يخطط لإجازته. يطلب المستخدم من وكيل ذكاء اصطناعي التنبؤ بالأسبوع الذي من المحتمل أن يشهد أفضل طقس لرحلة ركوب الأمواج في اليونان في العام المقبل. 

نظرًا لأن نموذج اللغوي الكبير في جوهر الوكيل غير متخصص في أنماط الطقس، فإنه لا يمكنه الاعتماد فقط على معرفته الداخلية. لذلك، يجمع الوكيل المعلومات من قاعدة بيانات خارجية تحتوي على تقارير الطقس اليومية لليونان على مدى السنوات العديدة الماضية.

على الرغم من الحصول على هذه المعلومات الجديدة، لا يزال الوكيل غير قادر على تحديد الظروف الجوية المثلى لركوب الأمواج، ومن ثَمَّ تُنشأ المهمة الفرعية التالية. بالنسبة إلى هذه المهمة الفرعية، يتواصل الوكيل مع وكيل خارجي متخصص في ركوب الأمواج. لنفترض أنه من خلال فعل، يتعلم الوكيل أن المد والجزر المرتفع والطقس المشمس مع أمطار قليلة أو معدومة يوفران أفضل الظروف لركوب الأمواج.

يمكن للوكيل الآن دمج المعلومات التي تعلمها من أدواته لتحديد الأنماط. ويمكنه التنبؤ بأي أسبوع في العام المقبل في اليونان من المحتمل أن يشهد مدًا وجزرًا مرتفعًا وطقسًا مشمسًا وفرصة منخفضة لهطول الأمطار. ثم يتم تقديم هذه النتائج إلى المستخدم. تبادل المعلومات هذا بين الأدوات هو ما يجعل وكلاء الذكاء الاصطناعي أكثر شمولية ومرونة من نماذج الذكاء الاصطناعي التقليدية.³

يستخدم وكلاء الذكاء الاصطناعي آليات التعليقات، مثل وكلاء الذكاء الاصطناعي الآخرين والتفاعل البشري (HITL)، لتحسين دقة ردودهم. دعونا نعُد إلى مثال التصفح السابق لتسليط الضوء على هذه العملية. بعد أن يشكِّل الوكيل استجابته للمستخدم، يخزِّن المعلومات المكتسبة مع تعليقات المستخدم لتحسين الأداء والتكيف مع تفضيلات المستخدم للأهداف المستقبلية.

وإذا تمت الاستعانة بوكلاء آخرين للوصول إلى الهدف، فيمكن أن يتم استخدام تعليقاتهم أيضًا. قد تكون التعليقات الصادرة عن العديد من الوكلاء مفيدة خصوصًا في تقليل الوقت الذي يقضيه المستخدمون البشريون في تقديم التوجيه. ومع ذلك، يمكن للمستخدمين أيضًا تقديم ملاحظات بالتوازي مع الإجراءات التي يتخذها الوكيل واستدلالاته الداخلية لمواءمة النتائج على نحو أفضل مع الهدف المنشود.²

تعمل آليات التعليقات على تحسين استدلال وكيل الذكاء الاصطناعي ودقته، وهو ما يشار إليه عادةً باسم التنقيح التكراري.³ ولتجنب تكرار الأخطاء نفسها، يمكن لوكلاء الذكاء الاصطناعي أيضًا تخزين البيانات حول حلول العقبات السابقة في قاعدة معرفية.

تستخدم روبوتات المحادثة المدعومة بالذكاء الاصطناعي تقنيات الذكاء الاصطناعي الحواري مثل معالجة اللغة الطبيعية (NLP) لفهم أسئلة المستخدم وأتمتة الردود عليها. وتُعَد روبوتات المحادثة هذه وسيلة اتصال في حين أن الوكيل هو إطار عمل تقني. 

روبوتات المحادثة غير الوكيلية هي روبوتات لا تتوفر لديها أدوات أو ذاكرة أو تفكير. يمكنها فقط الوصول إلى أهداف قصيرة المدى ولا يمكنها التخطيط للمستقبل. وكما نعلم، تتطلب روبوتات المحادثة غير الوكيلية إدخالًا مستمرًا من المستخدم للاستجابة.

ويمكنها إنتاج إجابات على المطالبات الشائعة التي تتوافق على الأرجح مع توقعات المستخدم، ولكن أداءها ضعيف في الأسئلة الفريدة للمستخدم وبياناته. ونظرًا لأن روبوتات المحادثة هذه لا تحتفظ بذاكرة، فلا يمكنها التعلم من أخطائها إذا كانت ردودها غير مُرضية.

وفي المقابل، تتعلم روبوتات المحادثة المدعومة بالذكاء الاصطناعي التكيف مع توقعات المستخدم بمرور الوقت، ما يوفر تجربة أكثر تخصيصًا واستجابات شاملة. يمكنها إكمال المهام المعقدة عن طريق إنشاء مهام فرعية دون تدخل بشري والنظر في خطط مختلفة. ويمكن أيضًا تصحيح هذه الخطط ذاتيًا وتحديثها حسب الحاجة. وعلى عكس روبوتات المحادثة غير الوكيلية، تقوم روبوتات المحادثة المدعومة بالذكاء الاصطناعي الوكيل بتقييم أدواتها واستخدام الموارد المتاحة لها لملء فجوات المعلومات.

لا توجد بنية معيارية واحدة لبناء وكلاء الذكاء الاصطناعي. بل هناك عدة نماذج لحل المشكلات متعددة الخطوات.

باستخدام نموذج ReAct، يمكننا توجيه الوكلاء إلى "التفكير" والتخطيط بعد كل إجراء يتم اتخاذه، وبعد كل استجابة من أداة، لتحديد الأداة التالية التي يجب استخدامها. تُستخدم هذه الحلقات التكرارية من التفكير والتنفيذ والملاحظة لحل المشكلات خطوة بخطوة وتحسين الاستجابات بشكل متكرر.

من خلال بنية التوجيه، يمكن توجيه الوكلاء إلى التفكير ببطء وعرض كل "فكرة".⁴ يمنح الاستدلال اللفظي للوكيل معارف حول كيفية صياغة الإجابات. في إطار العمل هذا، يحدِّث الوكلاء سياقهم باستمرار بالاستدلال الجديد. يمكن تفسير هذا النهج باعتباره شكلًا من أشكال التحفيز التسلسلي للأفكار.

طريقة ReWOO، على عكس ReAct، تُزيل الحاجة إلى الاعتماد على مخرجات الأدوات من أجل تخطيط العمل. وبدلًا من ذلك، يقوم الوكلاء بالتخطيط مقدمًا. ومن ثم، يتم تجنُّب استخدام الأدوات الزائدة عن الحاجة من خلال توقُّع الأدوات المطلوب استخدامها عند تلقي المطالبة الأولية من المستخدم. ويُعَد هذا النهج أكثر ملاءمة من منظور يركِّز على الإنسان، حيث يمكن للمستخدم تأكيد الخطة قبل تنفيذها.

يتكون سير عمل ReWOO من ثلاث وحدات. في وحدة التخطيط، يتوقع الوكيل خطواته التالية بناءً على طلب المستخدم. تستلزم المرحلة التالية جمع المخرجات الناتجة عن استدعاء هذه الأدوات. وأخيرًا، يقوم الوكيل بإقران الخطة الأولية مع مخرجات الأداة لصياغة استجابة. يمكن لهذا التخطيط المسبق أن يقلل بشكل كبير من استهلاك الرموز المميزة ومن التعقيد الحسابي ومن تبعات فشل الأدوات في المراحل الوسيطة.⁵

يمكن تطوير وكلاء الذكاء الاصطناعي لتكون لديهم مستويات مختلفة من القدرات. ومن المفضَّل استخدام وكيل بسيط لتحقيق أهداف مباشرةً لتقليل التعقيد الحوسبي غير الضروري. بالترتيب من الأبسط إلى الأكثر تقدمًا، هناك 5 أنواع رئيسية من الوكلاء:

وكلاء الاستجابة البسطاء هم أبسط أشكال الوكلاء، حيث تُبنى أفعالهم على الإدراك. ولا يحمل هؤلاء الوكلاء أي ذاكرة، ولا يتفاعلون مع وكلاء آخرين إذا كانوا يفتقدون إلى المعلومات. ويعمل هؤلاء الوكلاء بناءً على مجموعة من القواعد التي يُطلق عليها "الاستجابات" أو "القواعد". وهذا السلوك يعني أن الوكيل مبرمج مسبقًا لأداء إجراءات تتوافق مع شروط معينة يتم استيفاؤها.

إذا واجه الوكيل موقفًا لم يكن مستعدًا له، فلن يتمكن من الاستجابة بشكل مناسب. لا يكون الوكلاء فعَّالين إلا في البيئات التي يمكن ملاحظتها بالكامل ما يُتيح الوصول إلى كل المعلومات الضرورية.⁶

مثال: إذا كانت الساعة 8 مساءً، يتم تشغيل التدفئة - مثل منظم الحرارة الذي يشغِّل نظام التدفئة في وقت محدد كل ليلة.

يستخدم وكلاء الاستجابة القائمة على نموذج كلاً من إدراكهم الحالي وذاكرتهم الحالية للحفاظ على نموذج داخلي للعالم. مع استمرار الوكيل في تلقي معلومات جديدة، يتم تحديث النموذج. تعتمد تصرفات الوكيل على نموذجه وردود أفعاله ومبادئه السابقة وحالته الحالية.

يمكن لهؤلاء الوكلاء، على عكس وكلاء الاستجابة البسيطة، تخزين المعلومات في الذاكرة ويمكنهم العمل في بيئات قابلة للملاحظة والتغيير جزئيًا. ومع ذلك، فإنهم لا يزالوا مقيدين بمجموعة القواعد المفروضة عليهم.⁶

مثال على ذلك: مكنسة كهربائية روبوتية. أثناء قيامها بتنظيف الغرفة المتسخة، تستشعر العوائق مثل الأثاث وتتكيف معها. يحتفظ الروبوت أيضًا بنموذج للمناطق التي قام بتنظيفها لتفادي الوقوع في حلقة تنظيف متكرر.

يمتلك الوكلاء القائمون على الهدف نموذجًا داخليًا للعالم وأيضًا هدفًا أو مجموعة من الأهداف. يبحث هؤلاء الوكلاء عن تسلسلات الإجراءات التي تصل إلى أهدافهم ويخططون لهذه الإجراءات قبل التصرف بناءً عليها. يحسن هذا البحث والتخطيط من فعاليتهم عند مقارنتهم بوكلاء الاستجابة البسيطة والقائمة على نموذج.⁷

مثال: نظام ملاحة يوصي بأسرع طريق إلى وجهتك. يأخذ النموذج في الاعتبار الطرق المختلفة المؤدية إلى وجهتك، أو بعبارة أخرى، هدفك. في هذا المثال، تنص القاعدة- التي تربط بين الشرط والإجراء المفروضة على الوكيل- على أنه إذا تم العثور على مسار أسرع، فإن الوكيل يوصي بذلك المسار بدلاً من المسار الأصلي.

يختار الوكلاء القائمون على المنفعة تسلسل الإجراءات التي تصل إلى الهدف وتزيد أيضًا من المنفعة أو المكافأة. يتم حساب المنفعة باستخدام الدالة النفعية. تقوم هذه الدالة بتعيين قيمة منفعة، وهي مقياس لمدى فائدة الإجراء أو مدى "رضا" الوكيل عنه، لكل سيناريو وفقًا لمجموعة من المعايير الثابتة.

يمكن أن تتضمن المعايير عوامل مثل التقدم نحو الهدف أو متطلبات الوقت أو التعقيد الحاسوبي. ثم يختار الوكيل بعد ذلك الإجراءات التي تزيد من المنفعة المتوقعة. ومن ثَمَّ، فإن هؤلاء الوكلاء مفيدون في الحالات التي تحقق فيها سيناريوهات متعددة الهدف المنشود ويجب اختيار السيناريو الأمثل.⁷

مثال: نظام ملاحة يوصي بالطريق إلى وجهتك يعمل على تحسين كفاءة استهلاك الوقود وتقليل الوقت المستغرق في حركة المرور وتكلفة الرسوم. يقيس هذا الوكيل المنفعة من خلال هذه المجموعة من المعايير لتحديد المسار الأكثر ملاءمة.

يمتلك الوكلاء المتعلمون القدرات نفسها التي تتمتع بها الأنواع الأخرى من الوكلاء، لكنهم فريدون في قدرتهم على التعلم. وتُضاف تجارب جديدة إلى قاعدة معارفهم الأولية، والتي تحدث بشكل مستقل. يعزز هذا التعلم قدرة الوكيل على العمل في بيئات غير مألوفة. قد يكون الوكلاء المتعلمون قائمين على المنفعة أو الأهداف في استدلالهم، ويتألفون من أربعة عناصر رئيسية:⁷

• التعلم: تعمل هذه العملية على تحسين معرفة الوكيل من خلال التعلم من البيئة عبر إدراكاته وأجهزة استشعاره.
• الناقد: يقدِّم هذا العنصر التعليقات للوكيل حول مدى مطابقة جودة ردوده للأداء.
• الأداء: هذا العنصر مسؤول عن اختيار الإجراءات عند التعلم.
• مولِّد المشكلات: تُنشئ هذه الوحدة نماذج مختلفة للإجراءات التي يجب اتخاذها.

مثال: التوصيات المخصصة على مواقع التجارة الإلكترونية. يتتبع هؤلاء الوكلاء نشاط المستخدم وتفضيلاته في ذاكرتهم. وتُستخدم هذه المعلومات للتوصية بمنتجات وخدمات معينة للمستخدم. تتكرر الدورة في كل مرة يتم فيها تقديم توصيات جديدة. ويتم تخزين نشاط المستخدم باستمرار لأغراض التعلم. وبذلك، يتطور الوكيل في دقته بمرور الوقت.

مع التقدم المستمر في الذكاء الاصطناعي التوليدي والتعلم الآلي، يزداد الاهتمام بتحسين سير العمل باستخدام الذكاء الاصطناعي، أو ما يُعرَف باسم الأتمتة الذكية.وكلاء الذكاء الاصطناعي هم أدوات الذكاء الاصطناعي التي يمكنها أتمتة المهام المعقدة التي تتطلب موارد بشرية. وهذا التحول يعني تحقيق الأهداف بتكلفة منخفضة، وبسرعة، وعلى نطاق واسع. في المقابل، تعني هذه التطورات أن الوكلاء البشريين لا يحتاجون إلى توفير التوجيه لمساعد الذكاء الاصطناعي لإنشاء مهامه والتنقل فيها.

تميل أطر العمل متعددة الوكلاء إلى التفوق على الوكلاء الفرديين.¹¹ وهذا لأنه كلما زاد عدد خطط العمل المتاحة للوكيل، زاد التعلم والتفكير.

يمكن أن يكون وكيل الذكاء الاصطناعي الذي يدمج المعرفة والتعليقات من وكلاء الذكاء الاصطناعي الآخرين المتخصصين في المجالات ذات الصلة مفيدًا في تجميع المعلومات. يعد هذا التعاون الخلفي لوكلاء الذكاء الاصطناعي والقدرة على سد فجوات المعلومات أمرًا فريدًا بالنسبة لأطر العمل الفعالة، مما يجعلها أداة قوية وتقدمًا ذا مغزى في الذكاء الاصطناعي.

يوفر وكلاء الذكاء الاصطناعي استجابات أكثر شمولًا ودقة وتخصيصًا للمستخدم مقارنةً بنماذج الذكاء الاصطناعي التقليدية. وتُعَد هذه القابلية للتكيف مهمة لنا كمستخدمين؛ لأن الاستجابات عالية الجودة تؤدي عادةً إلى تجربة عملاء أفضل. كما ذُكر سابقًا، تُصبح هذه القدرة ممكنة من خلال تبادل المعلومات مع وكلاء آخرين، باستخدام الأدوات وتحديث تدفق الذاكرة لديهم. وتظهر هذه السلوكيات من تلقاء نفسها وليست مبرمجة مسبقًا.¹²

بعض المهام المعقدة تتطلب معرفة العديد من وكلاء الذكاء الاصطناعي. وتنسيق أطر العمل متعددة الوكلاء هذه ينطوي على خطر حدوث خلل. قد تواجه الأنظمة متعددة الوكلاء المبنية على نماذج الأساس نفسها مشكلات مشتركة. ويمكن أن تتسبب مثل هذه الثغرات في فشل على مستوى النظام يشمل جميع الوكلاء المشاركين، أو أن تكشف عن نقطة ضعف أمام الهجمات العدائية.¹³وهذا يسلط الضوء على أهمية إدارة البيانات في بناء نماذج الأساس وعمليات التدريب والاختبار الشاملة.

سهولة التفكير غير التفاعلي التي يوفرها الوكلاء المدعومون بالذكاء الاصطناعي للمستخدمين البشريين تنطوي أيضًا على بعض المخاطر.فالوكلاء الذين لا يستطيعون وضع خطة شاملة أو التفكير في نتائجهم قد يجدون أنفسهم يكررون استخدام الأدوات نفسها، ما يؤدي إلى دوامة تعليقات لا نهائية. ولتجنب هذه التكرارات، يمكن استخدام مستوى معين من المراقبة البشرية في الوقت الحقيقي.¹³

يستغرق بناء وكلاء الذكاء الاصطناعي من البداية وقتًا طويلًا ويمكن أن يكون مكلفًا للغاية من الناحية الحسابية. وربما تكون الموارد المطلوبة لتدريب وكيل عالي الأداء ضخمة وكثيفة. بالإضافة إلى ذلك، قد يستغرق الوكلاء عدة أيام لإكمال المهام، اعتمادًا على مدى تعقيدها.¹²

قد يؤدي سوء إدارة تكامل وكلاء الذكاء الاصطناعي مع عمليات الأعمال وأنظمة إدارة العملاء إلى إثارة قضايا أمنية جسيمة. على سبيل المثال، تخيَّل أن وكلاء الذكاء الاصطناعي يقودون عملية تطوير البرمجيات، وينقلون المساعدين في البرمجة إلى مستوى أعلى، أو يحددون الأسعار للعملاء - وذلك دون أي رقابة بشرية أو ضوابط تنظيمية. قد تكون نتائج مثل هذه السيناريوهات ضارة بسبب السلوك التجريبي وغير المتوقع غالبًا للذكاء الاصطناعي الوكيل.

لذلك، من الضروري أن تظل شركات الذكاء الاصطناعي مثل IBM وMicrosoft وOpenAI استباقية في تعاملها. ويجب عليهم تنفيذ بروتوكولات أمان شاملة لضمان تخزين بيانات الموظفين والعملاء الحساسة بشكل آمن. تُعَد ممارسات النشر المسؤولة عاملًا أساسيًا في تقليل المخاطر والحفاظ على الثقة في هذه التقنيات سريعة التطور.

ولمعالجة المخاوف المتعلقة بتبعيات الوكلاء المتعددين، يمكن للمطورين توفير إمكانية الوصول للمستخدمين إلى سجل إجراءات الوكيل.¹⁴يمكن أن تشمل الإجراءات استخدام أدوات خارجية وشرح الوكلاء الخارجيين المستخدمَين لتحقيق الهدف. تمنح هذه الشفافية المستخدمين رؤى لعملية صنع القرار التكرارية، وتوفِّر الفرصة لاكتشاف الأخطاء وبناء الثقة.

يُنصح بمنع وكلاء الذكاء الاصطناعي المستقلين من العمل لفترات زمنية طويلة للغاية. خاصةً في حالات حدوث دوامة تعليقات لا نهائية غير مقصودة، أو تغيُّر إمكانية الوصول إلى بعض الأدوات، أو تعطل الوكيل بسبب عيوب في التصميم. إحدى الطرق لتحقيق هذا الهدف هي تنفيذ خاصية إمكانية المقاطعة.

يتطلب الحفاظ على التحكم في هذا القرار إتاحة خيار للمستخدمين البشر لمقاطعة تسلسل الإجراءات أو العملية بالكامل بشكل سلس. ويتطلب اتخاذ قرار إذا ما كان يجب مقاطعة وكيل الذكاء الاصطناعي ومتى يتم ذلك قدرًا من التروّي، إذ إن بعض عمليات الإنهاء قد تُلحِق ضررًا أكبر من نفعها. على سبيل المثال، قد يكون من الأكثر أمانًا السماح لوكيل معيب بالاستمرار في المساعدة أثناء حالة طارئة مهددة للحياة بدلًا من إيقافه تمامًا.⁵

للتقليل من خطر استخدام الأنظمة الوكيلية لأغراض خبيثة، يمكن اعتماد معرفات فريدة. إذا تم فرض استخدام هذه المعرِّفات كشرط لدخول الوكلاء إلى الأنظمة الخارجية، فسيصبح تتبُّع مصدر مطوري الوكيل ومن قام بنشره واستخدامه أسهل.

ويضيف هذا النهج طبقة أساسية من المساءلة. تساعد إمكانية التتبُّع على تحديد الجهات المسؤولة عندما يتسبب الوكيل في استخدام خبيث أو ضرر غير مقصود. في نهاية المطاف، من شأن هذا النوع من الضمانات أن يعزز بيئة تشغيل أكثر أمانًا لوكلاء الذكاء الاصطناعي.

لدعم عملية التعلم لدى وكلاء الذكاء الاصطناعي، خاصةً في مراحلهم الأولى ضمن بيئة جديدة، قد يكون من المفيد توفير قدر من الإشراف البشري. وبناءً على هذه الإرشادات، يمكن لوكيل الذكاء الاصطناعي مقارنة أدائه بالمعيار المتوقع وإجراء التعديلات. هذا النوع من التعليقات مفيد في تحسين قدرة الوكيل على التكيف مع تفضيلات المستخدم.⁵

إلى جانب هذا الإجراء الوقائي، من الأفضل أن يُشترَط الحصول على موافقة بشرية قبل أن يتخذ وكيل الذكاء الاصطناعي إجراءات ذات تأثير كبير. على سبيل المثال، يجب أن تتطلب الإجراءات التي تتراوح بين إرسال رسائل البريد الإلكتروني الجماعية والتداول المالي تأكيدًا بشريًا.⁷ إذ يُوصى بمستوى معين من المراقبة البشرية لمثل هذه المجالات عالية الخطورة.