انتشار وكلاء الذكاء الاصطناعي: ماهيته وكيفية السيطرة عليه

يحدث الانتشار العشوائي عندما يتم نشر وكلاء الذكاء الاصطناعي - وهي عبارة عن الأنظمة المستقلة التي تتخذ القرارات والإجراءات بقليل من التدخل البشري - دون إستراتيجية موحدة أو ممارسات حوكمة قوية. يخلق انتشار وكلاء الذكاء الاصطناعي منظومة من الوكلاء المتكررين والمجزأين عبر الفرق والوظائف. مثل انتشار الذكاء الاصطناعي أو انتشار التطبيقات قبله، يحدث انتشار وكلاء الذكاء الاصطناعي عندما تتفوق السرعة على الرؤية: تقوم الفرق الفردية بنشر الوكلاء لأتمتة المهام أو إدارة مهام سير العمل دون وجود برنامج متماسك على مستوى المؤسسة.

وفقاً لمؤسسة Gartner، بحلول عام 2028، سيستخدم متوسط الشركات المدرجة في قائمة Fortune 500 أكثر من 150000 وكيل ذكاء اصطناعي. ولكن، وفقًا للمؤسسة، فإن 13% فقط من المؤسسات تعتقد أن لديها الحوكمة الصحيحة لوكلاء الذكاء الاصطناعي مطبّقة بالفعل. تشير هذه البيانات إلى واقع بسيط ولكنه ملح. من السهل بناء الوكلاء، لا سيما في بيئات الرمز البرمجي المنخفض أو بدون رمز برمجي، ولكن من الصعب نشرها وتشغيلها ومراقبتها بشكل مسؤول.

يمكن أن تؤدي المنظومات الواسعة وغير القابلة للإدارة من أدوات الذكاء الاصطناعي إلى زيادة التكاليف بشكل كبير. ووفقًا لبحث أجرته غرفة التجارة الأمريكية، فإن 58% من الشركات الصغيرة اعتمدت الذكاء الاصطناعي التوليدي، ويشير بعض الاستشاريين إلى أن الشركات الصغيرة ذات الميزانيات المحدودة تنفق آلاف الدولارات شهريًا على عدد قليل من أدوات الكتابة الزائدة عن الحاجة القائمة على الذكاء الاصطناعي. وهذا دون ذكر التكلفة الخفية للموظفين الذين، بدلاً من رؤية زيادة إنتاجيتهم من استخدام الذكاء الاصطناعي، يدركون العكس: التبديل بين التطبيقات والمنصات طوال اليوم يبطئ بشكل كبير من العمل.

عندما تقوم فرق فردية مثل التسويق أو الشؤون المالية أو دعم العملاء ببناء وكلاء، قد لا يظهر هؤلاء الوكلاء لأقسام أخرى داخل المؤسسة. يؤدي هذا إلى إنشاء عدد قليل من الوكلاء ذوي القدرات غير المتصلة بدلاً من الحصول على نظام متماسك. وفقا لأبحاث معهد IBM لقيمة الأعمال، فقط 18% من المؤسسات تحتفظ بمخزون متواصل وكامل من وكلاء الذكاء الاصطناعي لديها، مما يعيق جهود التكامل. قد يتم حل مشكلات مماثلة بشكل متكرر، مع الحد الأدنى من نقل المعرفة بين الأنظمة.

يؤدي انتشار الوكلاء إلى إنشاء أنظمة تعمل بشكل مستقل، دون سياق أو آلية مشتركة لحل المشكلات عند تداخل المخرجات. بدون تنسيق مركزي، قد يقوم الوكلاء بتكرار العمل أو خلق حلقات ملاحظات غير مقصودة. تؤدي هذه التكرارات والحلقات إلى تفاقم الأخطاء بسرعة عبر الأنظمة المترابطة. 

نظراً لمعدل اعتماد الذكاء الاصطناعي الوكيل، تفتقر العديد من المؤسسات إلى سياسات وعمليات شاملة لإدارة شبكات الوكلاء الكبيرة بشكل مسؤول. وهذا يعني أنه قد يترتب على ذلك الأمور الآتية:

• لا يوجد سير عمل قياسي للموافقة قبل نشر الوكيل

• لا توجد ملكية محددة لما إذا كانت الأخطاء تحدث ومتى تحدث

• نقص عمليات دورة حياة الوكلاء المتقاعدين عندما لا تعد هناك حاجة إليهم.

بدون ممارسات حوكمة على مستوى المؤسسة، تزداد المخاطر بشكل كبير. 

قد يتمكن وكلاء الذكاء الاصطناعي الذين لا يخضعون لضوابط أمان وامتثال قوية من الوصول إلى بيانات حساسة دون تفويض مناسب أو تجاوز مسارات التدقيق. عندما يتصرف الوكلاء بشكل مستقل على نطاق واسع، قد يصبح خطأ واحد في التكوين مسؤولية على مستوى المؤسسة.

تُعد مثل هذه المخاطر ملحة بشكل خاص في مجالات مثل التمويل أو الرعاية الصحية، حيث يمكن أن تكشف عن المعلومات المحمية عن طريق الخطأ. يمكن أن تصبح الأطر التنظيمية مثل HIPAA أو GDPR مستحيلة التحقيق عندما لا يوجد مصدر واحد للحقيقة يتناول ما يصل إليه الوكلاء أو كيف يتخذون قراراتهم. 

عندما تقوم فرق مختلفة ببناء وكلاء متشابهين - أو حتى وكلاء متطابقين - يتحمل كل فريق تكلفة البنية التحتية الخاصة به. مع مرور الوقت، يتراكم سعر الرموز المميّزة للحوسبة وواجهة برمجة التطبيقات (API)، بالإضافة إلى تكاليف ترخيص الجهات الخارجية. وأنظمة الذكاء الاصطناعي التي لم يتم التخلص منها بشكل صحيح يمكنها الاستمرار في استخدام الموارد بعد تقاعدها، مما يستنزف الميزانيات ويلتهم الموارد القيمة. 

عندما تكون شبكات الوكلاء مجزأة ومنعزلة، يكون من الصعب توسيع نطاقها بفعالية. قد يكون من الصعب الحفاظ على منظومات الوكلاء المنتشرة وتحسينها. قد يكرر الوكلاء الذين يتم بناؤهم في عزلة الجهود، ولكن الأهم من ذلك أنهم يفتقرون إلى الأدوات المشتركة. تتمتع هذه الأدوات المشتركة بالقدرة على تغيير الممارسات عبر الإدارات والسماح بمراقبة وتسجيل بيانات العملاء بسهولة أكبر.

كما يؤدي انتشار الوكلاء إلى استجابات أبطأ بشكل كبير للحوادث إذا ارتكب العميل خطأ ولم يتم تحديد الفريق المسؤول بسرعة. ويمكن أن تؤدي الاستجابة للحوادث الناجمة عن اختراق الوكلاء أو الاستخدام غير المصرح به للبيانات إلى مخاطر جسيمة عندما يتعلق الأمر بوكلاء معقدين ومترابطين وغير قابلين للتفسير.

وفقا لتقرير Connectivity Benchmark الصادر عن Salesforce لعام 2026، تستخدم المؤسسة في المتوسط 12 وكيلاً أو أكثر من وكلاء الذكاء الاصطناعي، لكن 50% من هؤلاء الوكلاء يعملون في بيئات منعزلة وليس كجزء من نظام منسق. بدون تنسيق متعمد، قد يتم بناء مسارات البيانات نفسها عدة مرات، ويحتفظ كل نظام من الوكلاء بنسخته الخاصة من الحقيقة. يمكن أن يؤدي ذلك إلى إنشاء مخرجات متضاربة.

يؤدي تجزئة البيانات إلى تعقيد تتبع دورة الحياة، ما يجعل من الصعب تحديد الوكيل الذي اتخذ قرارًا معينًا. كما أنه يمنع المؤسسات من إدراك القيمة الحقيقية للمنظومات المستقلة متعددة الإدارات التي تشارك البيانات المناسبة بسلاسة. 

إن انتشار الوكلاء والذكاء الاصطناعي الظلي هما مصطلحان مترابطان، لكنهما مختلفان. يصف الذكاء الاصطناعي الظلي استخدام الموظفين لأدوات غير مصرح بها. على سبيل المثال، رائد تسويق يستخدم حساب نموذج لغوي كبير LLM شخصي مثل ChatGPT لمعالجة مستندات العمل. في المقابل، يصف انتشار وكلاء الذكاء الاصطناعي ظاهرة تتعلق بالبنية. حتى الوكلاء المعتمدون من تكنولوجيا المعلومات يمكن أن يساهموا في الانتشار إذا تم نشرهم دون تنسيق.

لكن انتشار وكلاء الذكاء الاصطناعي قد يؤدي أحياناً عن غير قصد إلى زيادة تغيير الذكاء الاصطناعي الظلي، بحسب ما توصلت إليه مؤسسة Gartner. "بينما يرى المديرون التنفيذيون للمعلومات وقادة تكنولوجيا المعلومات انفجاراً في عدد وكلاء الذكاء الاصطناعي في جميع أنحاء مؤسساتهم،" بحسب ما كتب Max Goss، المحلل والمدير الأول في Gartner: "الكثير منهم يواجهون انتشارًا غير خاضع للحوكمة من الوكلاء الذين يعرضون مؤسساتهم لمجموعة من المخاطر، بما في ذلك الإفراط في المشاركة وفقدان البيانات." وأضاف أن العديد من الشركات تميل إلى اللجوء إلى حظر أو تقييد استخدام الوكلاء. للأسف، تغري هذه الاستراتيجية الموظفين باستخدام الذكاء الاصطناعي الظلي بدلاً من ذلك، مما يخلق مخاطر متعلقة بالأمن والامتثال أكثر خطورة.

يعكس انتشار وكلاء الذكاء الاصطناعي أحدث فصل من فصول التقنية المؤسسية التي تفوق القدرة المؤسسية على التحكم فيها. إنه نمط تكرر بسرعة متزايدة. على سبيل المثال، نتج انتشار البرمجيات كخدمة وتكنولوجيا المعلومات الظلية عن التقنية السحابية التي جعلت من السهل جداً تبني البرمجيات الجديدة، وغالباً ما يكون ذلك دون علم أقسام تكنولوجيا المعلومات المركزية.

لقد أدت قدرة الذكاء الاصطناعي الوكيل على تحويل مهام سير العمل وإنشاء شراكات قوية بين الإنسان والذكاء الاصطناعي إلى اعتماده على نطاق واسع. ووفقًا لبحث داخلي أجرته شركة IBM، فإن غالبية الشركات تستخدم بالفعل وكلاء الذكاء الاصطناعي بشكل أو بآخر.

ولكن نظرًا لانتشار أدوات الذكاء الاصطناعي القادرة على إنشاء وكلاء بسرعة، لم يعد بناء الأدوات الفعالة يتطلب بالضرورة مهندس برمجيات أو عملية ضبط طويلة. تدعم أدوات مثل Copilot Studio من Microsoft وAgentForce من Salesforce خيارات تطوير وكلاء منخفضة الرمز البرمجي أو بدون رمز برمجي — حلول قوية تشجع على النشر السريع بين الأقسام. ومن الجدير بالذكر أن نفس البحث الداخلي لشركة IBM وجد أن عددًا كبيرًا من الشركات أبلغت عن أن انتشار الذكاء الاصطناعي يزيد بالفعل من المخاطر الأمنية ويؤدي إلى تعقيدات غير ضرورية.

الآثار المترتبة على ذلك كبيرة: كل قسم تقريباً في أي مؤسسة كبيرة لديه القدرة على نشر وكلاء الذكاء الاصطناعي المستقلين، ولكن هناك نقص في آليات التحكم في هذه الشبكات الكاسحة وإدارتها. ومع ذلك، فإن إتاحة الذكاء الاصطناعي للجميع وتطوير المنصات الوكيلة، إلى جانب المكاسب التجارية الحقيقية التي تعد بها هذه التقنيات، تجعل من الصعب التخلي عنها. تتطلب إدارة وكلاء الذكاء الاصطناعي بشكل مسؤول نهجاً مركزياً ومتعمداً يراقب سلوك الوكيل ويحسنه على نطاق واسع.

كما يحول عدم وجود نموذج قابل للتطوير للتحكم في استخدام الذكاء الاصطناعي عبر المؤسسة دون التنسيق على مستوى المؤسسة. قال Matt Kosinski في حلقة حديثة من بودكاست Mixture of Experts الذي تقدمه IBM: "لا يوجد عميل واحد ليس لديه 60 عملاً عشوائياً على الأقل من أعمال الذكاء الاصطناعي تحدث في جميع أنحاء مؤسسته باستخدام تقنية المعلومات الظلية والذكاء الاصطناعي الظلي". "وكل قسم ومدير تنفيذي [يقول] أنني في الواقع من يقود هذا من قسم المشتريات، أو الموارد البشرية، أو وحدة الأعمال هذه." 

من الصعب التحكم في ما يستحيل رؤيته. تبدأ المحاولات الناجحة للحد من انتشار الوكلاء بمسح شامل: قد يشمل ذلك مسحًا مؤتمتًا للبيئات وواجهات برمجة التطبيقات للكشف عن جميع الوكلاء النشطين. يجب أيضًا تضمين آليات اكتشاف الوكلاء غير الرسميين المستقلين الذين يعملون خارج القناة الرسمية. يمكن أن يكون من المفيد إنشاء عملية اكتشاف مستمرة بدلاً من التدقيق لمرة واحدة، حيث أن الوكلاء الجدد سيدخلون باستمرار إلى المنظومة. خلال هذه الفترة، سيتضمن البرنامج الناجح للسيطرة على الانتشار إنشاء مخزون مركزي على مستوى المؤسسة لتتبع مالكي الوكلاء، والغرض وأذونات الوصول إلى البيانات. 

وبمجرد أن يصبح الوكلاء كيانًا معروفًا في المؤسسة، يجب على المؤسسات تحديد قواعد واضحة حول من يمكنه إنشاء الوكلاء ونشرهم ومشاركتهم - بالإضافة إلى وضع قواعد الامتثال لأدوات الذكاء الاصطناعي. ينبغي مراقبة استخدام البيانات وحدود المعدل وأدوات الاتصال بعناية، ويمكن استخدام المخزون لبناء ضوابط تكيفية تفرض السياسات الصحيحة بناءً على مستوى المخاطر التي يحملها الوكيل. 

يساعد التوحيد القياسي على الحد من الانتشار المستقبلي. قم بتقييد عدد المنصات المستخدمة لإنشاء وكلاء لتقليل التعقيد المتعلق بالبنية، وقم بتأسيس رؤية مستمرة لاستخدام الوكيل للمساعدة في ضمان الامتثال للسياسة القياسية الموحدة. يمكن للوحات المعلومات في الوقت الفعلي المساعدة في اكتشاف السلوك الشاذ وتصحيح الوكلاء الذين يسيئون التصرف أو يتجاوزون نطاقهم المقصود. عندما يكون بناء وكيل جديد أسهل من خلال المسار القياسي للمؤسسة مقارنةً بخارجه، يمكن أن تصبح الحوكمة ذاتية التعزيز. 

تجمع الاستجابة الفعالة لانتشار الوكلاء بين مجموعات أدوات محددة وعملية تنظيمية مقصودة. تتكامل أقوى الحلول بشكل متزايد بسلاسة: على سبيل المثال، أداة برمجة تعمل جنباً إلى جنب مع طبقة تنسيق ولوحة تحكم مؤسسية لبناء ومراقبة وتحسين الذكاء الاصطناعي الوكيل باستمرار طوال دورة حياة التطوير.

مستويات التحكم المؤسسية هي طبقات إدارة مركزية تمنح المؤسسات رؤية وتحكماً في الأنظمة المستقلة. هذه الطبقات تقع فوق وكلاء الذكاء الاصطناعي، والنماذج اللغوية الكبيرة، وأدوات الذكاء الاصطناعي الأخرى، لتعمل كنوع من التحكم في المهمة. تسمح مستويات التحكم عادةً للمؤسسات بمراقبة الأنظمة المستقلة وتكوينها والتحكم فيها من مصدر واحد. 

مكافحة الذكاء الاصطناعي الظلي وانتشار الوكلاء تتطلب شركاء برمجة يتمتعون بالقوة والتوحيد القياسي والأمان. شركاء تطوير الذكاء الاصطناعي للمؤسسات اليوم، مثل IBM Bob، يعتمدون على إطارات العمل الهيكلية ويتم تضمينهم في كل خطوة من خطوات دورة حياة تطوير البرمجيات - بدءاً من التخطيط وحتى الاختبار والعمليات. من خلال توفير شفافية وضوابط أمنية موحدة من اليوم الأول، تتيح هذه الأدوات للمؤسسات توسيع النطاق بسرعة والاستمرار في التحكم في الوقت الذي تقلل فيه من الانتشار بشكل كبير.

في حالة Bob، تتكامل أدوات المطورين بسلاسة مع watsonx Orchestrate، وهو مستوى تحكم مركزي. ومن خلال العمل جنباً إلى جنب، يمكن لهذه الأنظمة معالجة المشكلات في الوقت الفعلي، واقتراح إصلاحات وبناء وكلاء جديدة لمعالجتها. كما أنهم ينشئون مهام سير عمل وكلاء ذاتية التوثيق، مما يضمن أن كل إجراء قابل للتدقيق والتتبع.

توفر أدوات TRiSM — وهي فئة رسمية من قبل شركة Gartner — مراقبة مستمرة لسلوك الذكاء الاصطناعي. وعادةً ما تكتشف حالات الشذوذ، وتفرض الحواجز الوقائية وتكشف انتهاكات السياسة. تعامل هذه الأدوات وكلاء الذكاء الاصطناعي ككيانات قابلة للرصد والملاحظة والتدقيق، وتطبق ضوابط وقت التشغيل التي لا تتطلب إعادة بناء الوكلاء بالكامل. 

تحدد أطر عمل الحوكمة قواعد المؤسسة لمن يمكنه نشر وكيل وما هو إطار الموافقة الذي يجب اتباعه. قد تتناول أيضا مصادر البيانات المسموح بها ومعايير الأداء التي يجب تحقيقها قبل إصدار الوكيل. تؤسس أطر عمل الحوكمة الأكثر فعالية ملكية واضحة وأذونات، وتحدد مسارات التصعيد، وتندمج بسلاسة مع عمليات المخاطر المؤسسية القائمة بدلاً من العمل كعملية موازية. 

يعمل سجل الوكلاء كمصدر واحد للحقيقة من خلال فهرسة كل وكيل ذكاء اصطناعي تم نشره عبر المؤسسة. توثق السجلات غرض الوكلاء والمالك والوصول إلى البيانات وإصدار النموذج والحالة التشغيلية، من بين متغيرات أخرى.

تعمل قواعد البيانات هذه على تحويل منظومة الذكاء الاصطناعي إلى مخزون معروف ويمكن إدارته. غالبا ما تكون المخزونات الحديثة ديناميكية — حيث يتم تسجيل الوكلاء عند النشر وتحديث حالتهم تلقائياً — بدلاً من الاعتماد على الوثائق اليدوية الأكثر عرضة للأخطاء. 

في كثير من الأحيان، يمكن أن يكون الانتشار فشلًا في إيقاف التشغيل: يتم نشر الوكلاء ولا يتقاعدون أبدًا. تعمل أدوات إدارة دورة الحياة على فرض نظام محدد منذ لحظة بدء التطوير، مما يؤدي إلى إجراء مراجعات على فترات منتظمة وإظهار الوكلاء التي أصبحت خاملة تلقائيًا. 

بدلاً من السماح للوكلاء بالعمل في عزلة، تنسق منصات التنسيق مهام سير العمل متعدد الوكلاء، وتعرف كيف يتواصل الوكلاء، وتشارك السياق، وتسلم المهام، وتقوم بالتصعيد إلى البشر. من خلال جعل العلاقات بين الوكلاء واضحة وقابلة للملاحظة، يقلل التنسيق من التكرار ويوفر نقطة تكامل طبيعية للمراقبة وتحسين وتدوين السجلات والتحكم في الوصول.