الذكاء الاصطناعي الوكيل وما يجب أن نفهمه: أسئلة وأجوبة مع Phaedra Boinodiris

هل تحتاج إلى التخطيط لرحلة؟ حجز التدريب؟ التخطيط لبعض الوجبات؟ الذكاء الاصطناعي الوكيل يمكن أن يفعل ذلك وأكثر. نظام الذكاء الاصطناعي البديهي متطور ومصمم لاتخاذ القرار بشكل مستقل. لكنه يتطلب حوكمة قوية بسبب استقلاليته في اتخاذ القرار.

تزداد أهمية الحاجة إلى هياكل حوكمة شاملة مع ازدياد شعبية أنظمة الذكاء الاصطناعي الوكيلة هذه في المؤسسات. وتؤكِّد قدرة هذه الأنظمة على اتخاذ القرار بشكل مستقل على الحاجة المهمة إلى إطار العمل القوي الذي يضمن السلوك الأخلاقي والشفافية والمساءلة. تناقش Phaedra Boinodiris، قائدة الذكاء الاصطناعي الجدير بالثقة في شركة IBM للاستشارات، "الضجة" حول الذكاء الاصطناعي الوكيل والحاجة إلى حوكمة الذكاء الاصطناعي التأسيسية في فقرة الأسئلة والأجوبة هذه.

Teaganne Finn: يُرجى توضيح الذكاء الاصطناعي الوكيل. هل الإثارة المحيطة بهذه التقنية لها ما يبررها؟  

Phaedra Boinodiris: هناك قدر هائل من الاهتمام بالذكاء الاصطناعي الوكيل. إذا كنت تفكر في الأمر، فإن الأمر يشبه وجود عدد من حلول الذكاء الاصطناعي المختلفة أو نماذج الذكاء الاصطناعي المجمعة معًا، حيث تعمل مخرجات نموذج الذكاء الاصطناعي كإدخال لنموذج ذكاء اصطناعي آخر.

TF: هل يمكنك مشاركة بعض الأمثلة على الذكاء الاصطناعي الوكيل في العمل؟

PB: بالتأكيد. لنبدأ بالمركبات ذاتية القيادة - وهو مثال كلاسيكي. تتخطى هذه الأنظمة مجرد التعرُّف على الصور؛ فهي تتضمن معالجة اللغة الطبيعية وصناعة القرار وأيضًا تخطيط القدرات. إنها لا ترى فقط - بل تفكِّر وتتصرف.

قد يكون المثال الأكثر ارتباطًا هو روبوت تنظيف المنزل الذكي. فهو يرسم خريطة لمساحة معيشتك، ويتجنَّب العوائق، ويتعلم طرق التنظيف المثالية، ويقرر متى تقوم بالتنظيف بناءً على جدولك أو تفضيلاتك. فهو وكيل يتصرف باستقلالية في بيئة مادية.

أو فكِّر في وكيل ذكاء اصطناعي شخصي ذكي. لنفترض أنك تخطط لرحلة إلى مدريد. أنت تخبره بموقع فندقك واهتماماتك -الموسيقى والطعام والفن- والقيود الخاصة بك، مثل ميزانية قدرها 50 يورو وحد للمشي يبلغ 10 أميال. استجابةً لذلك، ينسِّق وكيل الذكاء الاصطناعي خط سير الرحلة، ويُجري الحجوزات، ويتحسَّن بناءً على الوقت، والقرب، والتفضيلات. لا يقتصر الأمر على الإجابة عن أسئلتك فحسب - بل يقوم بالعمل نيابةً عنك.

الآن دعوني أشارككم بعض حالات الاستخدام المؤسسية التي عملت عليها IBM:

في الخدمات المالية، يعمل أحد حلول الذكاء الاصطناعي الوكيل على تصنيف شكاوى العملاء وفرزها. وباستخدام معالجة اللغة الطبيعية، يحدِّد البرنامج الكلمات المفتاحية والجمل -مثل "استرداد" أو "إصابة" أو "سلامة"- لتحديد أولويات الرسائل وتوجيهها بشكل مناسب. يمكن للنظام أيضًا صياغة استجابات مخصصة تتماشى مع أسلوب الشركة وسياستها. 

من خلال هيكلة الرسائل غير المنظمة في فئات وإجراءات واضحة، يقلل الذكاء الاصطناعي من أوقات حل المشكلات ويضمن تصعيد المسائل العاجلة للمراجعة البشرية. قامت شركة IBM بتنفيذ حلول مماثلة مع بنوك كبرى لتعزيز تجربة العملاء والامتثال التنظيمي.

في علوم الحياة، يتم استخدام الذكاء الاصطناعي الوكيل لتبسيط الوثائق التنظيمية. يُنشئ أحد حلول IBM تلقائيًا مسودات تقارير عالية الجودة من بيانات التجارب السريرية والمنشورات البحثية والوثائق الفنية. تم تدريب الذكاء الاصطناعي على التقديمات التنظيمية السابقة، وينتج محتوى بتنسيقات منظمة متوافقة مع إرشادات الوكالة.

يظل المراجعون البشريون على دراية بالمعلومات، وهو ما يضمن الدقة وإمكانية التتبع. فهذا لا يؤدي إلى تسريع وقت وصول الأدوية الجديدة إلى السوق فحسب، بل يقلل أيضًا من الجهد اليدوي والخطأ - وهو أمر بالغ الأهمية في الصناعات شديدة التنظيم.

بالنسبة إلى مصنِّعي الأجهزة، قدمت شركة IBM أدوات الخدمة الذاتية المدعومة بالذكاء الاصطناعي لإدارة استفسارات العملاء المعقدة والطويلة الأمد - مثل العثور على قطع الغيار أو مقارنة المنتجات أو حل المشكلات. هذه الاستفسارات متنوعة ونادرة، وغالبًا ما تكون محددة جدًا لروبوتات المحادثة. يسحب الحل الوكيل المعلومات من قواعد المعرفة المتباينة لتقديم إجابات دقيقة، وتقليل العبء على مراكز الاتصال وتحسين رضا العملاء على نطاق واسع.

TF: مع التكنولوجيا الجديدة تأتي مخاطر أكبر تتعلق بأخلاقيات الذكاء الاصطناعي والحوكمة. هل يمكنك شرح بعض هذه المخاوف؟ 

PB: يأتي الذكاء الاصطناعي التنبؤي أو التقليدي مصحوبًا بمخاطر تحتاج إلى حواجز حماية آمنة. هناك الكثير من القصص في الأخبار التي تشرح بالتفصيل كيف أن مجموعة من القصص التي تنشرها الأخبار بقصد كبير غير دقيقة أو غير عادلة. وقد أدى الذكاء الاصطناعي التوليدي إلى تضخيم هذه المخاطر وإدخال مخاطر جديدة. الآن ومع زيادة الاستقلالية في وكلاء الذكاء الاصطناعي، هناك مخاطر جديدة وضخمة. 

بالنسبة إلى المؤسسات التي قد لا تمتلك حوكمة أساسية للذكاء الاصطناعي، فإن المؤسسات التي تتطلع إلى القفز إلى الذكاء الاصطناعي الوكيل لديها مهمة أكبر. منحنى تعلُّم أكبر بكثير عند محاولة معرفة كيفية ضمان موثوقية هذه الحلول الذكية. 

لاستغلال إمكانات الذكاء الاصطناعي بالكامل، يجب على المؤسسات ليس فقط "تطوير الذكاء الاصطناعي الصحيح" -أي اختيار حالات استخدام النماذج المناسبة التي تتوافق مع استراتيجية المهمة- بل أيضًا "تنفيذ الذكاء الاصطناعي بشكل صحيح". من أجل "تنفيذ الذكاء الاصطناعي بشكل صحيح"، يتعين على المؤسسات أن تتجاوز التركيز على البنية التحتية والنماذج والعمليات لمعالجة التحدي الاجتماعي التقني المتمثل في كسب الثقة.

لا يمكن تحقيق الثقة في أنظمة الذكاء الاصطناعي من خلال الحلول التقنية فقط - بل يتطلب الأمر نهجًا شاملًا يشمل الأشخاص والعمليات والأدوات. يجب بناء الثقة عن قصد من خلال الشفافية والتعليم والشمولية.

TF: أحد الانتقادات الموجَّهة إلى حوكمة الذكاء الاصطناعي المسؤول هو إعاقة الابتكار. هل يمكنك وصف هذا التوازن بين الأخلاق والإبداع؟ 

PB: أعتقد أنه عندما ينتقد الناس موضوع أخلاقيات الذكاء الاصطناعي والحوكمة، أو موضوع التنظيم عندما يتعلق الأمر بالذكاء الاصطناعي، فإنهم يعبرون عن مخاوفهم بشأن إعاقة الابتكار والإبداع. ولكنني أود أن أشير إلى إحصائية الفشل بنسبة 75% التي يُشير إليها العديد من المحللين.

%75 من الاستثمارات في الذكاء الاصطناعي تفشل. تتعثر. تتوقف عند مرحلة إثبات المفهوم. فهي لا تحقق أبدًا عائد الاستثمار المتوقع الذي يسعى إليه المستثمرون.  وأحد الأسباب الأساسية لفشلهم هو أنهم لم يكسبوا ثقة الناس أو أن الناس يثقون في الذكاء الاصطناعي بشكل مفرط.  

يجب أن يكون الهدف الأساسي هو اختيار الذكاء الاصطناعي المناسب لحل المشكلة التي ستزيد من ذكائنا، ومن ثم القيام بالذكاء الاصطناعي بشكل صحيح من خلال القيام بالعمل الشاق المطلوب لكسب ثقة الناس. لا يوجد أمر سهل هنا.

يجب أن تكون أنظمة الذكاء الاصطناعي آمنة ضد الخصوم. ويجب أن تعكس النوايا بشكل مناسب. يجب أن تكون نتائجها عادلة، وأن تتسم بالشفافية وأن تكون قابلة للتفسير حقًا، مع الحفاظ على خصوصية بياناتنا. يجب أن يكون الوكلاء قابلين للملاحظة حتى نتمكن من تتبُّع ما يحدث فعليًا. نعم، وبالنظر إلى استهلاك الذكاء الاصطناعي الهائل للطاقة والمياه، من الضروري أن تكون هذه الأنظمة صديقة للبيئة. 

لا يمكنك الحصول على الثقة دون المساءلة. لقد كتبت بشكل موسَّع عن موضوع المساءلة، وقد أصدرنا العديد من أوراق IBV حول هذا الموضوع. نشرت Gartner هذا العام ورقة متميزة توضِّح لعملائها كيفية إلزام المورّدين تعاقديًا بالمساءلة عن نتائج الذكاء الاصطناعي. 

وكما ذكرت سابقًا، لا شيء من هذا سهل. لا توجد طريقة سهلة لتطوير الذكاء الاصطناعي بشكل يجعله جديرًا بثقتنا، لكن هذا الجهد بالغ الأهمية. وبمجرد أن تبذل الجهد الأساسي، عندها يمكنك التحرك بسرعة كما هو موضح جيدًا في تشبيه مسار سباق السيارات هذا. خاصةً مع استمرار تطور التقنيات الجديدة مثل الذكاء الاصطناعي الوكيل، سيكون من الضروري تطبيق المزيد من الحوكمة.