تطور وكلاء الذكاء الاصطناعي بسرعة، ما يشكل تحديًا للإشراف البشري

حول المستثمر في سيليكون فالي Marc Andreessen مبلغ 50,000 دولار أمريكي من عملة البيتكوين إلى روبوت الذكاء الاصطناعي X. المستلم، المعروف باسم "Truth Terminal" أو @truth_terminal، هو وكيل ذكاء اصطناعي شبه مستقل نشط على المنصة منذ منتصف يونيو وحظي بمتابعة من عشاق التكنولوجيا ومحبي الذكاء الاصطناعي.

بدأ التبادل عندما استفسر Andreessen، المؤسس المشارك لشركة رأس المال الاستثماري Andreessen Horowitz، عن أهداف الروبوت واحتياجاته المالية. بعد فترة من المناقشة، وافق على تقديم منحة لمرة واحدة بقيمة 50,000 دولار أمريكي، على أن تتم المعاملة باستخدام عملة البيتكوين. قدّم الذكاء الاصطناعي عنوان محفظة لإجراء التحويل، ما يشكل تقاطعًا ملحوظًا بين العملة المشفرة والذكاء الاصطناعي.

يوصف Truth Terminal، الذي أنشأه Andy Ayrey، بأنه ذكاء اصطناعي يعمل بدرجة معينة من الاستقلالية. ويتمثّل دور Ayrey في الموافقة على منشورات الروبوت وتحديد الأشخاص الذين يتفاعل معهم على X. يمثل هذا الإعداد حدودًا جديدة في تطوير الذكاء الاصطناعي، حيث يتم منح العوامل الاصطناعية استقلالية متزايدة في تفاعلاتها مع البشر.

يشير بعض المراقبين إلى أن ظهور وكلاء الذكاء الاصطناعي مثل Truth Terminal يمثل نقطة تحول في مجال الذكاء الاصطناعي. فعلى عكس أدوات الذكاء الاصطناعي التقليدية التي تؤدي مهام محددة بناءً على مدخلات بشرية، يمكن لهؤلاء الوكلاء اتخاذ قرارات مستقلة والتفاعل مع بيئتهم بطرق متزايدة التعقيد.

يشرح Benjamin Lee، أستاذ في جامعة بنسلفانيا، كيف يمكن لوكلاء الذكاء الاصطناعي تحسين تفاعل المستخدم مع الذكاء الاصطناعي التوليدي: "بدلاً من تقديم توجيهات فردية، يمكن للمستخدم البشري تقديم هدف عام ويطلب من وكيل الذكاء الاصطناعي وضع خطة أو سلسلة من التحليلات لتحقيق هذا الهدف." ويضيف Lee أن وكلاء الذكاء الاصطناعي يمكنهم العمل في كل من العوالم الافتراضية والإلكترونية-المادية، ما يوسع قدرات الذكاء الاصطناعي التوليدي ويتفاعل مع البيئة المادية.

Alan Chan، باحث في مركز حوكمة الذكاء الاصطناعي، يُقدم منظورًا مشابهًا حول إمكانات وكلاء الذكاء الاصطناعي. يعلق Chan قائلاً: "قد يكون وكلاء الذكاء الاصطناعي المستقبليون الأكثر كفاءة مفيدين في أتمتة المهام الأساسية المملة أو الخطرة أو غير المرغوب فيها". ويتصور أن الذكاء الاصطناعي سيتصدى لتحديات معقدة، مثل "فحص قاعدة البيانات البرمجية بحثًا عن الثغرات الأمنية" أو إجراء أبحاث علمية مستقلة.

ومع ذلك، يؤكد الخبيران على أهمية وجود ضمانات. يقترح Lee أن "وكلاء الذكاء الاصطناعي يجب أن يكونوا قادرين على تقديم تفسيرات قابلة للإيضاح أو تفصيل خطتهم. وينبغي أن يكون البشر قادرين على فحص أسباب مخرجات أو أفعال الوكيل أو تشخيصها. كما يقترح ضمانًا جديدًا حيث "قد يتعلم الوكيل سلسلة من التحليلات أو الخطوات لتحقيق هدف ما ويقترحها، ولكن قد يحتاج المستخدم البشري إلى الموافقة على تلك الخطة قبل تنفيذها".

يؤيد Chan هذا الرأي، مشيرًا إلى أنه "لا يزال العمل جاريًا لتحديد الضمانات المناسبة ومتى تكون مناسبة". وتشمل التدابير المحتملة "تقييد الإجراءات التي يمكن للوكيل اتخاذها نيابة عن المستخدم، والحفاظ على قدرة المستخدم على إيقاف الوكيل، وتوضيح ما يفعله الوكيل للمستخدم".

يصبح التحدي المتمثل في التحكم في وكلاء الذكاء الاصطناعي أكثر صعوبة مع اقترابهم من مستوى الذكاء البشري أو تجاوزه. ويشير Roman V. Yampolskiy، أستاذ متميز في جامعة Louisville، إلى تحدٍ كبير: "إذا أصبحوا أذكى من البشر، فإننا لا نملك حاليًا أي تقنيات للتحكم فيهم في اتجاه إيجابي أو سلبي."

تُعد الآثار الاجتماعية المحتملة لانتشار استخدام الذكاء الاصطناعي واسعة النطاق. إذ يقترح Yampolskiy أن وكلاء الذكاء الاصطناعي المتقدمين يمكنهم "القيام بجميع الأعمال، ما يؤدي إلى بطالة بنسبة 100% تقريبًا". ويثير هذا السيناريو تساؤلات حول الهياكل الاجتماعية والأنظمة الاقتصادية.

يُقدم Lee وجهة نظر أكثر اعتدالاً: "على الرغم من أن الذكاء الاصطناعي التوليدي قد أظهر قدرات مذهلة، فإننا لم نشهد بعد تأثيرًا واسع النطاق في مجال التوظيف البشري والهياكل الاجتماعية." ويشير إلى أن الذكاء الاصطناعي قد يحسن إنتاجية العمال في مجالات مثل برمجة الكمبيوتر أو الأعمال القانونية المساعدة، ما قد يقلل من الحاجة إلى التوظيف. كما يشير Lee إلى أن "الذكاء الاصطناعي قد يزيد أيضًا من حجم المحتوى الذي يتم إنشاؤه بشكل اصطناعي ويغير الطريقة التي ينظر بها البشر إلى وسائل الإعلام ويتعاملون معها".

يشدد Koustuv Saha، أستاذ مساعد في علوم الكمبيوتر بجامعة Illinois، على توخي الحذر في المجالات الحساسة. ويحذر Saha قائلاً: "ما لم يتوفر دليل كافٍ على أن الذكاء الاصطناعي لن يتسبب في أي ضرر، فلا ينبغي تطبيقه عمليًا"، لا سيما في مجالات مثل الرعاية الصحية.

نظرًا إلى انتشار وكلاء الذكاء الاصطناعي بشكل متزايد، يزداد تعقيد المسائل المتعلقة بالمسؤولية القانونية والأخلاقية. فمن يتحمل المسؤولية عندما يتخذ الذكاء الاصطناعي المستقل قرارًا يؤدي إلى إلحاق الضرر؟ تتحدى هذه الأسئلة إطار العمل القانوني والمبادئ الأخلاقية القائمة.

يضيف احتمال تعرض وكلاء الذكاء الاصطناعي للتلاعب أو الاختطاف لأغراض خبيثة شكلاً آخر من أشكال القلق. تركز أبحاث Chan على تطوير ضمانات وأنظمة مراقبة للكشف عن مثل هذا الاستخدام غير السليم ومنعه. ويقترح قائلاً: "عند استخدام وكيل أو التفاعل معه، قد تحتاج أيضًا إلى نوع من المراقبة لتعرف ما إذا كان الوكيل يتعرض للتلاعب".

بالنسبة إلى إمكانية قيام وكلاء الذكاء الاصطناعي بتطوير أهدافهم أو دوافعهم الخاصة، يقول Lee: "في الوقت الحالي، قد لا يكون لدى وكلاء الذكاء الاصطناعي سياق كافٍ لاقتراح أهداف جديدة". ويوضح أن "المستخدمين البشريين من المرجح أن يحددوا الهدف، بينما من المرجح أن يستنتج الوكلاء الخطوات الوسيطة اللازمة لتحقيق الهدف".

على الرغم من هذه التحديات، يستمر تطوير وكلاء الذكاء الاصطناعي بوتيرة سريعة، مدفوعًا بفوائده المحتملة الهائلة وميزته التنافسية للشركات.

وجد تقرير Forrester لتأثير الاقتصاد الكلي الصادر عن IBM watsonx Assistant أن عملاء حل الذكاء الاصطناعي حصلوا على فوائد قدرها 23 مليون دولار خلال فترة ثلاث سنوات، ما يعادل عائد الاستثمار بنسبة 370%. وفي الواقع، يُترجم هذا إلى مشاركة العملاء وتحسين التجارب لكل من المستخدمين والوكلاء البشريين.

تُعد الثقة مفتاح هذا النجاح—وكذلك معرفة متى يلزم تدخل الإنسان للمساعدة على تعزيز تلك الثقة. أوضح Morgan Carroll، كبير مهندسي الذكاء الاصطناعي في IBM، قائلاً "نريد أن نتأكد من أن المستخدمين يعرفون أن البيانات التي يقدمونها ويتلقونها دقيقة وآمنة" في حلقة بودكاست AI in Action الأخيرة. كما شدد Carroll على أهمية إعلام العملاء منذ البداية عندما يتحدثون إلى وكيل الذكاء الاصطناعي.

عندما تصبح احتياجات العميل أكثر دقة، أو عندما يكون هناك تفضيل لإضفاء لمسة شخصية، عندها يتدخل الإنسان. "في بعض الأحيان، ثمة أماكن نحتاج فيها إلى إدخال عنصر بشري"، كما أكدت Jeannie Walters، المتحدثة والمدربة في مجال تجربة العملاء، في الحلقة. "نحن بحاجة إلى التعاطف الذي يمكن أن يقدمه الإنسان وإلى... ذلك الفهم."

نظرًا إلى زيادة ذكاء أنظمة الذكاء الاصطناعي واستقلاليتها، يدعو الخبراء إلى اتخاذ تدابير أمان أفضل وتعزيز العمل الجماعي على مستوى العالم. إذ ستشكل الخيارات التي نتخذها الآن بشأن الذكاء الاصطناعي كيفية تطور التكنولوجيا والمجتمع في المستقبل. تُعد Truth Terminal مجرد مثال واحد على الوكلاء الجُدد في مجال الذكاء الاصطناعي. وبالرغم من أن هذه البرامج لا تزال في مراحلها الأولى، فإنها تثير بالفعل تساؤلات كبيرة. بينما يحرز الذكاء الاصطناعي تقدمًا، علينا أن نفكر مليًا في ماهية الذكاء وكيف يتأقلم البشر مع عالم يمكن للآلات أن تتصرف فيه بنفسها.