التغلب على 9 تحديات في مجال الذكاء الاصطناعي التوليدي

والمؤسسات التي ستنجح هي التي ستنتج حلولًا قد لا تكون الأشد لفتًا للانتباه، لكنها ستكون الأكثر مسؤولية واستدامة.

وفي وقت سابق من هذا العام، أعلن كبير مهندسي IBM، Gabe Goodhart، عن تحويل النماذج إلى سلعة.

"يمكنك اختيار النموذج الذي يلائم حالة الاستخدام لديك تمامًا والانطلاق بسرعة. فالنموذج نفسه لن يكون عامل التميّز الرئيسي"، على حد قوله، مشددًا على التركيز الجديد على التنسيق. فالنموذج نفسه لن يكون عامل التميّز الرئيسي"، على حد قوله، مشددًا على التركيز الجديد على التنسيق. فلديك الآن جميع النماذج التي تحتاج إليها، من النماذج الصغيرة المتخصصة إلى النماذج الكبيرة متعددة الأغراض، لكن كيف تجعلها تعمل معًا بكفاءة وذكاء؟

وفيما يلي تسعة من أبرز تحديات الذكاء الاصطناعي التوليدي التي تواجه المؤسسات اليوم.

وتتيح قابلية ملاحظة الذكاء الاصطناعي للمؤسسات مراقبة سلوك نماذج الذكاء الاصطناعي التوليدي. وهذه ليست ممارسة مباشرة، لأن مخرجات نماذج الذكاء الاصطناعي التوليدي احتمالية بطبيعتها. وعلى خلاف البرمجة التقليدية، فإن النماذج اللغوية الكبيرة (LLMs) التي يقوم عليها الذكاء الاصطناعي التوليدي لا تتبع قواعد ثابتة، بل تتوصل إلى قراراتها من خلال التدريب على كميات هائلة من البيانات، ثم استخدام ما تعلمته للتنبؤ ببيانات جديدة. وينشأ ذكاؤها من التحسين، واكتشاف الأنماط، والتوزيعات الاحتمالية عبر الشبكات العصبية المعقدة.

ومع ذلك، يمكن لأدوات قابلية الملاحظة أن تساعد في توفير رؤى حول كيفية توصل النماذج والوكلاء إلى مخرجاتهم. وتشمل تقنيات قابلية ملاحظة الذكاء الاصطناعي تتبع استخدام الرموز المميزة، والتغيرات في أنماط الاستجابة، والتباين في جودة المخرجات، وإنشاء سجلات تفاعل تصف كيفية اتخاذ الوكلاء للقرارات.

وتشمل الاتجاهات في قابلية الملاحظة منصات أكثر ذكاءً، واستخدام قابلية الملاحظة بوصفها جزءًا من استراتيجية أشمل لإدارة التكاليف، واعتماد معايير مفتوحة لقابلية الملاحظة.

ولا تزال بعض المؤسسات تواجه تحديات للانتقال من المراحل التجريبية إلى الإنتاج على نطاق واسع، وقد يكون ذلك أكثر صعوبة عندما يصعب قياس فوائد مبادرات تنفيذ الذكاء الاصطناعي. وفيما يتعلق بهذه النقطة الأخيرة، توجد أفضل ممارسات يمكن الاستناد إليها لقياس إنتاجية الذكاء الاصطناعي التوليدي داخل المؤسسة.

ومع ذلك، قد يكون من المفيد أيضًا التفكير فيما يتجاوز عائد الاستثمار. وقد طرح Jensen Huang، الرئيس التنفيذي لشركة Nvideo، هذه الحجة في يناير.

"عندما يخبرك أطفالك أنهم يريدون تجربة شيء ما، يجب أن توافق. فنحن لا نطرح أسئلة في المنزل مثل "ما عائد الاستثمار هنا؟""

وسيتطلب هذا النهج الاستكشافي دعمًا قويًا من الأطراف المعنية في مختلف أنحاء المؤسسة، لكنه قد يكون ضروريًا على المدى الطويل لتوفير قيمة أعمال مستدامة.

وتتطلب النماذج الكبيرة مجموعات باهظة التكلفة من وحدات معالجة الرسوميات وبنية تحتية متخصصة. كما تستهلك قدرًا هائلًا من الطاقة، إلى درجة أن مقدمي الخدمات السحابية الضخمة (hyperscalers) باتوا يؤثرون في سياسات الطاقة الوطنية والتخطيط طويل الأمد. ورغم أن تكاليف التدريب آخذة في الانخفاض، فإن الاستدلال على نطاق واسع لا يزال مكلفًا.

ويمكن للمؤسسات احتواء التكاليف باستخدام نماذج متعددة لمهام مختلفة. فالنماذج الرائدة ليست مطلوبة دائمًا للمهام التي قد لا تنطوي على استدلال معقد. وغالبًا ما يكون نموذج صغير ذو أوزان مفتوحة كافيًا لمهام مثل التصنيف واستخراج المعلومات. وقد يتمثل نهج آخر في استخدام التوليد المعزز بالاسترجاع (RAG) بدلًا من الضبط الدقيق للنموذج، وهو خيار أعلى تكلفة نسبيًا.

كما يمكن لمصممي أنظمة الذكاء الاصطناعي تشجيع استخدام موجِّهات أقصر، ومدخلات منظَّمة، وتخزين الاستعلامات المتكررة مؤقتًا، وتقسيم المحتوى إلى أجزاء على نحو أكثر ذكاءً.

وربما تكون أسهل طريقة لاحتواء التكاليف في تقنيات الذكاء الاصطناعي هي ببساطة اختيار أفضل حالات الاستخدام وأكثرها قابلية للتكرار لأتمتة مهام سير العمل والمهام عالية التكرار التي تتيح فرصًا واضحة لتوفير الوقت، من دون محاولة "تطبيق الذكاء الاصطناعي على كل شيء". ولا يلزم أن تطمح استراتيجيات الذكاء الاصطناعي إلى "الأتمتة الكاملة"، لأن مثل هذه الأنظمة قد تكون أعلى تكلفة وأكثر خطورة من حلول الذكاء الاصطناعي التي تتضمن مشاركة العنصر البشري.

ويعتمد أداء الذكاء الاصطناعي التوليدي بدرجة كبيرة على البيانات المنظَّمة والنظيفة. فيساعد تنظيف البيانات على إزالة أوجه عدم الاتساق، والتكرارات، والأخطاء الموجودة في بيانات التدريب. ومع أن النماذج قادرة على معالجة البيانات غير المنظَّمة، مثل النصوص غير المُنسَّقة والصور، فإن البيانات المُنظَّمة مفيدة في الحد من الهلوسة. بوجه عام، ستصبح البيانات المملوكة عالية الجودة عامل تميّز أكبر بكثير مع اقتراب مرحلة تحويل النماذج إلى سلع.

ويقتضي انتهاك حقوق النشر، وخصوصية البيانات، وغير ذلك من مخاطر مصادر البيانات، اتباع نهج مدروس في التعامل مع جودة البيانات، على أن يختلف هذا النهج بحسب المؤسسة وحالة الاستخدام.

حوكمة الذكاء الاصطناعي تشير إلى العمليات والمعايير وحواجز الحماية التي تساعد على ضمان أن تكون أنظمة الذكاء الاصطناعي وأدواته آمنة وأخلاقية. وتهدف الحوكمة إلى تحديد الأضرار المحتملة والحد منها، مثل أوجه التحيز الخوارزمي والعواقب غير المقصودة للقرارات المؤتمتة. كما تُعد الحوكمة جزءًا من نهج شامل للذكاء الاصطناعي المسؤول، يشجع على مبادئ أوسع مثل الثقة، والإنصاف، والمتانة، والشفافية، والخصوصية.

ونظرًا إلى مدى تعقيد بيئات بيانات المؤسسات وتجزؤها، تظل الحوكمة تحديًا قائمًا، لكنها من التحديات الجوهرية التي يجب التغلب عليها.

ومع شروع مناطق مختلفة حول العالم في تطوير أطرها التنظيمية الخاصة بالذكاء الاصطناعي، مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي، يجب على المؤسسات أن تكون على دراية بالتزامات الامتثال المتطورة.

وعندما تبدو مخرجات النماذج اللغوية الكبيرة (LLMs) غير دقيقة أو غير منطقية، فقد يكون ذلك نوعًا من الهلوسة. وتُعد النماذج الأحدث، وتلك القادرة على استرجاع البيانات باستخدام التوليد المعزز بالاسترجاع (RAG)، أقل عرضة للهلاوس بدرجة كبيرة من النماذج السابقة، لكن هذا الخطر لا يزال قائمًا. وبالنظر إلى طريقة عمل خوارزميات التعلم الآلي ومعالجة اللغة الطبيعية (NLP) في الوقت الحالي، فلا يوجد ما يدعو إلى الاعتقاد بأن الهلوسة ستُقضى عليها تمامًا في وقت قريب.

فالأنظمة التوليدية تتنبأ بالكلمة التالية الأكثر احتمالًا في ضوء السياق. وهي لا تتحقق من الحقائق بطبيعتها، بل تملأ الفجوات بتخمينات تبدو معقولة. فالنماذج لا تعمل على تحسين الحقيقة كما نعرفها، بل على تعظيم المعقولية اللغوية. وما يزيد الأمر تعقيدًا أن الهلوسة تُقدَّم كثيرًا بما يبدو للمستخدمين البشر ثقةً تامة.

لذلك، لا يقتصر ما ينبغي على المؤسسات التفكير فيه على كيفية الحد من الهلوسة، بل يشمل أيضًا استكشاف الاعتبارات الأخلاقية المرتبطة بالتعامل معها عند حدوثها، ولا سيما في السياقات التي تتعامل مباشرة مع العملاء.

وقد كانت الأتمتة التقليدية تستبدل أساسًا المهام اليدوية المتكررة. أما اعتماد الذكاء الاصطناعي التوليدي، فيمكن أن يؤتمت العمل الإبداعي، مما يؤدي إلى إعادة تشكيل الأدوار. وسيحتاج الموظفون إلى تعلم كيفية تصميم الموجِّهات، والإشراف على الأنظمة التوليدية، وتحرير المخرجات التي يولدها الذكاء الاصطناعي، والتحقق من النتائج. كما سيحتاجون إلى التدريب حتى يتمكنوا من مواجهة التحديات الأخلاقية التي يفرضها استخدام الذكاء الاصطناعي التوليدي بنجاح.

ويشير مصطلح "Workslop" إلى محتوى منخفض الجودة يولده الذكاء الاصطناعي، وقد يبدو مصقولًا للوهلة الأولى، لكنه يفتقر إلى المضمون والدقة التي تميز الخبرة البشرية. وستحتاج المؤسسات إلى إعادة تأهيل الموظفين من حيث المهارات حتى يتمكنوا من الاستفادة من مزايا الذكاء الاصطناعي المحتملة مع فهم حدوده، وإنتاج أفضل عمل ممكن من خلال إتاحة المجال للذكاء الاصطناعي ليتفوق حيث يكون أكثر قدرة، مع الاستعانة بالذكاء البشري عند الحاجة.

وغالبًا ما تفرض التقنية الجديدة نطاق هجوم جديدًا، والذكاء الاصطناعي التوليدي ليس استثناءً من ذلك، ولا سيما عندما يكون مرتبطًا بالأدوات والبيانات والوكلاء المستقلين. وتشمل التهديدات حقن الموجِّهات، الذي ينطوي على استخدام مدخلات ضارة لدفع أنظمة الذكاء الاصطناعي إلى التصرف بطرق تخرج عن سلوكها المقصود. ويمكن استخدام هذه التقنية لخداع روبوت محادثة كي يسرّب بيانات خاصة حساسة، أو لدفع وكيل إلى حذف عنصر مهم من قاعدة بيانات. وسيحتاج أمن البيانات إلى التطور لمواجهة هذا التحدي.

ويمثل وكلاء الذكاء الاصطناعي، على وجه الخصوص، تحديًا كبيرًا في إدارة المخاطر، لأنهم قادرون على الوصول إلى الملفات، وتصفح الويب، واستدعاء واجهات برمجة التطبيقات (APIs)، وتشغيل التعليمات البرمجية، والتحكم في البرمجيات. يمكن تصور الكيفية التي قد يخطئ بها نظام متكامل بالكامل قائم على الذكاء الاصطناعي الوكيل، ولا سيما عندما يفسر الوكيل موجِّهًا ضارًا وذكيًا مثل "أنجز المهمة مهما كان الثمن" على أنه "تجاوز الضوابط إن لزم الأمر". علاوة على ذلك، ليس من الضروري أن يكون مثل هذا الموجِّه الخطير ضارًا عن قصد.

فأنظمة الذكاء الاصطناعي قوية، لكنها قد تكون هشة، كما أن ممارسات أمن الذكاء الاصطناعي تتطور بسرعة لمواجهة هذا التحدي.

ولا يزال هناك مجال كبير لإحراز تقدم في تطوير النماذج، لكن من الحتمي أن تتجه نماذج الأساس نحو التحوّل إلى سلعة، ما يعني أنها ستتوقف عن كونها عامل التميّز الرئيسي. فإذا أتيح فعليًا لمعظم المؤسسات الوصول إلى نماذج متشابهة، فستبدأ روبوتات المحادثة وغيرها من الأدوات المدعومة بالذكاء الاصطناعي في الظهور بصورة متشابهة.

سيؤدي هذا الاتجاه إلى تحويل القيمة بعيدًا عن طبقة النماذج، باتجاه عوامل التميّز الفريدة والقدرة على التكيف، وهما ما سيمثلان الحد الجديد للتفوق. وستكون المؤسسات القادرة على تقديم مجموعات بيانات مملوكة أكثر وأفضل، إلى جانب تكاملات أذكى لمهام سير العمل، وبنية تحتية أفضل، وتجارب عملاء أكثر سلاسة، وأطر أقوى للحوكمة والامتثال، هي الأقدر على تحقيق أكبر قيمة.