التوسع في الاعتبارات الأخلاقية لنماذج الأساس

ظهور نماذج الأساس التي تدعم نمو الذكاء الاصطناعي التوليدي وحالات استخدام الذكاء الاصطناعي الأخرى يقدم إمكانيات مثيرة—لكنه يثير أيضاً أسئلة ومخاوف جديدة حول الجوانب الأخلاقية المرتبطة بتصميمها وتطويرها ونشرها واستخدامها.

تتناول نشرة مجلس أخلاقيات الذكاء الاصطناعي لشركة IBM بعنوان نماذج الأساس: الفرص والمخاطر والتحفيزات هذه المخاوف وتستكشف فوائد التقنية والمخاطر والحواجز ووسائل التخفيف المرتبطة بها.

توضح الورقة المخاطر المحتملة المرتبطة بنماذج الأساس من خلال عدسات الأخلاقيات والقوانين واللوائح في ثلاث فئات مختلفة:

1. التقليدية. المخاطر المعروفة من الأشكال السابقة أو القديمة لأنظمة الذكاء الاصطناعي.
2. المضخمة. المخاطر المعروفة ولكنها أصبحت الآن أكثر حدة بسبب الخصائص الجوهرية لنماذج الأساس، وأبرزها قدراتها التوليدية المتأصلة.
3. الجديدة. المخاطر الناشئة المتأصلة في نماذج الأساس وقدراتها التوليدية المتأصلة.

يتم تنظيم هذه المخاطر فيما يتعلق بما إذا كانت مرتبطة بالمحتوى المقدم لنموذج الأساس - الإدخال - أو المحتوى الناتج عنه - المخرجات - أو إذا كانت مرتبطة بتحديات إضافية. تعرض هذه المخاطر في جدول يوضح سبب كون هذه المخاطر مصدر قلق ولماذا من المهم النظر في هذه المخاطر أثناء تطوير وإطلاق واستخدام نماذج الأساس.

بالإضافة إلى ذلك، تسلط هذه الورقة الضوء على بعض الاستراتيجيات والأدوات المتاحة مثل محفظة watsonx®  من منتجات الذكاء الاصطناعي و أدوات الذكاء الاصطناعي الجدير بالثقة مفتوحة المصدر. تركز هذه الاستراتيجيات على الموازنة بين السلامة والابتكار وتمكين المستخدمين من تجربة قوة الذكاء الاصطناعي ونماذج الأساس.

تسلط الأمثلة أدناه الضوء على استخدام المعلومات المقدمة في الورقة.

يوفر أطلس المخاطر (Risk Atlas) تجربة تعليمية تفاعلية لتصنيف المخاطر الموضحة في هذه الورقة البحثية. يمكّن عملاء watsonx والجمهور العام من استكشاف المخاطر بتفصيل أكبر، وتداعياتها على المؤسسات، وأمثلة، وحلول IBM للمساعدة في التخفيف من هذه المخاطر.

بحسب Michael Hind، عضو فريق البحث المتميز في IBM Research، "يتيح أطلس المخاطر لمديري المخاطر وممارسي الذكاء الاصطناعي والباحثين مشاركة مفردات مخاطر الذكاء الاصطناعي. ويعد هذا النموذج حجر أساس لاستراتيجية التخفيف من المخاطر والتقنيات البحثية الجديدة."

محتوى أطلس المخاطر متاح الآن في watsonx.governance. يمكن ربط مكتبة المخاطر بحالات استخدام الذكاء الاصطناعي التي تستخدم النماذج التنبؤية و الذكاء الاصطناعي التوليدي. يتم أتمتة هذه العملية باستخدام استبيان تقييم تحديد المخاطر الذي يمكنه نسخ المخاطر المحددة تلقائياً التي قد تكون قابلة للتطبيق على حالة الاستخدام لتقييمها لاحقاً بواسطة مالك حالة الاستخدام. يمكن أن يساعد ذلك المستخدمين على إنشاء ملف مخاطر لحالة استخدام الذكاء الاصطناعي الخاصة بهم ببضع نقرات فقط لوضع التدابير والضوابط المناسبة. بمجرد تقييم مخاطر حالة الاستخدام، يمكن إرسال حالة الاستخدام للموافقة عليها لتطوير النموذج.

"استبيان تقييم تحديد المخاطر الجديد المدعوم من أطلس المخاطر يساعد مستخدمي watsonx.governance على فهم مستوى المخاطر المرتبطة بحالة الاستخدام وفهم نوع المراقبة اللازمة لإدارة المخاطر ومعدل تكرارها. يتم جمع ملف المخاطر كجزء من مسار تدقيق دورة حياة النموذج ويساعد في ترسيخ قابلية الشرح والشفافية المطلوبة لتبني الذكاء الاصطناعي المسؤول"، قالت Heather Gentile، مديرة إدارة المنتجات في watsonx.governance لبيانات IBM الذكاء الاصطناعي ونقطة محورية لأخلاقيات الذكاء الاصطناعي.

بالنسبة لمصممي أنظمة الذكاء الاصطناعي التوليدي، فإن دمج التخفيف من المخاطر في جميع مراحل عملية التصميم أمر بالغ الأهمية، خاصة أثناء تعريف الحلول. من خلال توضيح الإدخال، وتحديد البيانات والتدريبات المطلوبة، وتحديد التباين في المخرجات التي تم إنشاؤها - يتم تمكين الفرق من فهم أفضل لمخاطر التدريب والضبط والاستدلال التي قد ترتبط بتصاميمنا. ومن خلال دمج عملية تخطيط المخاطر هذه في عملية التصميم من خلال أنشطة التفكير التصميمي المركّزة، يمكن للشركات التخفيف من هذه المخاطر بشكل استباقي من خلال تكرار التصميم أو من خلال حلول بديلة.

اعتماد نهج تصميم يركّز على الإنسان يوسّع نطاق التقييم للمخاطر ليشمل المستخدمين الثانويين والثالثيين، ويعمّق فهمنا لجميع المخاطر، بما في ذلك المخاطر غير التقنية والمجتمعية، ويحدد احتمالية حدوثها في مرحلتي التصميم والتنفيذ. معالجة هذه المخاطر في بداية العملية تعزز تطوير حلول الذكاء الاصطناعي الجدير بالثقة والموثوقة.

بحسب Adam Cutler، المصمم المتميز في تصميم الذكاء الاصطناعي، "عملية صناعة القرار الأخلاقية ليست شكلاً آخر من أشكال حل المشكلات التقنية. يساعد التفكير التصميمي المؤسسي للبيانات والذكاء الاصطناعي فرق العمل على اكتشاف وحل المشاكل التي تعتمد على البيانات مع الحفاظ على الاحتياجات البشرية كمحور للتركيز، وذلك من خلال تمكين فرق العمل بأكملها من أن تكون عازمة ومحددة وواضحة بشأن الهدف والقيمة والثقة قبل كتابة سطر واحد من التعليمات البرمجية (أو إنشائها)."

نماذج الأساس: الفرص، المخاطر والتخفيف ستأخذك في رحلة نحو إدراك إمكانات نماذج الأساس، وفهم أهمية المخاطر التي قد تسببها، والتعرف على الإستراتيجية للتخفيف من آثارها المحتملة.