ما الذكاء الاصطناعي المسؤول؟ 

تهدف هذه المقالة إلى تقديم نظرة عامة حول الذكاء الاصطناعي المسؤول. لمعرفة المزيد عن وجهة نظر IBM المحددة، راجع صفحة أخلاقيات الذكاء الاصطناعي الخاصة بنا.

أدى الاعتماد الواسع النطاق للتعلّم الآلي في العقد الأول من القرن الحادي والعشرين، والذي عززه التقدم في البيانات الهائلة وقوة الحوسبة، إلى ظهور تحديات أخلاقية جديدة، مثل التحيز والشفافية واستخدام البيانات الشخصية. ظهرت أخلاقيات الذكاء الاصطناعي كنظام متميز خلال هذه الفترة، حيث سعت شركات التقنية ومؤسسات أبحاث الذكاء الاصطناعي إلى إدارة جهود الذكاء الاصطناعي بشكل استباقي ومسؤول.

الأدوات الذكاء الاصطناعي التوليدي ووكلاء الذكاء الاصطناعي التوليدي التي تعتمدها المؤسسات بسرعة تتطلب إطار العمل جديدة للاستخدام الأخلاقي. يمكن للمؤسسات ذات التفكير المستقبلي التي تعيد تصور مبادئ الذكاء الاصطناعي المسؤول لديها لعالم قائم على الوكلاء الآليين أن تساعد المتبنين في تسخير الإمكانات الكاملة لهذه الأدوات مع تقليل النتائج غير المرغوب فيها.

يجب أن يكون الذكاء الاصطناعي جديرًا بالثقة، ولكي تثق الأطراف المعنية في الذكاء الاصطناعي، يجب أن يكون شفافًا. يجب أن تكون شركات التكنولوجيا واضحة بشأن من يدرب أنظمة الذكاء الاصطناعي الخاصة بها، وما هي البيانات التي تم استخدامها في هذا التدريب، والأهم من ذلك، ما الذي تم إدخاله في توصيات الخوارزميات الخاصة بهم. إذا أردنا استخدام الذكاء الاصطناعي للمساعدة على اتخاذ قرارات مهمة، فينبغي أن يكون قابلاً للتفسير.

الذكاء الاصطناعي المسؤول هو ممارسة اجتماعية تقنية تجمع بين الأفراد، والعمليات، والأدوات، والحوكمة. ,يتطلب من المؤسسات مراعاة دورة الحياة الكاملة لأنظمة الذكاء الاصطناعي، بدءاً من جمع البيانات وتطوير النماذج إلى النشر والمراقبة والتحسين. كما يتطلب الانتباه إلى التأثيرات الأوسع للذكاء الاصطناعي على الأفراد والمؤسسات والمجتمع والبيئة.

يجمع إطار عمل التقنية والحوكمة المسؤولة من IBM بين المبادئ والخصائص وأبعاد الأثر وممارسات الحوكمة في نهج واحد لبناء ونشر التكنولوجيا المسؤولة. ويظل الذكاء الاصطناعي المسؤول مركزياً في هذا النهج، بينما يمد إطار العمل نموذج الحوكمة نفسه إلى التقنيات الناشئة مثل الأنظمة القائمة على الوكلاء، والحوسبة الكمومية، والمجالات المستقبلية.

ينقسم إطار العمل إلى أربعة عناصر أساسية:

1. مبادئ الثقة
   التزامات IBM الأساسية لتطوير التقنية ونشرها:

   • ينبغي للتقنية أن تعزز القدرات البشرية.

   • ينبغي أن تستند التقنية إلى حوكمة البيانات.

   • ينبغي أن تكون التقنية مفتوحة وشفافة.

2. ركائز الذكاء الاصطناعي الجدير بالثقة
   الصفات التي يجب أن تُظهرها أنظمة الذكاء الاصطناعي لتمكين الثقة:

   • الشفافية

   • العدالة ومواءمة القيم الإنسانية

   • القوة

   • الخصوصية

3. أبعاد التأثير
   النتائج الأوسع التي تأخذها IBM في الاعتبار عند تقييم التقنية:

   • الوكالة البشرية والثقة

   • الرفاهية المجتمعية

   • الاستدامة البيئية

4. الحوكمة
   البرامج والأدوات والتعليم والسياسات والشراكات وآليات التقييم التي تربط التزامات التقنية المسؤولة بالممارسة اليومية.

تُمكّن هذه العناصر مجتمعةً من هندسة المسؤولية من خلال التصميم. ومع ازدياد قدرة أنظمة الذكاء الاصطناعي ودمجها في عمليات الأعمال، يجب أن تكون المؤسسات قادرة على إثبات أن الثقة يتم تفعيلها من خلال الحوكمة المدمجة في أنظمتها وعملياتها.

تطبيق ممارسات الذكاء الاصطناعي المسؤول على مستوى المؤسسة يتضمن نهجًا شاملاً ومتكاملاً يتناول مختلف مراحل تطوير الذكاء الاصطناعي ونشره.

وضع مجموعة من مبادئ الذكاء الاصطناعي المسؤول التي تتوافق مع قيم المؤسسة وأهداف الابتكار في الذكاء الاصطناعي لدى المؤسسة. ضع في حسبانك الجوانب الرئيسية الموضحة أعلاه في "ركائز الثقة". يمكن تطوير هذه المبادئ والحفاظ عليها من خلال فريق أخلاقيات الذكاء الاصطناعي متعدد الوظائف المخصص الذي يضم ممثلين من مختلف الأقسام، بما في ذلك المتخصصون في الذكاء الاصطناعي وعلماء الأخلاقيات والخبراء القانونيون وقادة الأعمال.

إجراء برامج تدريبية لتثقيف الموظفين وأصحاب المصلحة ومتخذي القرار حول ممارسات الذكاء الاصطناعي المسؤول. يتضمن ذلك فهم التحيزات المحتملة والاعتبارات الأخلاقية وأهمية دمج الذكاء الاصطناعي المسؤول في عمليات الأعمال.

دمج ممارسات الذكاء الاصطناعي المسؤولة عبر خط تطوير الذكاء الاصطناعي، بدءا من جمع البيانات وتدريب النماذج إلى النشر والمراقبة المستمرة. توظيف تقنيات لمعالجة وتخفيف التحيزات في أنظمة الذكاء الاصطناعي. قم بتقييم نماذج العدالة بانتظام باستخدام مقاييس معروفة، خاصة فيما يتعلق بالصفات الحساسة مثل العرق أو الجنس أو الوضع الاجتماعي والاقتصادي. إعطاء الأولوية للشفافية من خلال جعل أنظمة الذكاء الاصطناعي قابلة للتفسير. توفير وثائق واضحة حول مصادر البيانات والخوارزميات وعمليات اتخاذ القرار. يجب أن يكون المستخدمون والأطراف المعنية قادرين على فهم كيفية اتخاذ أنظمة الذكاء الاصطناعي للقرارات.

وضع ممارسات حوكمة الذكاء الاصطناعي المسؤول وضمانات لحماية خصوصية المستخدم النهائي والبيانات الحساسة. الإبلاغ بوضوح عن سياسات استخدام البيانات، والحصول على موافقة مسبقة والامتثال للوائح حماية البيانات.

دمج آليات الإشراف البشري في عمليات اتخاذ القرارات الحرجة. وتحديد خطوط واضحة للمساءلة لضمان تحديد الأطراف المسؤولة وتحميلها المسؤولية عن نتائج أنظمة الذكاء الاصطناعي. وإنشاء مراقبة مستمرة لأنظمة الذكاء الاصطناعي لتحديد المخاوف الأخلاقية أو التحيزات أو المشاكل التي قد تنشأ بمرور الوقت ومعالجتها. مراجعة نماذج الذكاء الاصطناعي بانتظام لتقييم الامتثال للمبادئ التوجيهية الأخلاقية.

تعزيز التعاون مع المنظمات الخارجية، والمؤسسات البحثية، ومجموعات المصادر المفتوحة التي تعمل على سلامة الذكاء الاصطناعي. البقاء على اطلاع على أحدث التطورات في ممارسات ومبادرات الذكاء الاصطناعي المسؤول والإسهام في الجهود المبذولة على مستوى الصناعة.