يتم استخدام نماذج التعلّم الآلي بشكل متزايد لتوجيه عملية اتخاذ القرارات عالية المخاطر التي تتعلق بالأشخاص. وعلى الرغم من أن التعلم الآلي، بطبيعته، هو شكل من أشكال التمييز الإحصائي، إلا أن التمييز يصبح مرفوضًا عندما يجعل المجموعات المميزة تحظى بميزة منهجية وبعض المجموعات غير المميزة تتعرض لضرر منهجي، ما قد يتسبب في أضرار متنوعة. ينتج عن التحيزات في بيانات التدريب، إما بسبب التحيز في التصنيفات أو بسبب أخذ عينات أقل أو أكثر من اللازم، نماذج ذات تحيز غير مرغوب فيه.

• بيانات متنوعة وتمثيلية

ضمان أن بيانات التدريب المستخدمة في بناء نماذج الذكاء الاصطناعي متنوعة وممثلة للسكان الذين من المفترض أن تخدمهم. وتضمين مدخلات البيانات من مختلف المجموعات الديموغرافية لتجنب التمثيل الناقص أو التحيز. التحقق من بيانات التدريب وتقييمها بانتظام للتحقق من التحيزات. استخدم الأدوات والأساليب لتحديد التحيزات وتصحيحها في مجموعة البيانات قبل تدريب النموذج.

• الخوارزميات المدركة للتحيز

دمج مقاييس العدالة في عملية التطوير لتقييم مدى تأثر المجموعات الفرعية المختلفة بتنبؤات النموذج. رصد التباينات في النتائج بين مختلف المجموعات الديموغرافية وتقليلها إلى الحد الأدنى. تطبيق القيود في الخوارزمية لضمان التزام النموذج بمعايير الإنصاف المحددة مسبقًا أثناء التدريب والنشر.

• تقنيات التخفيف من التحيز

تطبيق تقنيات مثل إعادة أخذ العينات وإعادة الترجيح والتدريب العدائي للتخفيف من التحيزات في تنبؤات النموذج.

• فرق تطوير متنوعة

تجميع فرق متعددة التخصصات ومتنوعة تشارك في تطوير الذكاء الاصطناعي. يمكن للفرق المتنوعة أن تطرح وجهات نظر مختلفة، ما يساعد على تحديد التحيزات التي قد تغفلها الفرق المتجانسة وتصحيحها.

• مجالس مراجعة أخلاقيات الذكاء الاصطناعي

إنشاء مجالس أو لجان مراجعة لتقييم التحيزات المحتملة والآثار الأخلاقية المترتبة على مشاريع الذكاء الاصطناعي. ويمكن لهذه المجالس تقديم إرشادات بشأن الاعتبارات الأخلاقية خلال دورة حياة التطوير.

يتعامل الذكاء الاصطناعي القوي بفعالية مع الظروف الاستثنائية، مثل الحالات غير الطبيعية في المدخلات أو الهجمات الضارة من دون التسبب في ضرر غير مقصود. كما أنه مصمم لتحمل التداخل المتعمد وغير المتعمد من خلال الحماية من نقاط الضعف المكشوفة. ويتعرّض اعتمادنا المتزايد على هذه النماذج والقيمة التي تمثلها كتراكم للمعرفة السرية والمملوكة لنا لخطر الهجمات المتزايدة. تشكل هذه النماذج مخاطر أمنية فريدة من نوعها يجب أخذها في الحسبان والتخفيف من حدتها.

يجب أن يكون المستخدمون قادرين على رؤية كيفية عمل الخدمة وتقييم وظائفها وفهم نقاط قوتها وحدودها. توفر زيادة الشفافية معلومات لمستهلكي الذكاء الاصطناعي لفهم كيفية إنشاء نموذج أو خدمة الذكاء الاصطناعي بشكل أفضل. ويساعد ذلك مستخدم النموذج على تحديد إذا كان النموذج مناسبًا لحالة استخدام معينة، أو لتقييم كيفية إنتاج الذكاء الاصطناعي لاستنتاجات غير دقيقة أو متحيزة.  

تُلزم العديد من الأطر التنظيمية، بما في ذلك اللائحة العامة لحماية البيانات، المؤسسات بالالتزام بمبادئ معينة للخصوصية عند معالجة المعلومات الشخصية. لا يزال بإمكان الأطراف الخارجية الضارة التي تتمتع بإمكانية الوصول إلى نموذج تعلّم الآلة المدرّب، حتى من دون الوصول إلى بيانات التدريب نفسها، أن تكشف عن معلومات شخصية حساسة عن الأشخاص الذين استُخدمت بياناتهم لتدريب النموذج. فمن الضروري أن تكون قادرًا على حماية نماذج الذكاء الاصطناعي التي قد تحتوي على معلومات شخصية، والتحكم في البيانات التي تدخل في النموذج في المقام الأول.