ما هو تحيز الذكاء الاصطناعي؟

عندما لا يتم معالجة التحيز في الذكاء الاصطناعي، يمكن أن يؤثر ذلك على نجاح المؤسسة ويعيق قدرة الناس على المشاركة في الاقتصاد والمجتمع. يقلل التحيز من دقة الذكاء الاصطناعي ، وبالتالي من إمكاناته.

من غير المرجح أن تكتسب الشركات فائدة من الأنظمة التي تنتج نتائج مشوهة. وقد تؤدي الفضائح الناتجة عن تحيز الذكاء الاصطناعي إلى تعزيز انعدام الثقة بين العملاء الحاليين والمحتملين.

تمتص النماذج التي تقوم عليها جهود الذكاء الاصطناعي تحيزات المجتمع التي يمكن دمجها بهدوء في جبال البيانات التي تم تدريبها عليها. يمكن أن يؤدي جمع البيانات المتحيزة تاريخيًا والتي تعكس عدم المساواة المجتمعية إلى ضرر للمجموعات المهمشة تاريخيًا في حالات الاستخدام بما في ذلك التوظيف، والعمل الشرطي، والتقييم الائتماني، وغيرها الكثير. ووفقًا لصحيفة وول ستريت جورنال، "مع تزايد انتشار استخدام الذكاء الاصطناعي، لا تزال الشركات تكافح لمعالجة التحيز الواسع النطاق."¹.

إن النتائج المشوهة يمكن أن تضر المجموعة والمجتمع على نطاق واسع. فيما يلي بعض الأنواع الأكثر شيوعًا من تحيز الذكاء الاصطناعي⁷.

• تحيز الخوارزمية: يمكن أن تؤدي المعلومات المضللة إلى نتائج خاطئة إذا كانت المشكلة أو السؤال المطروح غير صحيح أو غير محدد بشكل كامل، أو إذا كانت تعليقات خوارزمية التعلم الآلي لا تساعد في توجيه البحث عن حل.
  
  
• التحيز المعرفي: تتطلب تقنية الذكاء الاصطناعي مدخلات بشرية، والبشر عرضة للخطأ. يمكن أن يتسرب التحيز الشخصي دون أن يدرك الممارسون ذلك حتى. يمكن أن يؤثر ذلك على مجموعة البيانات أو سلوك النموذج.
  
  
• تحيز التأكيد: يرتبط ارتباطًا وثيقًا بالتحيز المعرفي، ويحدث هذا عندما يعتمد الذكاء الاصطناعي بشكل مفرط على المعتقدات أو الاتجاهات الموجودة مسبقًا في البيانات—مما يضاعف التحيزات القائمة، وغير قادر على تحديد أنماط أو اتجاهات جديدة.

• تحيز الاستبعاد: يحدث هذا النوع من التحيز عندما يتم استبعاد بيانات مهمة من البيانات المستخدمة، غالبًا لأن المطور فشل في رؤية عوامل جديدة ومهمة..
  
  
• التحيز في القياس: يحدث تحيز القياس بسبب عدم اكتمال البيانات. غالبًا ما يكون هذا إغفالًا أو نقصًا في الإعداد يؤدي إلى عدم احتواء مجموعة البيانات على كامل المجتمع الذي ينبغي أخذه في الاعتبار. على سبيل المثال، إذا أرادت كلية التنبؤ بالعوامل المؤدية إلى التخرج الناجح، ولكنها شملت الخريجين فقط، فإن الإجابات ستغفل تمامًا العوامل التي تتسبب في تسرب البعض من الدراسة.

• تحيز تجانس المجموعة الخارجية: هذه حالة من عدم معرفة المرء ما لا يعرفه. هناك ميل لدى الناس إلى فهم أعضاء الجماعة الداخلية بشكل أفضل—الجماعة التي ينتمي إليها الفرد—وإلى الاعتقاد بأنهم أكثر تنوعًا من أعضاء المجموعة الخارجية. قد يؤدي ذلك إلى قيام المطورين بإنشاء خوارزميات أقل قدرة على التمييز بين الأفراد الذين لا ينتمون إلى المجموعة الأغلبية في بيانات التدريب، مما يؤدي إلى تحيز عنصري وتصنيف خاطئ وإجابات غير صحيحة.

• التحيز الناتج عن الأحكام المسبقة: يحدث عندما تتسرب الصور النمطية والافتراضات المجتمعية الخاطئة إلى مجموعة بيانات الخوارزمية، مما يؤدي حتمًا إلى نتائج متحيزة. على سبيل المثال، يمكن للذكاء الاصطناعي أن يُظهر نتائج تُبين أن الأطباء ذكور فقط، وجميع الممرضات إناث.
  
  
• تحيز الاستدعاء: يتطور هذا أثناء عملية تصنيف البيانات، حيث يتم تطبيق التصنيفات بشكل غير متناسق بسبب الملاحظات الذاتية.
  
  
• تحيز العينة/الاختيار: هذه مشكلة تحدث عندما لا تكون البيانات المستخدمة لتدريب نموذج التعلم الآلي كبيرة بما يكفي، أو غير ممثلة بشكل كافٍ، أو ناقصة للغاية لتدريب النظام بشكل كافٍ. إذا كان جميع معلمي المدارس الذين تمت استشارتهم لتدريب نماذج ذكاء اصطناعي لديهم المؤهلات الأكاديمية نفسها، فإن أي معلمين مستقبليين يتم النظر في أمرهم يجب أن تكون مؤهلاتهم الأكاديمية متطابقة.
  
  
• تحيز الصور النمطية: يحدث هذا عندما يعزز نظام الذكاء الاصطناعي—عادةً عن غير قصد—الصور النمطية الضارة. على سبيل المثال، يمكن لنظام ترجمة اللغة أن يربط بعض اللغات بأجناس معينة أو صور نمطية عرقية. تقدم McKinsey تحذيرًا بشأن محاولة إزالة التحيز من مجموعات البيانات: "النهج الساذج هو إزالة الفئات المحمية (مثل الجنس أو العرق) من البيانات وحذف التصنيفات التي تجعل الخوارزمية متحيزة. ومع ذلك، قد لا تنجح هذه الطريقة لأن التسميات المحذوفة قد تؤثر في فهم النموذج وقد تشوه دقة نتائجك."²

الخطوة الأولى لتجنب فخ التحيز هي ببساطة التراجع في البداية وإعطاء جهد الذكاء الاصطناعي بعض التفكير. كما هو الحال مع أي تحدٍ تجاري تقريبًا، فإن حل المشكلات أسهل بكثير في البداية بدلاً من انتظار وقوع الكارثة ثم فرز النتائج التالفة. لكن العديد من المؤسسات في عجلة من أمرها: يوفرون القليل ويخسرون الكثير، وهذا يكلفهم.

يتطلب تحديد التحيز في الذكاء الاصطناعي ومعالجته حوكمة الذكاء الاصطناعي، أو القدرة على توجيه أنشطته وإدارتها ومراقبتها في المؤسسة. ومن الناحية العملية، تُنشئ حوكمة الذكاء الاصطناعي مجموعة من السياسات والممارسات والأطر لتوجيه التطوير المسؤول لتقنيات الذكاء الاصطناعي واستخدامها. عند تنفيذها بشكل جيد، تساعد حوكمة الذكاء الاصطناعي على ضمان تحقيق توازن في الفوائد الممنوحة للشركات والعملاء والموظفين والمجتمع ككل.

حوكمة الذكاء الاصطناعي تشمل عادةً أساليب تهدف إلى تقييم العدالة والمساواة والشمول. تقوم مناهج مثل العدالة المضادة للواقع بتحديد التحيزات في عملية اتخاذ القرار لنموذج ما، وتعمل على ضمان تحقيق نتائج عادلة ومنصفة، وذلك حتى في الحالات التي يتم فيها تضمين سمات حساسة مثل الجنس أو العرق أو الميول الجنسية.

الشفافية - بسبب تعقيدات الذكاء الاصطناعي، يمكن أن تكون الخوارزمية عبارة نظام صندوق أسود مع القليل من المعلومات عن البيانات المستخدمة في إنشائها. التقنيات والممارسات الشفافة تساعد على ضمان استخدام بيانات غير متحيزة لبناء النظام وأن تكون النتائج عادلة. الشركات التي تعمل على حماية معلومات العملاء تبني الثقة في العلامة التجارية ومن المرجح أن تنشئ أنظمة ذكاء اصطناعي جديرة بالثقة.

لتوفير طبقة إضافية من ضمان الجودة، قم بتأسيس نظام "تضمين إنسان في العملية" لتقديم خيارات أو تقديم توصيات يمكن بعد ذلك الموافقة عليها بقرارات بشرية.

فيما يلي قائمة مرجعية مكونة من ست خطوات عملية يمكنها أن تبقي برامج الذكاء الاصطناعي خالية من التحيز.

1. اختيار نموذج التعلم الصحيح: عند استخدام نموذج خاضع للإشراف، يحدد الأطراف المعنية بيانات التدريب. من الضروري أن يكون فريق الأطراف المعنية متنوعًا—ليس فقط علماء البيانات— وأن يكونوا قد تلقوا تدريبًا للمساعدة على منع التحيز اللاواعي. تستخدم النماذج غير الخاضعة للإشراف الذكاء الاصطناعي وحده لتحديد التحيز. يجب دمج أدوات منع التحيز في الشبكة العصبية حتى تتعلم التعرف على ما هو متحيز.

2. التدريب على البيانات الصحيحة: سيؤدي التعلم الآلي المدرب على بيانات خاطئة إلى نتائج خاطئة. يجب أن تكون أي بيانات يتم تغذيتها في الذكاء الاصطناعي كاملة ومتوازنة لتعكس التركيبة السكانية الفعلية للمجموعة قيد الدراسة.

3. اختيار فريق متوازن: كلما كان فريق الذكاء الاصطناعي أكثر تنوعًا—من الناحية العرقية والاقتصادية والمستوى التعليمي والجنس والوصف الوظيفي—زادت احتمالية التعرف على التحيز. يجب أن تشمل المواهب ووجهات النظر في فريق ذكاء اصطناعي متكامل مبتكري أعمال الذكاء الاصطناعي، ومبدعي الذكاء الاصطناعي، ومنفذي الذكاء الاصطناعي، وتمثيلاً لمستهلكي هذا الجهد المحدد للذكاء الاصطناعي.³

4. إجراء معالجة البيانات بعناية: يجب أن تكون الشركات على دراية بالتحيز في كل خطوة عند معالجة البيانات. لا يكمن الخطر في اختيار البيانات فقط: سواء أثناء المعالجة المسبقة أو أثناء المعالجة أو بعد المعالجة، يمكن أن يتسلل التحيز في أي مرحلة من المراحل ويغذي الذكاء الاصطناعي.

5. المراقبة المستمرة: لا يوجد نموذج كامل أو دائم على الإطلاق. يمكن أن تساعد المراقبة والاختبار المستمرين باستخدام بيانات واقعية من جميع أنحاء المؤسسة في اكتشاف وتصحيح التحيز قبل أن يتسبب في حدوث ضرر. لتجنب المزيد من التحيز، يجب على المؤسسات النظر في إجراء التقييم من قِبل فريق مستقل من داخل المؤسسة أو طرف ثالث موثوق به.

6. تجنب مشكلات البنية التحتية: بالإضافة إلى التأثيرات البشرية وتأثيرات البيانات، قد تتسبب البنية التحتية نفسها في التحيز أحيانًا. على سبيل المثال، باستخدام البيانات التي تم جمعها من أجهزة الاستشعار الميكانيكية، يمكن للمعدات نفسها أن تسبب تحيزًا إذا كانت أجهزة الاستشعار معطلة. قد يكون من الصعب اكتشاف هذا النوع من التحيز ويتطلب الاستثمار في أحدث البنى التحتية الرقمية والتكنولوجية.