ما المقصود بالتحيز المعرفي؟

وحتى أكثر الناس تحليلًا وعقلانية قد يقعون تحت تأثير التحيز المعرفي، الذي يكون في كثير من الأحيان غير واعٍ. وكثير من أوجه التحيز تكون خفية ومنتشرة في آن واحد، وقد تؤثر في تحليل البيانات وفي البنية الأساسية لعملية جمعها ذاتها.

ومع التطورات الكبيرة الأخيرة في التعلّم الآلي (ML) والذكاء الاصطناعي (AI)، ازداد الاهتمام بالتحيز المعرفي والوعي به على نحو ملحوظ. ومع النمو المتسارع في الاستثمار في هذه الأنظمة الذكية، أصبحت الجهود الرامية إلى الحد من تحيز الذكاء الاصطناعي وتحيز البيانات أمرًا بالغ الأهمية لكل من أخلاقيات الذكاء الاصطناعي وحوكمة الذكاء الاصطناعي.  

وعلى الرغم من أن مصطلحي "المغالطة المنطقية" و"التحيز المعرفي" يُستخدمان أحيانًا على نحو متبادل، فإن بينهما فرقًا واضحًا. فالمغالطات المنطقية تنشأ من أخطاء تقع في بناء الحجة المنطقية. أما أخطاء التحيز المعرفي، فهي أعمق من ذلك، إذ تنشأ خلال مراحل معالجة التفكير نفسها. وغالبًا ما ترجع أوجه التحيز المعرفي إلى مشكلات تتعلق بالذاكرة، والاستدعاء، والانتباه، والإسناد، وغيرها من أشكال المعالجة المعرفية العليا.    

وفضلًا عن ذلك، تنشأ أنواع كثيرة من المغالطات المنطقية مباشرة من أمثلة التحيز المعرفي. ويؤثر التحيز المعرفي في التفكير النقدي. وعندما تُبنى الحجج المنطقية على استدلال متحيز، فإن الأخطاء المنهجية تؤدي غالبًا إلى نشوء مغالطات منطقية مرتبطة بها.

خذ على سبيل المثال مغالطة التكلفة الغارقة، وهو مصطلح يمكن أن يشير إلى تحيز معرفي وإلى مغالطة منطقية غير رسمية في آن واحد. للمقارنة:

بوصفها مغالطة منطقية: تشير مغالطة التكلفة الغارقة إلى منطق معيب يبرر الاستمرار في استثمار الموارد، مثل الوقت والمال والجهد، في مشروع ما استنادًا فقط إلى حجم الموارد غير القابلة للاسترداد التي سبق استثمارها فيه. فالمقامر الذي يشارك في لعبة ذات احتمالات غير مواتية لا يستطيع أن يبرر منطقيًا استمراره في اللعب لمجرد أنه خسر بالفعل مبلغًا كبيرًا. ومن الناحية المنطقية، لا صلة للأموال المفقودة بالقرار الحالي: هل يراهن من جديد أم ينسحب؟

بوصفها تحيزًا معرفيًا: تلخص العبارة الشائعة "إلقاء المال الجيد وراء المال السيئ" جوهر مغالطة التكلفة الغارقة بدقة. ومن منظور معرفي، قد تدفع عوامل عاطفية مثل النفور من الخسارة، والضغوط الاجتماعية، والشعور بالخجل، والذعر، المقامر إلى التفكير على نحو غير عقلاني. وقد ينتهي به الأمر إلى الاعتقاد بأن الجولة التالية ستكون مختلفة، رغم كل ما أثبتته التجارب السابقة من عجزه عن الفوز.

ويكمن خطر التحيز المعرفي في أن القرارات التي يفضي إليها لا تبدو دائمًا خاطئة بصورة فاضحة. بل قد تكون دون المستوى الأمثل بدرجة يصعب الانتباه إليها، أو قد تبدو صحيحة بمحض المصادفة. وغياب حلقة تعليقات واضحة هو أحد الأسباب التي تجعل هذه التحيزات مستمرة.

وإذا لم تُكتشف مبكرًا، فقد تؤدي آثارها اللاحقة خلال مراحل التخطيط إلى مشكلات منهجية تفضي إلى نتائج خاطئة أو غير عادلة أو خطرة. لكن دراسة التحيز المعرفي وفهمه تساعد صناع القرار، ومن يصممون أنظمة صناعة القرار أو يؤمّنونها، على الوصول إلى نتائج أفضل.

كما أن فهم التحيز المعرفي يساعد فرق الأمن على بناء أنظمة أكثر قوة وأكثر أمنًا.

ومن خلال الانتباه إلى الأخطاء الشائعة في التفكير البشري، يصبح بمقدور المتخصصين في الأمن الإلكتروني التعرف بصورة أدق إلى مواطن الضعف في الأدوات والحلول الأمنية. كما أن الوعي بالتحيزات المعرفية يساعد المطورين ومتخصصي الأمن على حد سواء على تجنب عيوب قد تكون جسيمة عند تصميم منصات الأمن والتطبيقات والأنظمة الأخرى وبنائها وتنفيذها.

وفي الحالات التي يكون فيها الأمن عاملًا حاسمًا، مثل تأمين اتصالات الأعمال الحساسة، أو حماية أسرار الدولة، أو صون المعلومات المالية للمستهلكين، قد يفضي التحيز المعرفي إلى ثغرات منهجية تتيح لجهات ضارة اختراق تدابير أمنية تبدو صارمة في ظاهرها. 

فعلى سبيل المثال، يتمثل تحيز "الإجماع الزائف" في الميل إلى افتراض أن الآراء الشخصية تُعد صحيحة على نطاق واسع، حتى في غياب أي بيانات تدعم هذا الاستنتاج. وقد يدفع هذا التحيز المطور إلى الاعتقاد بأن بعض مزايا الأمان ليست ضرورية لنوع التطبيق الذي يعمل على بنائه. وبذلك، قد يتركون نظامهم من دون قصد عرضة لهجمات إلكترونية لم تكن في الحسبان.

وتُضعف التحيزات المعرفية القدرة على تفسير البيانات واتخاذ قرارات مدروسة.

وفي القرارات الأقل أهمية، قد يؤدي التحيز المعرفي إلى قرارات ضعيفة، لكن تبعات ذلك تظل محدودة. أما في القرارات الأكبر، فيتحول التحيز المعرفي إلى تهديد أشد أثرًا.

وربما يكمن أخطر ما في التحيز المعرفي في الأثر الذي قد تتركه هذه الأخطاء عند تصميم أنظمة ستتولى بنفسها اتخاذ عدد كبير من القرارات.ومن ثم، ومع تزايد انتشار أنظمة الذكاء الاصطناعي، تصبح الحاجة إلى ضمانات تحول دون تحيز الذكاء الاصطناعي أكثر إلحاحًا من أي وقت مضى. 

وغالبًا ما تنطوي نماذج الذكاء الاصطناعي على أوجه قصور تعود من جهة إلى التحيزات المعرفية الكامنة لدى المطورين البشر الذين يصممون هذه الأنظمة، ومن جهة أخرى إلى التحيزات الموجودة في بيانات تدريبها. وتحمل الأنظمة الناتجة بدورها أوجه تحيز خاصة بها، وهو ما قد يفضي إلى التمييز وإلى آثار ضارة أخرى. 

وتساعد حوكمة الذكاء الاصطناعي على معالجة قضايا مثل التحيز الخوارزمي والحد منها، وهو ما يحدث عندما تنتج خوارزميات التعلم الآلي (ML) مخرجات غير عادلة أو تمييزية قد تكرس أشكالًا قائمة من عدم المساواة الاجتماعية والاقتصادية أو العرقية أو التمييز على أساس الجنس.

تساعد حوكمة الذكاء الاصطناعي وعملياته ومعاييره وضوابطه مهندسي أنظمة الذكاء الاصطناعي على تطوير أدوات تجمع بين الأمان والاعتبارات الأخلاقية. وتسهم حوكمة الذكاء الاصطناعي في صياغة أطر للبحث والتطوير والتطبيق، بما يعزز السلامة والعدالة واحترام حقوق الإنسان.

ومن بين السبل التي تعالج بها حوكمة الذكاء الاصطناعي التحيز، التشجيع على تضمين مجموعات متنوعة من بيانات التدريب. وفي مجالات مثل الرعاية الصحية، من الضروري الاستناد إلى بيانات مأخوذة من شرائح سكانية متنوعة قد تختلف ظروفها وسياقاتها اختلافًا كبيرًا.

خذ على سبيل المثال نظام ذكاء اصطناعي في مجال الرعاية الصحية صُمم لاكتشاف مؤشرات سرطان الرئة. فإذا دُرِّب هذا النموذج فقط على بيانات تخص غير المدخنين المقيمين في مناطق ريفية، فقد يكون أقل فاعلية عند تحليل حالات لأشخاص يدخنون ويعيشون في مناطق مرتفعة التلوث. ولبناء نظام ذكاء اصطناعي أكثر فاعلية، يصبح من الضروري تضمين بيانات تدريب تمثل أكبر عدد ممكن من السيناريوهات المحتملة. 

ومن الأمثلة الأخرى على تطبيق حوكمة الذكاء الاصطناعي الجهود المبذولة لإنشاء أنظمة الإنسان ضمن حلقة العمل (HITL) والحفاظ عليها. فهذه الأنظمة تتطلب إشرافًا بشريًا على مخرجات الذكاء الاصطناعي. وتوفر أطر HITL طبقة إضافية من المراجعة والتحقق. فإذا رصد الإنسان تحيزًا لم يلتقطه نظام الذكاء الاصطناعي، أمكنه نقض قرار النظام.  

ورغم أن التحيز المعرفي لوحظ منذ قرون، فإن هذا المفهوم طُرح بصورته العلمية المنهجية لأول مرة في سبعينيات القرن الماضي على يد عالمي النفس البحثي Amos Tversky وDaniel Kahneman. وفي عام 1974، نشر الباحثان ورقتهما بعنوان الحكم في ظل عدم اليقين: الاستدلالات والتحيزات (Judgment Under Uncertainty: Heuristics and Biases)، التي عرضت للمرة الأولى الكيفية التي يميل بها الناس إلى الاعتماد على اختصارات ذهنية، تُعرف باسم الاستدلالات (heuristics)، عند اتخاذ القرارات أو استخلاص الاستنتاجات.

وفي مجالي علم النفس الاجتماعي والاقتصاد السلوكي، افترض الباحثون أن البشر طوروا الاعتماد على هذه الاختصارات الذهنية لتخفيف العبء المعرفي، لا سيما في المواقف التي لا تكون فيها الدقة المطلقة بقدر أهمية الكفاءة. وجد Tversky وKahneman أن الاستدلالات الذهنية، أي القواعد التقريبية الشائعة أو "الحيل العملية"، تظهر بوضوح خاص في المواقف التي تستدعي إصدار الأحكام بسرعة، من دون سياق كامل أو في ظل حالة عامة من عدم اليقين. 

ورغم أن بعض هذه الاستدلالات قد تساعد الأفراد والمؤسسات والآلات على اتخاذ قرارات سريعة وفعالة، فقد أوضح Tversky وKahneman كيف يمكن للتحيز المعرفي أن يفضي في كثير من الأحيان إلى نتائج غير مرغوبة.

وللأسف، فإن حتى من يدركون وجود التحيز المعرفي يظلون عرضة له. ومع ذلك، فإن دراسة الأنواع المختلفة من التحيز المعرفي قد تساعد على الحد من آثارها السلبية في عملية صناعة القرار. وقد يكون من المفيد على وجه الخصوص إخضاع التحليلات والقرارات لمراجعة فرق مستقلة أو أنظمة مدرّبة خصيصًا على رصد التحيزات المعرفية.  

وتبقى الخطوة الأولى في مواجهة التحيز هي إدراك الصور المختلفة التي يتجلى بها. ومنذ نشر الورقة الرائدة للباحثين Tversky وKahneman، اكتشف الباحثون أنواعًا عديدة من التحيز المعرفي.

ومن أكثر أنواع التحيز المعرفي شيوعًا ما يلي:

التحيز التأكيدي هو الميل إلى تضخيم قيمة المعلومات التي تؤيد المعتقدات القائمة، مع التقليل من قيمة المعلومات التي قد تناقضها. فعلى سبيل المثال، قد يتعامل شخص يعتقد أن معظم الهجمات الإلكترونية ناتجة عن تهديدات خارجية مع التقارير المتزايدة عن هجمات من الداخل على أنها مجرد حالات شاذة.

ويتمثل هذا النوع من التحيز في الميل إلى عزو ظروف الشخص أو تجاربه أو أوضاعه إلى عوامل خارجية، في حين تُعزى ظروف الآخرين إلى أفعالهم هم. فعلى سبيل المثال، قد يعتقد شخص وقع ضحية رسالة تصيد احتيالي أن المجرمين الإلكترونيين كانوا بارعين على نحو استثنائي. لكن الشخص نفسه قد يرى زميلًا له يقع في احتيال مماثل، فيخلص إلى أن ذلك الزميل ساذج ويسهل خداعه.

ومثل تحيز الفاعل-المراقب، يعزو التحيز الخدمي للذات النتائج الشخصية السلبية إلى عوامل خارجية، في حين يمنح الفرد نفسه فضلًا مبالغًا فيه عند النتائج الإيجابية. وقد يدفع هذا التحيز الشخص إلى الاعتقاد بأن الفوز في جولة بوكر محظوظة يعود إلى مهارته الشخصية، بينما يفسر الجولة الخاسرة على أنها تقلب لا مفر منه من تقلبات الحظ. 

أما الخطأ الأساسي في الإسناد، فيتمثل في الحكم على الآخرين بأنهم جيدون أو سيئون بناءً على دوافعهم الداخلية. فعلى سبيل المثال، قد يفترض شخص منزعج عالق خلف سائق بطيء أن ذلك السائق شخص غير مبالٍ ووقح، من دون أن يأخذ في الحسبان عوامل خارجية محتملة، مثل سوء ظروف القيادة أو وجود مشكلة في المحرك.

ويتمثل هذا التحيز في الميل إلى منح المعلومة الأولى عن موضوع جديد وزنًا أكبر مما تستحق. ويمكن للبائعين الاستفادة من تحيز الارتساء عند إبراز السعر السابق الأعلى للمنتج في الإعلانات. فحين يُرسَّخ في ذهن العميل رقم أعلى، يبدو السعر المخفَّض صفقة أفضل.

ويشير تأثير الهالة إلى الكيفية التي يؤثر بها الانطباع عن شخص ما في القدرة على الحكم على شخصيته أو قدراته. وقد يظهر هذا النوع من التحيز المعرفي في صور عديدة، لكن من أكثر أمثلته إشكالًا قدرة الأشخاص الذين يتمتعون بجاذبية تقليدية أو بحضور اجتماعي محبب على كسب ثقة الغرباء بسرعة. وغالبًا ما يستغل المجرمون الإلكترونيون تأثير الهالة عند تنفيذ هجمات الهندسة الاجتماعية، مثل استخدام صور رمزية جذابة.

ويتمثل هذا التحيز في الميل، أثناء صناعة القرار، إلى التركيز على عوامل معينة مع إغفال عوامل أخرى. فعلى سبيل المثال، عند البحث عن حلول للأمن الإلكتروني، قد يركز شخص واقع تحت تأثير تحيز الانتباه على التكلفة الإجمالية للمنتج، من دون أن ينظر فيما إذا كان يلبي جميع احتياجاته.

ويتمثل هذا التحيز في الميل إلى النظر إلى التجربة الذاتية للواقع على أنها تجربة موضوعية، مع توقع أن يرى الآخرون العالم بالطريقة نفسها. ومن المفارقات أن الشخص الواقع تحت تأثير "الواقعية الساذجة" قد يرفض وجهات النظر المخالفة، ويرى فيها هي ذاتها قدرًا من اللاعقلانية أو التحيز.

ويتمثل هذا التحيز في تأثر التصور الشخصي للبيانات المعروضة بتحليلات خارجية لحدث ما. وقد بلغ أثر هذا النوع من التحيز حدًّا دفع حتى شهود العيان إلى التشكيك فيما رأوه بأعينهم، استنادًا إلى تحليلات قدمتها أطراف ثالثة متحيزة. 

ويتمثل هذا التحيز في افتراض أن الشيء، لمجرد أنه لم يُصمم لأداء وظيفة معينة، لا يمكن أن يؤدي تلك الوظيفة بأي حال. فعلى سبيل المثال، ولأن مفتاح الربط لم يُصمم لدق مسمار، فقد يفترض البعض أنه لا يمكن استخدامه بدلًا من المطرقة. لكن مفتاح الربط يمكن، عند الضرورة، أن يؤدي هذا الغرض بالفعل. 

ويتمثل هذا التحيز في الميل إلى الاعتقاد بأن احتمال الفشل أقل، وأن فرص النجاح أكبر. ورغم أن الميل إلى التفاؤل قد يكون مفيدًا في بعض المواقف، فإن افتراض النجاح من دون مبرر قد يقود إلى عواقب وخيمة. فالقرارات التي تتأثر بتحيز التفاؤل تميل أكثر إلى التقليل من شأن المشكلات الجسيمة، وتترك صناع القرار عرضة لنتائج قد تكون مدمرة.

ويُعد تحيز البقاء أحد أشكال التحيز في أخذ العينات، ويتمثل في الخلط بين جزء من مجموعة أكبر وبين المجموعة كلها. ويؤدي هذا التحيز إلى تركيز الانتباه، على نحو غير صحيح، على نقاط البيانات التي "تتجاوز" عددًا معينًا من الاختبارات أو المعايير، مع إغفال ما عداها.

ومن أشهر الأمثلة على تحيز البقاء ما يعود إلى الحرب العالمية الثانية.¹ فعندما طُلب من Abraham Wald تحديد المواضع الأنسب لتعزيز تدريع الطائرات، بنى توصياته على تحليل إحصائي للمناطق التي كانت الطائرات العائدة من القتال تُظهر فيها أكبر قدر من الضرر. لكن Wald، بدلًا من أن يوصي بتعزيز تلك المواضع، أوصى بتعزيز المناطق التي أظهرت أقل قدر من الضرر. فقد أدرك أن البيانات التي بين يديه لا تمثل إلا الطائرات التي نجت من القتال، ومن ثم استنتج على نحو صحيح أن الأضرار الظاهرة على هذه الطائرات لم تكن في الواقع بالخطورة نفسها التي كانت ستحدثها الإصابات في مواضع أخرى. أما الطائرات التي أُصيبت في المواضع التي لم تظهر في التحليل، فقد دُمّرت ولم تنجُ حتى تُدرج ضمن تحليل توزيع الأضرار. 

ويتمثل هذا التحيز في الميل إلى اتخاذ قرار، أو تبني قناعة، أو الوصول إلى استنتاج، استنادًا إلى عدد الأشخاص الذين يتبنون الرأي نفسه. ويصف "تأثير عقلية القطيع" في جوهره الأثر الذي يمكن أن تتركه الشعبية والضغوط الاجتماعية في تفكير الفرد. 

وقد يؤدي اختلاف طريقة عرض المعلومات إلى اختلاف الاستنتاجات. فعلى سبيل المثال، فإن استطلاعًا سياسيًا يطلب من المشاركين تقييم مدى موافقتهم على "الأمور السيئة التي قام بها الحاكم" سيؤدي على الأرجح إلى درجات أقل من استطلاع يستخدم وصفًا أكثر موضوعية مثل "سياسات الحاكم".

ويتمثل هذا التحيز في الميل إلى المبالغة في تقدير المعلومات المتاحة بسهولة أو السهلة الاسترجاع. وقد يدفع هذا التحيز طبيبًا إلى تشخيص مريض على أنه مصاب بالإنفلونزا استنادًا فقط إلى أعراض تشبه أعراضها، من دون التحقق من أمراض أخرى قد تتشابه معها في الأعراض. ورغم أن افتراض الإصابة بالإنفلونزا قد يكون الخيار الأسهل، فإن القرارات التي تُتخذ استنادًا إلى معلومات محدودة كثيرًا ما تتأثر بتحيز التوافر.

وتُعرف مغالطة المعدل الأساسي أيضًا باسم "الإهمال"، وهي تصف الميل إلى تجاهل البيانات العامة أو الإحصائية أو البيانات الخاصة بالسكان، أي "المعدل الأساسي"، لصالح أدلة محددة أو روايات فردية. وفي التحليل، يعد تحديد معدل أساسي في البداية أمرًا ضروريًا لقياس أي انحرافات إحصائية على نحو صحيح. 

ويُعرف تحيز الإدراك المتأخر أيضًا باسم "ظاهرة كنت أعلم ذلك منذ البداية" أو "الحتمية الزاحفة"، ويتمثل في الميل إلى النظر إلى الأحداث الماضية كما لو كانت أكثر دلالة على النتائج المستقبلية مما كانت عليه في الواقع. وبعد وقوع الحدث، قد يبدو من السهل الربط بين الأسباب والنتائج كما لو أن ما حدث كان محسومًا سلفًا. لكن في لحظة الحدث نفسها، كانت احتمالات متعددة لا تزال قائمة، وكان المستقبل أقل وضوحًا بكثير.

ويتمثل هذا التحيز المعرفي في الميل إلى الاعتماد على افتراضات متجذرة في الصور النمطية بدلًا من الاستناد إلى معلومات موضوعية. فعلى سبيل المثال، قد يفترض شخص ما أن موسيقيًا يحمل وشومًا ويصفف شعره على هيئة أشواك يعزف موسيقى الروك أند رول، بينما قد يكون في الواقع عازف كمان كلاسيكي. ويصف الاستدلال التمثيلي الميل إلى "الحكم على الشيء من مظهره". 

وسُمّي هذا التحيز المعرفي نسبة إلى الباحثين David Dunning وJustin Kruger، وهو يصف ميل الأفراد الذين يفتقرون إلى المهارة في مجال معين إلى المبالغة في تقدير أدائهم أو قدراتهم في ذلك المجال. ومن بين التفسيرات المطروحة لهذه الثقة المفرطة أن الشخص، كلما تعلم معلومات جديدة عن موضوع ما، ازداد إدراكًا لعمق ذلك الموضوع وتعقيده. أما المبتدئون، فلم يكتسبوا هذا الوعي بعد.

ومن المفارقات أن دراسة حديثة رصدت ما يشبه تأثير Dunning-Kruger المعاكس في ما يتعلق باستخدام الذكاء الاصطناعي. وطلب الباحثون من مجموعتين من الأشخاص حل مشكلات منطقية. وسُمح لإحدى المجموعتين باستخدام الذكاء الاصطناعي للمساعدة في التوصل إلى استنتاجات، في حين لم يُسمح للمجموعة الأخرى بذلك. وبعد الانتهاء من الاختبار، طُلب أيضًا من المشاركين الذين استخدموا الذكاء الاصطناعي أن يقدّروا مدى جودة أدائهم من وجهة نظرهم، ومدى خبرتهم في استخدام أدوات الذكاء الاصطناعي.

وعادة ما يكشف تأثير Dunning-Kruger عن علاقة عكسية بين الثقة في استخدام الذكاء الاصطناعي والقدرة الفعلية للشخص على استخدامه بفاعلية. لكن الذي لوحظ هنا كان العكس. إذ بالغ المشاركون الأكثر خبرة في الذكاء الاصطناعي أيضًا في تقدير قدرتهم على استخدامه بفاعلية.

ورغم الحاجة إلى مزيد من الدراسة قبل استخلاص استنتاجات يمكن التعويل عليها، فإن هذا التقرير يبرز بوضوح الأهمية البالغة لفحص التحيز المعرفي. وعندما يتعلق الأمر بصناعة القرار، يمكن للتحيز المعرفي أن يؤثر بعمق في النتائج والاستنتاجات على نحو غير متوقع. وعندما يفضي التحيز المعرفي إلى أخطاء أثناء عملية صناعة القرار، فقد تُساء قراءة البيانات، مهما بلغت جودتها وثراؤها وأثرها، إساءة كبيرة.