ما هي المقاييس الرئيسية لقياس حوكمة الذكاء الاصطناعي؟

تلقيت مؤخرًا هذا السؤال: كيف أقيس النجاح في مشاركاتي المتعلقة بأخلاقيات الذكاء الاصطناعي وحوكمته؟ أقيس النجاح بمدى ترسيخ مبادئ الذكاء الاصطناعي الأخلاقية في الاستراتيجية ومهام سير العمل وصنع القرار، لا بمجرد تدوينها. إذا تم تمكين الفرق من التساؤل، وتم إشراك المجتمعات المتأثرة، وتم بناء النماذج بمساءلة في كل مرحلة، فأنت على المسار الصحيح.

بادئ ذي بدء، يكمن الفشل الأعمق في عدم مراعاة السلوك البشري وتجربة الشخص الذي يتفاعل مع الذكاء الاصطناعي الذي يُفترض أنه "يعزز" ذكائه. أعتقد أنه من المهم أن نعرف كيف نقيس سلوك الناس. أحد المبادئ الأساسية لعلم النفس البشري 101 هو أنك تحصل على قدر أكبر بكثير من السلوكيات البشرية التي تقيسها.

ما هي السلوكيات البشرية التي نقيسها فيما يتعلق باستخدام الذكاء الاصطناعي؟ ما هي السلوكيات البشرية التي يرغب عملاؤنا في رؤيتها بشكل أكبر عند استخدام الذكاء الاصطناعي؟

إليك قصة عن أحد عملائي المفضلين على الإطلاق: قسم شرطة كبيرة. لقد تميز هذا العميل عن أي ثقافة أخرى واجهتها سابقًا. عندما بدأنا تعاوننا مع أعضاء مجلس إدارة الذكاء الاصطناعي التابع لقسم الشرطة، لم يكن العديد منهم يعرفون سبب وجودهم هناك.  

السبب هو أن جميعهم يتمتعون بخبرة واسعة في مجال الشرطة. سيقولون إنهم ليسوا خبراء عندما يتعلق الأمر بالذكاء الاصطناعي (AI) أو التعلم الآلي (ML). كانوا يسألون: لماذا تحتاجوننا في مجلس الإدارة هذا؟".

من أجل ذلك، بدأ جهدنا بشرح سبب وجودهم وأهمية أن تكون حكمتهم وخبرتهم في المجال حاضرة في الموضوع المطروح. لكننا لم نتوقف عند هذا الحد، بل كان علينا أن نثبت ضرورة وجودهم. كانوا بحاجة إلى أن يتعلموا ويدركوا أن ما قدموه لحلول الذكاء الاصطناعي هذه كان بالغ الأهمية لإنجاز الذكاء الاصطناعي بشكل صحيح. لكي ينجح تطبيق الذكاء الاصطناعي، من الضروري إعطاء الأولوية للأشخاص.

لقد تواصلنا معهم من خلال إظهار أن الجزء الصعب في تطبيق الذكاء الاصطناعي بشكل صحيح لم يكن تقنيًا بحتًا على الإطلاق. إن وجود خبراء متخصصين—خبراء حقيقيين في مجال الشرطة—أمر ضروري. يفهم هؤلاء الأشخاص البيانات والسياق الذي تم جمعها فيه والعلاقات بين نقاط البيانات، مما يضمن بناء الذكاء الاصطناعي الصحيح والحفاظ عليه وحوكمته بمسؤولية. 

كانت بعض الأساليب التي استخدمناها هي تمارين التفكير التصميمي التي نشأت من نقابة تصميم الذكاء الاصطناعي الخاصة بشركة IBM. التمارين التفكير التصميمي هذه تتناول أسئلة مثل:

• هل لدينا الأشخاص المناسبون في الغرفة؟

• ما هي المشكلة الأساسية التي نحاول حلها؟

• هل لدينا البيانات الصحيحة والفهم الصحيح للبيانات وفقًا لخبراء المجال لجعل مبادرة الذكاء الاصطناعي هذه تنبض بالحياة؟

• ما هي مبادئ الذكاء الاصطناعي التكتيكية التي يجب أن تنعكس في أنظمة الذكاء الاصطناعي لدينا لكسب ثقة الجمهور؟ وكيف نحدد المتطلبات الوظيفية وغير الوظيفية اللازمة لإحياء هذه المبادئ؟

• ما هي التأثيرات غير المقصودة لنماذج الذكاء الاصطناعي هذه؟ 

• كيف تتعامل مع تخفيف المخاطر بطريقة مقصودة؟ 

• من هم جميع الشخصيات التي نحتاج للبناء لها؟

• ما الذي نحتاج إيصاله حول الاستخدامات المقصودة وغير المقصودة لهذا الذكاء الاصطناعي؟

يجب أن يتم هذا العمل الاستبطاني في بيئة تعطي الأولوية للتواضع والشمولية والسلامة النفسية وتضم أشخاصًا ذوي خبرات حياتية متنوعة. إن نتيجة هذا العمل هي أن الفرق تمتلك أخيرًا اللغة التي طالما احتاجت إليها. يمكّنهم ذلك من توصيل ما يجب تطويره أو الحصول عليه بوضوح للمطورين أو المشترين، وذلك لرعاية حلول الذكاء الاصطناعي بمسؤولية.

مرة أخرى، أنت تحصل على السلوكيات البشرية التي تقيسها. إذن، السؤال هو، ما هي تلك السلوكيات البشرية التي احتجنا إلى قياسها لتحديد نجاح مشروع الحوكمة؟

السؤال الشائع الذي يجب طرحه هو:

• ما هي السلوكيات البشرية التي يتم قياسها؟ أي من السلوكيات البشرية يتم التركيز عليها في جهود الاتصال، وهل هي نفس السلوكيات المتعلقة بالحوكمة التي يتم قياسها؟

غالبًا ما يتم تشجيع الموظفين على استخدام الذكاء الاصطناعي في مكان العمل (مع خطر الفصل من العمل)، وفي بعض الأحيان بالتوازي يُقال لهم إنهم مسؤولون عن النتائج المسؤولة. لكن غالبًا ما يتم تقييمهم بشكل صارم بناءً على مدى سرعة إنجازهم لعملهم ومدى إنتاجيتهم، دون أي قياس للنتائج بحد ذاتها.

لقد كانت هناك عدة حالات موثقة حيث كان خبير المجال يعلم أن الذكاء الاصطناعي كان مخطئًا، وتم إخباره صراحةً باستخدام أفضل تقدير لديه. ومع ذلك، بدلًا من مناقضة الذكاء الاصطناعي، لم يفعل شيئًا – لأنه، مرة أخرى، تم تقييم أدائه وفقًا لمقاييس مختلفة تمامًا. في الواقع يتم معاقبة بعض الأشخاص بسبب مخالفتهم للذكاء الاصطناعي في العمل. 

عندما نعود إلى السؤال—ما هي السلوكيات التي نقيسها—دعنا نستكشف كيف يمكننا قياس ما إذا كان الذكاء الاصطناعي يعزز ذكاء الشخص. يجب علينا أيضًا أن ننظر فيما إذا كان هذا الشخص يشارك بفاعلية كمستهلك ناقد للذكاء الاصطناعي. هؤلاء الأفراد يجب أن يحصلوا على حوافز قابلة للقياس لمساعدة الذكاء الاصطناعي في التدريب، أو على الأقل لتنبيه الآخرين، من أجل تحقيق نتائج أكثر مسؤولية.

لكي نتمكن من فعل ذلك، يجب علينا قياس ما إذا كان الموظفون الذين يستخدمون الذكاء الاصطناعي يفهمون حقًا مخاطر الذكاء الاصطناعي، ويفهمون حقًا الطبيعة الحقيقية للبيانات، والتحيز، والتأثير المتباين. هل يعرفون ماذا يعني الخضوع للمساءلة؟ هل يتم تقييمهم بهذه الطريقة لتشجيع تلك المساءلة؟

إن سلوكيات القيادة هذه ليست سوى أمثلة قليلة للأمور التي نعرف بضرورة البحث عنها ونحن نفكر في إرساء الثقافة التنظيمية الصحيحة.

الفيصل في معرفة ما إذا كنت قد نجحت في مشاركة حوكمة الذكاء الاصطناعي هو ما إذا كنت قد كسبت ثقة الناس. وتذكّر مجددًا- لا شيء سهل في تطوير الذكاء الاصطناعي بطريقة تبني الثقة. هؤلاء القادة الذين أقدرهم قادرون على إظهار عملهم.

ما أود أن تستخلصه من هذا المقال هو أنك تنتمي إلى هذه المحادثة حتى لو كنت تعتقد أنك لا تنتمي إليها. لا تحتاج إلى شهادة في علم البيانات أو درجة الدكتوراه في الذكاء الاصطناعي، أعدك بذلك. كونك تحمل خبرة حياتية مختلفة يعني أنك تنتمي إلى هذه المحادثة حول الذكاء الاصطناعي.

هذه المحادثة مهمة ليس فقط لأن الذكاء الاصطناعي أصبح شائعًا ومن المرجح أن يظهر في مكان عملك. سترغب في معرفة أن نماذج الذكاء الاصطناعي المستخدمة—حتى من قِبل أطفالك—في مأمن من الخصوم ومبنية على الحقيقة. يجب أن تكون عادلة، وتتجنب إلقاء خطاب الكراهية السام بشكل مفاجئ أو الخروج عن المسار الصحيح، وحماية البيانات الشخصية بضمانات قوية للخصوصية.

لنكن صادقين: هذا الانتقال إلى الذكاء الاصطناعي صعب. إن الريادة في عصر الذكاء الاصطناعي تعني التكيف مع الغموض. إنه يعني اختيار فعل الصواب، وليس فقط ما هو سهل أو مربح على المدى القصير. ويتطلب ذلك تطوير فهم أعمق لتقنيات الذكاء الاصطناعي—كيف تعمل، وما يمكنها تحقيقه، والمخاطر التي تحملها. وذلك يتطلب نقل تلك المعرفة والفهم إلى جميع القوى العاملة. وهذا يعني الاستثمار في الإلمام بالذكاء الاصطناعي وحوكمة الذكاء الاصطناعي وقائد قادر على حوكمة الذكاء الاصطناعي.

القادة الذين يتقدمون الآن—الذين يطرحون الأسئلة الشجاعة، ويوفرون الموارد للأنظمة الصحيحة، ويركزون على القيم الإنسانية—لا يتجنبون الأخطاء فحسب، بل يشكلون بنشاط مستقبلًا أكثر مسؤولية للذكاء الاصطناعي. إنهم يكسبون الثقة التي تصبح ميزة تنافسية دائمة. لحظة القيادة هذه ملكك. اجعلها ذات قيمة. اجعلها ذات قيمة.