مَن المسئول عن الذكاء الاصطناعي المسؤول؟ قد تفاجئك الإجابة

يتعين على قادة أقسام التوريد والمشتريات وإدارة البائعين (SPVM) بذل جهود كبيرة فيما يتعلق بدمج حوكمة الذكاء الاصطناعي المسؤول في برمجياتهم وعقودهم. يحذر تقرير حديث صادر عن Gartner من أن قادة SPVM الذين يتجاهلون ضرورة دمج حوكمة الذكاء الاصطناعي يعرضون المؤسسة لمخاطر كبيرة.

تقول Gartner: "تفتقر معظم عقود بائعي البرامج والخدمات السحابية إلى التزامات صريحة تجعلهم مسؤولين عن توفير الذكاء الاصطناعي المسؤول، بينما تتضمن عقود أخرى إخلاء مسؤولية يرفع عنهم المساءلة عن أنظمة ونتائج الذكاء الاصطناعي غير المسؤولة."

"عندما أتحدث إلى جمهور كبير وأطرح السؤال: من في المؤسسة يجب أن يكون مسؤولاً عن النتائج المسؤولة للذكاء الاصطناعي؟ الإجابات الثلاث الأولى التي أحصل عليها مقلقة للغاية. 

الإجابات الثلاث الأكثر شيوعا التي أحصل عليها هي: "لا أحد" و "نحن لا نستخدم الذكاء الاصطناعي" و "الجميع". لا يوجد أي إجابة صحيحة من هذه الإجابات، وكلها مثيرة للقلق.

الإجابة الأولى والأكثر شيوعًا، وهي عدم مساءلة أي شخص عن نتائج نماذج الذكاء الاصطناعي، وهي إجابة مثيرة للقلق بشكل علني. لا يوجد عذر هنا. لا ينبغي، ولا يمكن أن يكون مقبولاً، أن نكتفي بانعدام المساءلة فيما يتعلق بالذكاء الاصطناعي. 

أما الإجابة الثانية، وهي أننا لا نستخدم الذكاء الاصطناعي، فهي مضحكة بالنظر إلى أن الذكاء الاصطناعي مدمج بالفعل في العديد من تراخيص تطبيقات برامج المؤسسات التي تستخدمها بالفعل. علاوة على ذلك، يظهر أن المؤسسة لا تتعقب الذكاء الاصطناعي في مخزونها، أو الأسوأ من ذلك، لا تقوم بإبلاغ موظفيها بالاستخدامات المناسبة وغير المناسبة للذكاء الاصطناعي. وهذه مشكلة كبيرة. 

والإجابة الأخيرة، وهي أنها مسؤولية الجميع، هي إجابة نبيلة على الأقل. كل من يلمس نماذج الذكاء الاصطناعي طوال دورة حياتها مسؤول بالفعل. ومع ذلك، إذا كان الجميع يعتبرون مسؤولين عن الحوكمة، فهل يعتبر أي شخص مسؤولاً فعليًا عن الحوكمة؟ يجب أن يكون هناك ما هو أكثر لمسؤولية الذكاء الاصطناعي من فكرة أننا سنكون بخير إذا تعامل كل فرد مع إدارته الخاصة.

من الواضح أن هناك انفصالًا بين الطريقة التي تفكر بها المؤسسة في تعاملها مع مسؤوليتها عن الذكاء الاصطناعي والواقع. اسمحوا لي أن أشرح ما تتطلبه المؤسسة لتكون مسؤولة بالفعل. 

ويتعين على المسؤولين عن حوكمة وأخلاقيات الذكاء الاصطناعي إدارة الكثير من الأجزاء المتحركة، وأهمها محوريًا هو مواءمة القيم داخل المؤسسة. ما يعنيه ذلك هو جعل جميع نظرائهم يدركون مدى أهمية هذا العمل بالنسبة للفرد والمؤسسة. ليس هذا ممكنًا دائمًا بدون اتصالات ودعم مستمرين من الرئيس التنفيذي أو مجلس الإدارة. يحتاج قادة حوكمة الذكاء الاصطناعي هؤلاء إلى المساعدة في ضمان دعوة نظرائهم مثل الرئيس التنفيذي لأمن المعلومات (CISO) إلى الاجتماعات المتعلقة باستثمارات الذكاء الاصطناعي. 

قد يُنظر إلى قادة حوكمة الذكاء الاصطناعي في البداية على أنهم عقبة تعيق التقدم. يتمتع قادة حوكمة الذكاء الاصطناعي الممولين والممكّنين بفرصة إنشاء منصات حوكمة شاملة للذكاء الاصطناعي يمكنها تسريع عمليات النشر الموثوقة للنماذج في جزء بسيط من الوقت. من خلال وجود مجموعات بيانات معتمدة مسبقًا وعمليات مدققة، يمكن لمنشئي حلول الذكاء الاصطناعي معرفة حالات الاستخدام والبيانات والأساليب التي تمت الموافقة عليها مسبقًا من قبل المؤسسة.

علاوة على اتساق القيمة، يحتاج الشخص أو الفريق المسؤول عن الذكاء الاصطناعي المسؤول إلى متابعة مخزون نماذج الذكاء الاصطناعي للمؤسسة. لا يمكنك التحكم في ما لا يمكنك رؤيته. لذلك، يجب تتبع كل ما قامت المؤسسة بشرائه أو بنائه مما قد يحتوي على ذكاء اصطناعي (AI) أو تعلم آلي (ML)، بالإضافة إلى البيانات الوصفية المرتبطة بكل نموذج من هذه النماذج. 

تُخزّن هذه البيانات الوصفية تقليديًا في صحيفة وقائع أو، كما تُسمى أحيانًا، بطاقة نموذج الذكاء الاصطناعي. يجب أن يوضح لك هذا الغرض من النموذج، ومن هو المسؤول عنه، ومن أين جاءت البيانات، وما الذي يتم تدقيقه من أجله، ومدى تكرار تدقيقه، ونتائج تلك التدقيقات، وما إلى ذلك.

بعد ذلك، يحتاجون إلى معرفة كيفية تدقيق نماذج الذكاء الاصطناعي هذه لمراقبة ما إذا كانت التقنية تتصرف بالطريقة التي تريدها أن تتصرف بها. يعد هذا اعتبارًا بالغ الأهمية لمساءلة البائعين تعاقديًا عن نماذجهم.

ثم يحتاجون إلى تتبع اللوائح. يتغير المشهد التنظيمي باستمرار، خاصة فيما يتعلق بالذكاء الاصطناعي. لدي العديد من الدول قوانين خاصة باستخدام الذكاء الاصطناعي ومخاطره، وفي العام الماضي أصدر الاتحاد الأوروبي قانون الذكاء الاصطناعي في الاتحاد الأوروبي. تم بالفعل مقاضاة العديد من الشركات والوكالات الحكومية بنجاح بسبب نماذجها الخاطئة.

هناك إقرار بأنه يمكن أن يكون لديك نماذج "قانونية لكنها فظيعة"، مما يعني أنه يجب عليك التعمق في الأخلاقيات المحيطة بالذكاء الاصطناعي. وفي أي وقت تتعمق فيه في موضوع الأخلاقيات، يجب أن تكون معلمًا رائعًا. 

يجب أن تكون قادرًا على تعليم الأشخاص الذين يبنون النماذج نيابةً عنك أو حتى يشترونها نيابةً عنك، كيفية القيام بذلك بطريقة تعكس أخلاقيات مؤسستك.

فقط انظر إلى القيمة الإنسانية لـ "العدالة". نتوقع جميعًا أن تكون نماذج الذكاء الاصطناعي عادلة، ولكن وجهة نظر من عن العدالة يتم تمثيلها في نموذج الذكاء الاصطناعي؟ كمجتمع، لا يمكننا أن نتفق على أن هناك نظرة عالمية واحدة بشأن العدالة.

ما يعنيه هذا على أرض الواقع هو أن الأشخاص المسؤولين عن حوكمة الذكاء الاصطناعي وبرامج الأخلاقيات داخل مؤسساتهم يجدون أنفسهم أيضًا مسؤولين عن برامج الإلمام بالذكاء الاصطناعي. 

لا تقتصر برامج الإلمام بالذكاء الاصطناعي هذه على تعليم الموظفين كيفية استخدام الذكاء الاصطناعي في وظائفهم ليكونوا أكثر إنتاجية. يبدأ الإلمام بالذكاء الاصطناعي بتحديد العلاقة التي تريد المؤسسة أن تكون لديها مع الذكاء الاصطناعي. تقدم برامج الإلمام بالذكاء الاصطناعي هذه المبادئ الأساسية التي تتوقع المنظمات رؤيتها منعكسة في أي حل من حلول الذكاء الاصطناعي يتم بناؤه أو شراؤه. وهي تُعلّم كيفية تفعيل كل من هذه المبادئ أو المساعدة في تجسيدها عبر مستويات مختلفة من المخاطر.

إن برامج الإلمام بالذكاء الاصطناعي هذه متعددة التخصصات بالضرورة لأن كسب الثقة في الذكاء الاصطناعي ليس مشكلة تقنية بحتة على الإطلاق، بل هي مشكلة اجتماعية تقنية. يمكن أن يكون بناء النماذج التي تعكس القيم الإنسانية أحد أصعب الأشياء التي شرعنا كبشر في القيام بها. إذ يتطلب الأمر أشخاصًا من ذوي الخلفيات في جميع أنواع التخصصات.

كونك مسؤولا عن الذكاء الاصطناعي هو عمل كبير ولهذا السبب يحتاج هؤلاء الأفراد إلى قدر هائل من السلطة وتفويض ممول للقيام بهذا العمل. لا يمكن أن يكون مجرد عمل جانبي. يتطلب الأمر الكثير من العمل لحل هذه المشاكل. ينبغي للمؤسسات أن تعمل على تفويض المساءلة المتعلقة بالذكاء الاصطناعي بطريقة مسؤولة.

وبعبارة بسيطة، يمكنك الحصول على قدر أكبر من السلوكيات البشرية التي تقوم بقياسها. ما هي سلوكيات الموظفين التي تحفزها وتقيسها فيما يتعلق بالتنظيم المسؤول للنماذج؟ فكّر في الطرق التي يمكنك من خلالها تحفيز السلوكيات الصحيحة وقياسها وكذلك كيفية تضمين التعليم والتعلم بشكل أفضل في عمليات حوكمة الذكاء الاصطناعي لديك. الكثيرون لا يمتلكون الحافز للتفكير مليًا عند ملء نماذج جرد نماذج الذكاء الاصطناعي، أو ما هو أسوأ من ذلك، قد يكونون غير مدركين تمامًا لمخاطر النموذج الذي يدعمونه.

باختصار، أريدك أن تتذكر أربعة امتيازات رئيسية:

1. سواء كنت مستعدًا أم لا، يتم استخدام الذكاء الاصطناعي في المؤسسة الآن. سواء كنت تحتفظ بمخزون من نماذج الذكاء الاصطناعي التي اشتريتها أم لا، فبحلول عام 2026 سيكون لدى 80% من بائعي البرامج ذكاء اصطناعي مدمج في تطبيقات المؤسسات الخاصة بهم. كن استباقيًا وضع استراتيجية صارمة للذكاء الاصطناعي تمكّنك من إدارة الذكاء الاصطناعي وتشغيله بكفاءة.
2. يحتاج قادة حوكمة الذكاء الاصطناعي إلى تفويض ممول لأن حوكمة الذكاء الاصطناعي تتطلب قدرًا هائلاً من العمل، وطبيعة هذا العمل آخذة في النمو. موِّل موظفيك وامنحهم القوة للقيام بهذا العمل.
3. طبق الذكاء الاصطناعي الخاص بك أخلاقيًا وكن واعيًا بالنتائج البشرية. نتوقع جميعًا أن تعكس نماذج الذكاء الاصطناعي التي نستخدمها أو التي تُستخدم علينا قيمنا الإنسانية، وأنها لن "تكذب" علينا، وأنها ستكون عادلة، وأنها آمنة للاستخدام. ندرك أن هذا ليس تحديًا تقنيًا بحتًا ولكنه تحدٍ اجتماعي تقني. سيتطلب نهجًا شاملاً وخبرة في السلوك البشري.
4. يتطلب الأمر الكثير لتقليل مخاطر الذكاء الاصطناعي. يتطلب الذكاء الاصطناعي الموسع الاستراتيجية والبيانات والبنية والأمن والحوكمة الصحيحة. يتطلب التفاهم الصحيح بين البائعين لديك أيضًا. اختر شريكًا عمليًا لتحقيق ذلك بشكل صحيح وتأكد من عدم حدوث أخطاء.