ما المقصود بإدارة الذكاء الاصطناعي؟

تتصرف أنظمة الذكاء الاصطناعي بطريقة تختلف عن البرمجيات التقليدية. فالبرنامج التقليدي يتبع تعليمات صريحة لإنتاج مخرجات حتمية؛ أي إن إدخال البيانات نفسها في الظروف نفسها إلى برنامج تقليدي يؤدي دائمًا إلى المخرجات نفسها. أما النظام المدعوم بالذكاء الاصطناعي، فينتج مخرجات احتمالية تقودها خوارزميات التعلم الآلي؛ فقد تختلف مخرجاته حتى إذا ظلت المدخلات والظروف كما هي.

وهذا المنطق الديناميكي يمنح الذكاء الاصطناعي قوة فريدة، لكنه في الوقت نفسه يخلق درجة من عدم القدرة على التنبؤ قد تترتب عليها مخاطر محتملة. فعلى سبيل المثال، قد تواجه المؤسسات مخاطر تمس سمعتها نتيجة مخرجات منحازة أو مسيئة. كما أن هلوسات الذكاء الاصطناعي التي لا تُضبط أو لا تُكتشف قد تطرح مجموعة واسعة من المخاطر، بدءًا من إزعاج المستخدمين أو إرباكهم، وصولًا إلى أخطاء في سيناريوهات بالغة الأهمية قد تكون لها عواقب كبيرة. وقد تؤدي الهجمات العدائية المدعومة بالذكاء الاصطناعي أو مجموعات البيانات المخترقة إلى مخاطر في الأمن الإلكتروني. كما أن عدم الامتثال للوائح الذكاء الاصطناعي في بيئة سريعة التغير ينطوي على مخاطر مالية وقانونية.

صُمم نظام إدارة الذكاء الاصطناعي (AIMS) لتوقع هذه المخاطر والتعامل معها. وبصورة أكثر واقعية، يمكن فهم نظام إدارة الذكاء الاصطناعي على أنه مجموعة من السياسات والبروتوكولات التي تهدف إلى دمج حوكمة سليمة للذكاء الاصطناعي في جميع مهام سير العمل المرتبطة باستخدام المؤسسة للأدوات والمنتجات القائمة على الذكاء الاصطناعي. ويشمل ذلك تدابير مثل التقييمات الاستباقية الموحّدة للمخاطر، وآليات إعداد التقارير، وعمليات التدقيق الدورية، ومراقبة مخرجات النماذج وأدائها في الوقت الفعلي.

وعند تنفيذ أنظمة إدارة الذكاء الاصطناعي على نحو جيد، فإنها لا تقتصر على الحد من المخاطر، بل تساعد أيضًا على تحسين الكفاءة التشغيلية وبناء الثقة بين المطورين والمستخدمين النهائيين وغيرهم من الأطراف المعنية، ممن يُعد قبولهم ودعمهم ضروريين لتبنّي الذكاء الاصطناعي بفاعلية.

ينبغي لنظام إدارة الذكاء الاصطناعي الشامل أن يتناول ما يلي:

من الفئات التي قد تتأثر بقضايا الإنصاف والتحيز؟ وكيف يمكن أن تتأثر؟ هل يمكن أن يؤدي مشروع الذكاء الاصطناعي لديك، من دون قصد، إلى شكل من أشكال التمييز؟ وبصرف النظر عن المتطلبات التنظيمية، ما مسؤولياتك الأخلاقية فيما يتعلق بخصوصية البيانات وبعرض قدرات النظام وحدوده بدقة؟ إن التحلي بالشفافية الجادة في مثل هذه القضايا الأخلاقية يحافظ على ثقة الأطراف المعنية، ويساعد على تحسين صناعة القرار لاحقًا.

ما التهديدات المحددة الكامنة في تطوير تطبيق الذكاء الاصطناعي لديك أو نشره؟ فعلى سبيل المثال، يجب أن يراعي استخدام أدوات الذكاء الاصطناعي في مجالات مثل الرعاية الصحية أو المجالات القانونية ما قد يترتب عليه من تبعات تنظيمية، في حين قد تؤدي أخطاء الذكاء الاصطناعي في سياقات خدمة العملاء إلى مخاطر تمس السمعة. ونظرًا إلى أن الحد من هذه التهديدات يُعد أحد الأغراض الأساسية لنظام إدارة الذكاء الاصطناعي لديك، فينبغي أن يكون تحديد مخاطر الذكاء الاصطناعي الخاصة بحالة الاستخدام من أولى الخطوات وأهمها في هذه العملية.

تُعد حوكمة البيانات السليمة ضرورية للحفاظ باستمرار على جودة البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي وأمانها، وكذلك البيانات التي تولدها هذه النماذج. وتكتسب حوكمة البيانات أهمية خاصة في المجالات التي تتطلب الامتثال لأطر تنظيمية محددة. فعلى سبيل المثال، إذا طالب أحد المستخدمين بحقه في محو بياناته بموجب اللائحة العامة لحماية البيانات (GDPR)، فيجب أن يتيح نظامك العثور على بيانات هذا الفرد وحذفها بسهولة. أما الأنظمة التي تعمل في سياقات الرعاية الصحية، فيجب أن تحمي المعلومات الحساسة بما يتوافق مع متطلبات HIPAA.

ويجب إدراج البروتوكولات والسياسات التي تعالج هذه الاعتبارات ليس فقط أثناء تطوير أنظمة الذكاء الاصطناعي ونشرها أول مرة، بل أيضًا ضمن أعمال صيانتها المستمرة. وتُعد الإدارة السليمة لدورة حياة الذكاء الاصطناعي ضرورية لاكتشاف المخاطر التي قد تنشأ بمرور الوقت، مثل انحراف النموذج أو غيره من المشكلات، والعمل على الحد منها.

ومن أهم الوسائل للحفاظ على الأهداف التي صُمم نظام إدارة الذكاء الاصطناعي للمساعدة على تحقيقها أن تكون لديك استراتيجية نشطة لفحص سلامة نظام الذكاء الاصطناعي بمرور الوقت. كما تُعد البنية المحددة لعمليات التدقيق الدورية، ومعدل إجرائها، من أهم الاعتبارات التشغيلية في إدارة الذكاء الاصطناعي.

ومن المسؤول عن تنفيذ كل ذلك والإشراف عليه؟ إن تحديد الأدوار والمسؤوليات الفردية بوضوح ضروري لتحويل استراتيجية إدارة الذكاء الاصطناعي من فكرة تبدو جيدة على الورق إلى منظومة عملية تحمي الابتكار في الذكاء الاصطناعي داخل مؤسستك.

ويساعد وضع هذه المبادئ والعمليات في وقت مبكر من عملية تطوير الذكاء الاصطناعي على تحسين صناعة القرار وتبسيطها في المراحل اللاحقة.

هناك طرق عديدة لتطبيق إدارة فعّالة للذكاء الاصطناعي، وقد تختار بعض المؤسسات اتباع نهج مصمم بالكامل خصيصًا لمبادراتها في هذا المجال. ومع ذلك، سيستفيد كثير من المؤسسات من الالتزام بأطر راسخة، أو الاستلهام منها على الأقل، مثل ISO 42001، أو إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتقنية (NIST)، أو المبادئ المنصوص عليها في قانون الذكاء الاصطناعي في الاتحاد الأوروبي.

ISO 42001، وهو اختصار لمعيار ISO/IEC 42001:2023، هو أول معيار دولي في العالم لإنشاء نظام إدارة الذكاء الاصطناعي (AIMS) وتنفيذه وصيانته ومواصلة تحسينه. وقد طُوّر ISO 42001 في عام 2023، ويتمثل هدفه المعلن في تزويد المؤسسات "بالإرشادات الشاملة التي تحتاج إليها لاستخدام الذكاء الاصطناعي بمسؤولية وفاعلية، حتى مع التطور السريع لهذه التقنية". ويمكن للمؤسسات طلب شهادة ISO 42001 الرسمية، وهي تتطلب إجراء تدقيق من طرف ثالث على الأنظمة والعمليات لتقييم مدى التزامها بممارسات الذكاء الاصطناعي التي يحددها معيار ISO 42001.

وبصورة أكثر تحديدًا، يضع ISO 42001 معيارًا لنظام الإدارة (MSS) من أجل حوكمة تنظيمية سليمة للذكاء الاصطناعي، بالاستناد إلى منهجية خطّط، نفّذ، تحقّق، اتّخذ إجراءً.

في مرحلة التخطيط، يحدد نظام إدارة الذكاء الاصطناعي القواعد التي تنظّم تشغيل نظام الذكاء الاصطناعي والتعامل معه.

• السياق والنطاق: حدّد بدقة ما تستطيع أدوات الذكاء الاصطناعي لديك فعله وما لا تستطيع فعله. فعلى سبيل المثال، يمكنك توضيح أن روبوت محادثة دعم العملاء يستطيع الرد على استفسارات الدعم أو تصعيد المشكلات إلى شخص بشري، لكنه لا يستطيع اعتماد عمليات رد المبالغ مباشرةً.

• تقييم المخاطر: حدّد التهديدات المحددة المرتبطة بهذا السياق وهذا النطاق. فعلى سبيل المثال، قد يختلق روبوت دعم العملاء سياسة غير موجودة للشركة، مما يسبب ارتباكًا أو يخلق توقعات مضللة لدى المستخدمين. ويمكن أن يساعدك أطلس مخاطر الذكاء الاصطناعي من IBM على البدء.

• تحديد الأهداف: ضع مقاييس ملموسة لما يُعد "نجاحًا". ويعتمد ذلك عادةً على المشكلة التي تحاول حلها من خلال تطبيق أدوات الذكاء الاصطناعي. فإذا كان هدف مشروع الذكاء الاصطناعي لديك هو إتاحة وقت الموظفين للاستفسارات الأكثر تعقيدًا، على سبيل المثال، فيمكنك تعريف النجاح بأنه حل نسبة معينة من الحالات دون الحاجة إلى تدخل بشري إضافي. 

في مرحلة التنفيذ، تتحول المبادئ والأهداف المحددة في المرحلة السابقة إلى إجراءات عملية داخل مهام سير عمل فعلية لتطوير الذكاء الاصطناعي.

• وينبغي أن تؤخذ التهديدات المحتملة في الاعتبار ضمن سياسات حوكمة البيانات.

• كما يجب وضع حواجز حماية وآليات احتياطية للوقاية من المخاطر المعروفة.

• ويساعد أتمتة تقييم أداء النظام، حيثما أمكن، على تقليل الجهد اليدوي المطلوب لقياس النجاح موضوعيًا، ثم تحسين النظام بناءً على ذلك.

وينبغي الإشراف على نظام الذكاء الاصطناعي بفاعلية. كما يجب تسجيل كل إجراء يتخذه النظام، بما يدعم قابلية تفسيره. فإذا كانت إحدى نتائج نظام الذكاء الاصطناعي مقلقة أو غير مرضية بأي صورة، فلن يكون من الممكن تحسينها إلا إذا أمكن تحديد موضع الخطأ بدقة داخل العملية.

ويجب أن تضمن عمليات التدقيق الدورية التزام الفِرق ببروتوكولات نظام إدارة الذكاء الاصطناعي، وأن يكون هذا الالتزام فعليًا وذا معنى، لا مجرد التزام شكلي.

وعند وقوع حوادث، يجب أن يكون هناك نظام قائم يتيح إيقاف العمل وإدخال التحسينات اللازمة. وإذا كشفت عمليات التدقيق عن ضوابط حماية غير كافية، أو مشكلات غير متوقعة، أو ثغرات أمنية ناشئة، فيجب وضع تدابير جديدة لمعالجتها.

المعهد الوطني الأمريكي للمعايير والتقنية (NIST) هو وكالة تابعة لوزارة التجارة الأمريكية. ويُعد إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST، أو AI RMF، دليلًا عمليًا قابلًا للتكيّف لاستخدام الذكاء الاصطناعي بمسؤولية، ويستند إلى مجموعة واسعة من المواد الداعمة، من بينها:

• دليل AI RMF، الذي يقدم إجراءات مقترحة لتحقيق النتائج المحددة في إطار AI RMF نفسه.

• خارطة طريق AI RMF، التي تهدف إلى "المساعدة في سد الفجوات في المعرفة أو الممارسة أو الإرشاد"، وذلك من خلال تحديد سبل تعزيز إطار AI RMF نفسه، وتعزيز قدرة NIST على مساعدة مؤسسات القطاعين العام والخاص على تطبيقه.

• خرائط مواءمة AI RMF، وهي مصممة لمساعدة المؤسسات على ربط ممارساتها الحالية بالمفاهيم والمصطلحات المستخدمة في مجموعة متنوعة من أطر إدارة الذكاء الاصطناعي، من بينها، على سبيل المثال لا الحصر، ISO 42001.

• حالات الاستخدام في الحكومة والصناعة والأوساط الأكاديمية.

ويعتمد دليل AI RMF منهجية تقوم على أربع مراحل: الحوكمة، وتحديد السياق، والقياس، والإدارة.

في مرحلة الحوكمة، يتم تشكيل "لجنة مخاطر الذكاء الاصطناعي". وتحدد هذه اللجنة مستوى "تقبّل المخاطر" لدى المؤسسة، وتُعد وثيقة لسياسة مخاطر الذكاء الاصطناعي يوقّعها كبار المسؤولين التنفيذيين، وتوضح صراحةً الجهة المسؤولة عن أي إخفاقات مرتبطة بالذكاء الاصطناعي.

في مرحلة الاكتشاف، تُحدد المخاطر الخاصة بكلٍ من أدوات الذكاء الاصطناعي والطريقة التي سيستخدمها بها الأشخاص. وتنتهي هذه العملية إلى إعداد ملف تعريف للمخاطر، يتضمن تفصيلًا لكل تهديد تم تحديده.

يُقاس أثر كل تهديد جرى تحديده وفقًا للطريقة التي قد يؤثر بها في الشركة أو عملائها. ويشمل ذلك عادةً اختبارات الفرق الحمراء واختبارات الإجهاد، وينتج عنه تقرير TEVV، أي تقرير الاختبار والتقييم والتحقق والتصديق، الذي يعمل بمنزلة بطاقة نتائج تقيس دقة النظام ودرجة موثوقيته.

ثم تُعالَج المشكلات والثغرات المحتملة التي تُكتشف أثناء مرحلة القياس، ويُوضع لها ما يلزم من ضوابط.

وعلى خلاف ISO 42001 وإطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST، وهما إطاران طوعيان، تُعد أحكام قانون الذكاء الاصطناعي في الاتحاد الأوروبي متطلبات إلزامية لأي مؤسسة تشارك في تطوير أنظمة الذكاء الاصطناعي أو نشرها داخل سوق الاتحاد الأوروبي.

وتشمل أحكام قانون الذكاء الاصطناعي في الاتحاد الأوروبي ما يلي:

• توثيقًا فنيًا إلزاميًا لعمليات تدريب النماذج واختبارها وتقييمها.

• توفير معلومات عن قدرات نماذج الذكاء الاصطناعي ذات الصلة وحدودها لأي مزوّدين لاحقين سيستخدمون هذه النماذج.

• الامتثال لتوجيه الاتحاد الأوروبي بشأن حقوق الطبع والنشر.

• ملخصات عامة لبيانات التدريب.

إذا تجاوز نموذج ذكاء اصطناعي معين 1,025 عملية فاصلة عائمة (FLOPs) أثناء التدريب، فإنه يُعد نموذجًا ينطوي على مخاطر نظامية، ويخضع بذلك لضوابط حماية إضافية.

ويوفر الاتحاد الأوروبي أدوات وموارد لمساعدة الشركات على الامتثال لقانون الذكاء الاصطناعي، منها أداة تفاعلية للتحقق من الامتثال تحدد الأحكام التي تنطبق على عملك، ودليل مخصص للشركات الصغيرة والمتوسطة (SMEs)، ومجموعة من المقالات التي تتناول قضايا محددة.