إدارة مخاطر الذكاء الاصطناعي هي عملية تحديد المخاطر المحتملة المرتبطة بتقنيات الذكاء الاصطناعي وتخفيف حدتها ومعالجتها بشكل منهجي. وهي تنطوي على مزيج من الأدوات والممارسات والمبادئ، مع التركيز بشكل خاص على نشر أطر عمل رسمية لإدارة مخاطر الذكاء الاصطناعي.
بشكل عام، الهدف من إدارة مخاطر الذكاء الاصطناعي هو تقليل الآثار السلبية المحتملة للذكاء الاصطناعي مع زيادة فوائده.
انضم إلى قادة الأمن الإلكتروني الذين يعتمدون على الرسالة الإخبارية Think للحصول على أخبار مُنتقاة عن الذكاء الاصطناعي والأمن السيبراني والبيانات والأتمتة. تعلم بسرعة من برامج تعليمية وشروحات يقدّمها خبراء - تُرسَل مباشرة إلى بريدك الإلكتروني. راجع بيان الخصوصية لشركة IBM.
تُعَد إدارة مخاطر الذكاء الاصطناعي جزءًا من المجال الأوسع لحوكمة الذكاء الاصطناعي. وتشير حوكمة الذكاء الاصطناعي إلى الضوابط التي تضمن أن الأدوات والأنظمة المعتمدة على الذكاء الاصطناعي آمنة وأخلاقية وتظل كذلك.
تُعَد حوكمة الذكاء الاصطناعي تخصصًا شاملاً، في حين تُعَد إدارة مخاطر الذكاء الاصطناعي عملية ضمن هذا التخصص. تركِّز إدارة مخاطر الذكاء الاصطناعي بشكل خاص على تحديد نقاط الضعف والتهديدات ومعالجتها لضمان سلامة أنظمة الذكاء الاصطناعي. تُحدِّد حوكمة الذكاء الاصطناعي الأطر والقواعد والمعايير التي توجِّه أبحاث الذكاء الاصطناعي وتطويره وتطبيقه لضمان السلامة والعدالة واحترام حقوق الإنسان.
في السنوات الأخيرة، شهد استخدام أنظمة الذكاء الاصطناعي طفرة كبيرة عبر مختلف القطاعات. وتفيد تقارير McKinsey بأن 72% من المؤسسات تستخدم حاليًا شكلاً من أشكال الذكاء الاصطناعي، بارتفاع بنسبة 17% مقارنة بعام 2023.
وفي حين تسعى المؤسسات وراء فوائد الذكاء الاصطناعي مثل الابتكار والكفاءة وتعزيز الإنتاجية، فإنها لا تواجه دائمًا مخاطره المحتملة كمخاوف الخصوصية والتهديدات الأمنية والمسائل الأخلاقية والقانونية.
ويدرك القادة جيدًا هذا التحدي. أظهرت دراسة حديثة أجراها معهد IBM Institute لقيمة الأعمال (IBM IBV) أن 96% من القادة يعتقدون أن تبني الذكاء الاصطناعي التوليدي يزيد من احتمالية حدوث خرق أمني. وفي الوقت نفسه، وجد معهد IBM IBV أيضًا أن 24% فقط من مشاريع الذكاء الاصطناعي التوليدي الحالية مؤمَّنة.
يمكن أن تساعد إدارة مخاطر الذكاء الاصطناعي على سد هذه الفجوة وتمكين المؤسسات من الاستفادة من الإمكانات الكاملة لأنظمة الذكاء الاصطناعي دون المساس بأخلاقيات الذكاء الاصطناعي أو أمنه.
كما هو الحال مع أنواع المخاطر الأمنية الأخرى، يمكن فهم مخاطر الذكاء الاصطناعي كمقياس لمدى احتمالية تأثير تهديد محتمل متعلق بالذكاء الاصطناعي على المؤسسة ومدى الضرر الذي قد يسببه هذا التهديد.
على الرغم من اختلاف نماذج الذكاء الاصطناعي وحالات الاستخدام، فإن مخاطر الذكاء الاصطناعي بشكل عام تندرج ضمن أربع فئات:
إذا لم تتم إدارة هذه المخاطر بشكل صحيح، فإنها قد تعرِّض أنظمة الذكاء الاصطناعي والمؤسسات لأضرار كبيرة، بما في ذلك الخسائر المالية، والأضرار على السمعة، والغرامات التنظيمية، وفقدان الثقة العامة، وعمليات خرق البيانات.
تعتمد أنظمة الذكاء الاصطناعي على مجموعات بيانات قد تكون عرضة للتلاعب أو الاختراقات أو التحيز أو الهجمات الإلكترونية. ويمكن للمؤسسات الحد من هذه المخاطر عبر حماية سلامة البيانات وأمنها وتوافرها طوال دورة حياة الذكاء الاصطناعي، بدءًا من مرحلة التطوير ووصولًا إلى التدريب والنشر.
تشمل المخاطر الشائعة ذات الصلة بالبيانات ما يلي:
يمكن للجهات الفاعلة في مجال التهديد أن تستهدف نماذج الذكاء الاصطناعي للسرقة أو الهندسة العكسية أو التلاعب غير المصرح به. وقد يعرِّضون سلامة النموذج للخطر من خلال التلاعب ببنيته أو أوزانه أو معلماته، وهي العناصر الأساسية التي تحدد سلوك نموذج الذكاء الاصطناعي وأداءه.
تتضمن بعض مخاطر النماذج الأكثر شيوعًا ما يلي:
على الرغم من أن نماذج الذكاء الاصطناعي قد تبدو وكأنها سحر، إلا أنها في الأساس عبارة عن نتاج لتعليمات برمجية معقدة وخوارزميات التعلم الآلي . ومثل جميع التقنيات، تكون عرضةً للمخاطر التشغيلية. وإذا تُركت هذه المخاطر دون معالجة، فقد تؤدي إلى إخفاقات في النظام وثغرات أمنية يمكن أن تستغلها الجهات المهدِّدة.
تتضمن بعض المخاطر التشغيلية الأكثر شيوعًا ما يلي:
إذا لم تعطِ المؤسسات الأولوية للسلامة والأخلاقيات عند تطوير وتطبيق أنظمة الذكاء الاصطناعي، فإنها قد تعرِّض نفسها لخطر انتهاك الخصوصية وإنتاج نتائج متحيزة. على سبيل المثال، قد تعزِّز البيانات المدربة المتحيزة المستخدَمة في قرارات التوظيف الصور النمطية المتعلقة بالجنس أو العرق وتُنتِج نماذج ذكاء اصطناعي تفضِّل مجموعات ديموغرافية معينة على أخرى.
تشمل المخاطر الأخلاقية والقانونية الشائعة ما يلي:
تتعامل العديد من المؤسسات مع مخاطر الذكاء الاصطناعي من خلال تبني أطر عمل إدارة مخاطر الذكاء الاصطناعي، وهي مجموعة من الإرشادات والممارسات لإدارة المخاطر عبر دورة حياة الذكاء الاصطناعي بأكملها.
يمكن أيضًا اعتبار هذه الإرشادات كأدلة توضح السياسات والإجراءات والأدوار والمسؤوليات المتعلقة باستخدام المؤسسة للذكاء الاصطناعي. تساعد أطر عمل إدارة مخاطر الذكاء الاصطناعي المؤسسات على تطوير أنظمة الذكاء الاصطناعي ونشرها وصيانتها بطريقة تقلل من المخاطر وتدعم المعايير الأخلاقية وتحقق الامتثال التنظيمي المستمر.
تتضمن بعض أطر عمل إدارة مخاطر الذكاء الاصطناعي الأكثر استخدامًا ما يلي:
في يناير 2023، نشر المعهد الوطني للمعايير والتكنولوجيا (NIST) إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF) لتوفير نهج منظم لإدارة مخاطر الذكاء الاصطناعي. وقد أصبح إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا منذ ذلك الحين معيارًا مرجعيًا لإدارة مخاطر الذكاء الاصطناعي.
الهدف الرئيسي لإطار عمل إدارة مخاطر الذكاء الاصطناعي (AI RMF) هو مساعدة المؤسسات على تصميم أنظمة الذكاء الاصطناعي وتطويرها وتطبيقها واستخدامها بطريقة تدير المخاطر بفاعلية وتعزِّز ممارسات الذكاء الاصطناعي المسؤول والموثوق به.
تم تطوير إطار عمل إدارة مخاطر الذكاء الاصطناعي (AI RMF) بالتعاون مع القطاعين العام والخاص، وهو اختياري تمامًا وقابل للتطبيق على أي شركة أو قطاع أو منطقة جغرافية.
ينقسم إطار العمل إلى قسمين. يقدِّم الجزء الأول نظرة عامة على مخاطر وخصائص أنظمة الذكاء الاصطناعي الجدير بالثقة. يحدِّد الجزء الثاني، AI RMF Core، أربع وظائف لمساعدة المؤسسات على معالجة مخاطر نظام الذكاء الاصطناعي:
قانون الذكاء الاصطناعي في الاتحاد الأوروبي (EU AI Act) هو تشريع ينظِّم تطوير واستخدام الذكاء الاصطناعي داخل الاتحاد الأوروبي. يتَّبع القانون نهجًا قائمًا على المخاطر في التنظيم، حيث يطبِّق قواعد مختلفة على أنظمة الذكاء الاصطناعي وفقًا التهديدات التي تشكلها على صحة الإنسان وسلامته وحقوقه. يضع القانون أيضًا قواعد لتصميم نماذج الذكاء الاصطناعي ذات الأغراض العامة وتدريبها ونشرها، مثل النماذج الأساسية التي تشغِّل ChatGPT وGoogle Gemini.
المنظمة الدولية للمعايير القياسية (ISO) واللجنة الدولية الكهرتقنية (IEC) قد وضعت معايير تعالج مختلف جوانب إدارة مخاطر الذكاء الاصطناعي.
تؤكد معايير ISO/IEC على أهمية الشفافية والمساءلة والاعتبارات الأخلاقية في إدارة مخاطر الذكاء الاصطناعي. كما أنها توفِّر إرشادات قابلة للتنفيذ لإدارة مخاطر الذكاء الاصطناعي عبر دورة حياة الذكاء الاصطناعي، بدءًا من التصميم والتطوير ووصولًا إلى النشر والتشغيل.
في حين أن عملية إدارة مخاطر الذكاء الاصطناعي تختلف بالضرورة من مؤسسة إلى أخرى، فإن ممارسات إدارة مخاطر الذكاء الاصطناعي يمكن أن توفِّر بعض الفوائد الأساسية المشتركة عند تنفيذها بنجاح.
يمكن أن تعمل إدارة مخاطر الذكاء الاصطناعي على تعزيز وضع الأمن الإلكتروني للمؤسسة واستخدام أمن الذكاء الاصطناعي.
ومن خلال إجراء تقييمات وتدقيقات منتظمة للمخاطر، يمكن للمؤسسات تحديد المخاطر ونقاط الضعف المحتملة طوال دورة حياة الذكاء الاصطناعي.
بعد هذه التقييمات، يمكنها تنفيذ استراتيجيات التخفيف لتقليل المخاطر المحددة أو القضاء عليها. وقد تنطوي هذه العملية على تدابير تقنية، مثل تعزيز أمن البيانات وتحسين قوة النماذج. وقد تنطوي العملية أيضًا على تعديلات تنظيمية، مثل وضع مبادئ توجيهية أخلاقية وتعزيز ضوابط الوصول.
اعتماد هذا النهج الأكثر استباقية في الكشف عن التهديدات والاستجابة لها يمكن أن يساعد المؤسسات على تخفيف المخاطر قبل تفاقمها، ما يقلِّل من احتمالية تسرب البيانات وتأثير الهجمات الإلكترونية.
يمكن أن تساعد إدارة مخاطر الذكاء الاصطناعي أيضًا على تحسين عملية اتخاذ القرار في المؤسسة بشكل عام.
باستخدام مزيج من التحليلات النوعية والكمية، بما في ذلك الأساليب الإحصائية وآراء الخبراء، يمكن للمؤسسات اكتساب فهم واضح لمخاطرها المحتملة. تساعد هذه الرؤية الكاملة للمؤسسات على تحديد أولويات التهديدات عالية المخاطر واتخاذ قرارات أكثر استنارة حول نشر الذكاء الاصطناعي، وتحقيق التوازن بين الرغبة في الابتكار والحاجة إلى تخفيف المخاطر.
أدى التركيز العالمي المتزايد على حماية البيانات الحساسة إلى إنشاء متطلبات تنظيمية رئيسية ومعايير صناعية، بما في ذلك اللائحة العامة لحماية البيانات (GDPR)، و قانون خصوصية المستهلك في كاليفورنيا (CCPA) و قانون الذكاء الاصطناعي في الاتحاد الأوروبي (EU AI Act).
يمكن أن يؤدي عدم الامتثال لهذه القوانين إلى غرامات باهظة وعقوبات قانونية كبيرة. يمكن أن تساعد إدارة مخاطر الذكاء الاصطناعي المؤسسات على تحقيق الامتثال والبقاء في وضع جيد، خاصةً مع تطور اللوائح التنظيمية المحيطة بالذكاء الاصطناعي بالسرعة نفسها التي تتطور بها التقنية.
تساعد إدارة مخاطر الذكاء الاصطناعي المؤسسات على الحد من الاضطرابات وضمان استمرارية الأعمال من خلال تمكينها من معالجة المخاطر المحتملة باستخدام أنظمة الذكاء الاصطناعي في الوقت الفعلي. كما يمكن أن تشجِّع إدارة مخاطر الذكاء الاصطناعي على زيادة المساءلة والاستدامة على المدى الطويل من خلال تمكين المؤسسات من وضع ممارسات ومنهجيات إدارية واضحة لاستخدام الذكاء الاصطناعي.
تشجع إدارة مخاطر الذكاء الاصطناعي على اتباع نهج أكثر أخلاقية لأنظمة الذكاء الاصطناعي من خلال إعطاء الأولوية للثقة والشفافية.
تتضمن معظم عمليات إدارة مخاطر الذكاء الاصطناعي مجموعة واسعة من الأطراف المعنية، بما في ذلك المديرون التنفيذيون ومطورو الذكاء الاصطناعي وعلماء البيانات والمستخدمون وصناع السياسات وحتى علماء الأخلاقيات. يساعد هذا النهج الشامل على ضمان تطوير أنظمة الذكاء الاصطناعي واستخدامها بشكل مسؤول، مع وضع كل الأطراف المعنية في الاعتبار.
من خلال إجراء اختبارات وعمليات مراقبة منتظمة، يمكن للمؤسسات تتبُّع أداء نظام الذكاء الاصطناعي بشكل أفضل واكتشاف التهديدات الناشئة في وقت أقرب. وتساعد هذه المراقبة المؤسسات على الحفاظ على الامتثال التنظيمي المستمر ومعالجة مخاطر الذكاء الاصطناعي في وقت مبكر، ما يقلل من التأثير المحتمل للتهديدات.
على الرغم من إمكانياتها الكبيرة في تبسيط العمل وتحسين كفاءته، فإن تقنيات الذكاء الاصطناعي ليست خالية من المخاطر. أي جزء من تقنية المعلومات في المؤسسات يمكن أن يتحول إلى أداة خطر إذا وقع في الأيدي الخطأ.
لا تحتاج المؤسسات إلى تجنب الذكاء الاصطناعي التوليدي. فهي ببساطة بحاجة إلى التعامل معه مثل أي أداة تقنية أخرى. وهذا يعني فهم المخاطر واتخاذ خطوات استباقية لتقليل فرصة نجاح الهجوم.
مع ™IBM® watsonx.governance، يمكن للمؤسسات بسهولة توجيه أنشطة الذكاء الاصطناعي وإدارتها ومراقبتها. يمكن لنظام IBM watsonx.governance حوكمة نماذج الذكاء الاصطناعي التوليدي من أي مورد، وتقييم صحة النموذج ودقته وأتمتة مهام سير العمل الرئيسية المتعلقة بالامتثال.