ما المقصود بحوكمة الذكاء الاصطناعي؟

تشمل حوكمة الذكاء الاصطناعي مجموعة كبيرة من الممارسات، والبروتوكولات، والضمانات، والأنظمة، والأدوات. يعمل المتخصصون في الذكاء الاصطناعي الذين يقودون جهود الحوكمة على وضع أساليب وسياسات لتطوير وتدريب نماذج الذكاء الاصطناعي الجديدة، ووضع إرشادات تشغيلية لتطبيق هذه النماذج، بالإضافة إلى البرمجيات والتقنيات الأخرى لوضع تدابير أمان متعددة الطبقات مع إشراف تنظيمي بشري مناسب.  

يجري تدريب نماذج الذكاء الاصطناعي، إلى جانب خوارزميات التعلم الآلي (ML)   والتعلم العميق (DL)، في النهاية على البيانات البشرية. ونتيجة لذلك، فإن أنظمة الذكاء الاصطناعي عرضة لتحيزات البشر. إذا تُركت أنظمة الذكاء الاصطناعي دون رقابة، فإنها تتأثر بالتحيز الخاطئ، ما قد يؤدي إلى أضرار جسيمة للأفراد وللمجتمعات بأكملها. تهدف سياسات حوكمة الذكاء الاصطناعي إلى تصحيح هذه الأنواع من الأخطاء التي قد تنطوي على تمييز أو خطورة. 

تعالج آليات الرقابة الفعالة لحوكمة الذكاء الاصطناعي مخاطر مثل التحيز، وانتهاك الخصوصية، وسوء الاستخدام، مع الاستمرار في تعزيز الابتكار وبناء الثقة. يتطلب نهج الحوكمة الذي يركز على الذكاء الاصطناعي الأخلاقي إشرافًا بشريًا ومشاركات من مجموعة كبيرة من الأطراف المعنية – بما في ذلك المطورين، والمستخدمين، وصانعي السياسات، والمتخصصين في علم الأخلاق. إن تنفيذ سياسة حديثة وقوية لحوكمة الذكاء الاصطناعي يساعد أنظمة الذكاء الاصطناعي على الالتزام بالقيم الأخلاقية والمجتمعية، مع توفير تدابير للتقليل من الثغرات الأمنية المختلفة، وخفض مستويات المخاطر في مجموعة واسعة من تطبيقات الذكاء الاصطناعي. 

بينما تستمر أنظمة الذكاء الاصطناعي في التقدم، تتطور عمليات حوكمة الذكاء الاصطناعي أيضًا لتحديد المعايير العالمية واستيفائها. على الرغم من أن استيفاء المتطلبات التنظيمية يعد حافزًا رئيسيًا للأعمال وراء استثمارات برامج الحوكمة، تمتد فوائد هذه الحلول إلى أبعد من الامتثال––– حيث تقلل بشكل استباقي من مخاطر المسؤولية عن طريق تعزيز خصوصية البيانات وأمنها والوصول إليها.  

توفر حوكمة الذكاء الاصطناعي نهجًا منظمًا لتخفيف حدة المخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي. من خلال البروتوكولات والممارسات، مثل حوكمة البيانات والمراقبة المستمرة، يمكن لسياسات حوكمة الذكاء الاصطناعي تقييم وتوجيه أدوات الذكاء الاصطناعي بفعالية. عند تنفيذ حوكمة الذكاء الاصطناعي بشكل صحيح، فإنها تمنع القرارات الخاطئة أو الضارة عبر مسار عمل الذكاء الاصطناعي بأكمله، بدءًا من مجموعات البيانات التي تتدرب عليها النماذج، وصولاً إلى تنفيذ الحلول القائمة على الذكاء الاصطناعي.     

تهدف حوكمة الذكاء الاصطناعي ببساطة إلى وضع أساليب ومنهجيات الرقابة اللازمة لمواءمة سلوكيات الذكاء الاصطناعي مع المعايير الأخلاقية والتوقعات المجتمعية؛ وبالتالي حماية المستخدمين ومقدمي الخدمات وأي جهات خارجية قد تتأثر بشكل عرضي من الآثار السلبية أو الضارة أو غير العادلة غير المقصودة.

تُعد حوكمة الذكاء الاصطناعي ضرورية للوصول إلى حالة من الامتثال، والثقة، والكفاءة في تطوير وتطبيق تقنيات الذكاء الاصطناعي. مع تزايد دمج الذكاء الاصطناعي في العمليات التنظيمية والحكومية، أصبح احتمال تأثيره السلبي أكثر وضوحًا. في الواقع، كشفت أبحاث معهد IBM Institute for Business Value أن 80٪ من قادة الأعمال يرون أن قابلية تفسير الذكاء الاصطناعي وأخلاقياته والتحيز فيه أو الثقة به تشكل عقبة رئيسية أمام اعتماد الذكاء الاصطناعي التوليدي. تسعى حوكمة الذكاء الاصطناعي إلى معالجة هذه التحديات من خلال بث الثقة ومنع أي تأثير سلبي محتمل من استخدام تقنية الذكاء الاصطناعي. 

تصدرت بعض الحوادث البارزة عناوين الأخبار مسلطة الضوء على مخاطر أنظمة الذكاء الاصطناعي غير الخاضعة للحوكمة. في إحدى هذه الحوادث، بدأ روبوت المحادثة Tay Chatbot من Microsoft يردد سلوكًا مسيئًا تعلمه من منشورات وسائل التواصل الاجتماعي بسبب تدريبه على مجموعات بيانات غير خاضعة للضوابط. وعلى الرغم من أن هذا الحادث كان مزعجًا، إلا أن عيوب برنامج الذكاء الاصطناعي COMPAS أدت إلى نتائج أكثر ضررًا. عند استخدام التحيز في الأحكام الجنائية، أدى التحيز الكامن في نماذج الذكاء الاصطناعي إلى ملاحقة جنائية غير عادلة، ما أدى إلى زيادة أهمية حوكمة الذكاء الاصطناعي عندما يتعلق الأمر ببناء الثقة العامة في أنظمة الذكاء الاصطناعي والحفاظ عليها. 

تكشف هذه الحالات أن الذكاء الاصطناعي يمكن أن يتسبب في أضرار اجتماعية وأخلاقية كبيرة دون رقابة سليمة، ما يؤكد على أهمية الحوكمة في إدارة المخاطر المرتبطة بالذكاء الاصطناعي المتقدم. من خلال تقديم إرشادات وأطر عمل، تهدف حوكمة الذكاء الاصطناعي إلى تحقيق التوازن بين الابتكار التكنولوجي والسلامة، ما يساعد على ضمان عدم انتهاك أنظمة الذكاء الاصطناعي لكرامة الإنسان أو حقوقه.

يعد فهم كيفية اتخاذ أنظمة الذكاء الاصطناعي قرارات لمحاسبتها على استنتاجاتها جزءًا أساسيًا من حوكمة الذكاء الاصطناعي؛ للمساعدة في ضمان اتخاذ هذه الأنواع من البرامج قرارات عادلة وأخلاقية. بدءًا من تحديد الإعلانات التي تُعرض لكل مستخدم إلى تحديد أهلية الحصول على القروض، تُستخدم أنظمة الذكاء الاصطناعي لاتخاذ القرارات طوال الوقت، من القرارات البسيطة إلى القرارات بالغة الأهمية. عند الاعتماد على هذه الأنظمة، لا شيء يفوق أهمية شفافية عملية صناعة القرار و قابلية التفسير لضمان استخدام أنظمة الذكاء الاصطناعي بشكل مسؤول، ولبناء الثقة. 

وعلاوة على ذلك، فإن حوكمة الذكاء الاصطناعي لا تقتصر على المساعدة في ضمان الامتثال لمرة واحدة؛ بل تتعلق أيضًا بالحفاظ على المعايير الأخلاقية بمرور الوقت. يمكن لنماذج الذكاء الاصطناعي أن تنحرف، ما يؤدي إلى حدوث تغييرات في جودة وموثوقية المخرجات. تتجاوز الاتجاهات الحالية في حوكمة الذكاء الاصطناعي مجرد الامتثال القانوني. نرى بشكل متزايد قيمة متزايدة للجهود ذات المسؤولية الاجتماعية في تطوير الذكاء الاصطناعي وتطبيقاته وتحمي من الأضرار المالية والقانونية والأضرار المتعلقة بالسمعة، مع الاستمرار في تعزيز النمو الأخلاقي والتقدم لهذه التقنية الجديدة المثيرة.

تشمل أمثلة حوكمة الذكاء الاصطناعي مجموعة من السياسات وأطر العمل والممارسات التي تطبقها المؤسسات والشركات والهيئات الحاكمة والحكومات بهدف مشترك، وهو تعزيز الاستخدام المسؤول لتقنيات الذكاء الاصطناعي. توضح هذه الأمثلة كيفية إجراء حوكمة الذكاء الاصطناعي في سياقات مختلفة:

اللائحة العامة لحماية البيانات (GDPR): تعد GDPR مثالاً على حوكمة الذكاء الاصطناعي، خاصة في سياق حماية البيانات الشخصية والخصوصية. في حين أن GDPR لا تركز حصريًا على الذكاء الاصطناعي، فالعديد من أحكامها وثيقة الصلة بأنظمة الذكاء الاصطناعي، خاصة تلك التي تعالج البيانات الشخصية للأفراد داخل الاتحاد الأوروبي.

مجموعة التعاون الاقتصادي والتنمية (OECD): تؤكد مبادئ الذكاء الاصطناعي لمنظمة OECD، التي اعتمدتها أكثر من 40 الدولة، على المسؤولية في إدارة الذكاء الاصطناعي الجدير بالثقة، بما في ذلك الإرشادات التي تعزز الشفافية والعدالة والمساءلة في أنظمة الذكاء الاصطناعي.

مجالس أخلاقيات الذكاء الاصطناعي:  أنشأت العديد من الشركات مجالس أو لجانًا مخصصة لأخلاقيات الذكاء الاصطناعي للإشراف على مبادرات الذكاء الاصطناعي؛ لضمان توافقها مع المعايير الأخلاقية والقيم المجتمعية. تتضمن هذه المجالس في أغلب الأحيان فرقًا متعددة الوظائف من خلفيات قانونية وتقنية وسياسية. منذ عام 2019، راجع مجلس أخلاقيات الذكاء الاصطناعي في شركة IBM منتجات الذكاء الاصطناعي وخدماته الجديدة لضمان توافقها مع مبادئ الذكاء الاصطناعي المسؤول بشركة IBM. 

وفقًا لتقرير صادر عن معهد IBM Institute for Business Value، فإن 80% من المؤسسات لديها جزء منفصل من وظيفة إدارة المخاطر مخصص للمخاطر المرتبطة باستخدام الذكاء الاصطناعي أو الذكاء الاصطناعي التوليدي. 

على مستوى المؤسسة، يكون CEO والقيادة العليا مسؤولين في نهاية المطاف عن تنفيذ حوكمة الذكاء الاصطناعي طوال دورة حياة الذكاء الاصطناعي، ويسندون بعض المهام السياسية العملية إلى الأطراف المعنية، مثل CTO ومن يتبعونه في التسلسل الإداري. نظرًا لأن حوكمة الذكاء الاصطناعي تنطوي على تبعات تنظيمية ممتدة التأثير، تمثل الأقسام القانونية والمستشارون العامون الأطراف المعنية الأساسية عند تقييم المخاطر والتخفيف من حدتها، ويُكلَّفون في أغلب الأحيان بضمان التزام تطبيقات الذكاء الاصطناعي بالقوانين ومتطلبات الامتثال ذات الصلة. 

بناءً على حجم مؤسسة معينة، قد يكون فريق التدقيق المخصص مسؤولاً عن التحقق من سلامة بيانات نظم الذكاء الاصطناعي المستخدمة، والتأكد من أنها تعمل على النحو المقصود دون إدخال أخطاء أو تحيزات. بينما قد لا تمتلك العمليات الصغيرة فرق تدقيق مخصصة، مع استمرار تقنيات الذكاء الاصطناعي في جذب المزيد والمزيد من الموارد، أصبحت هذه الأنواع من الفرق والأدوار تمثل أولوية بشكل متزايد. 

في حين أن حوكمة الذكاء الاصطناعي قد تؤثر على المسائل المالية، فإن CFO ومن يتبعونه في التسلسل الإداري هم المسؤولون في أغلب الأحيان عن إدارة التكاليف المرتبطة بمبادرات الذكاء الاصطناعي، بما في ذلك أي تدابير حوكمة توضع للتخفيف من المخاطر المالية على كل من الشركة نفسها والعملاء المحتملين. 

ومع ذلك، في نهاية المطاف، لا تقع مسؤولية حوكمة الذكاء الاصطناعي على عاتق فرد أو قسم واحد؛ إنها مسؤولية جماعية تتطلب من كل قائد وطرف معني وعضو فريق إعطاء الأولوية للمساءلة والمساعدة في ضمان استخدام أنظمة الذكاء الاصطناعي على نحو مسؤول وأخلاقي في جميع إدارات المؤسسة. 

وبإعطاء الأولوية لحوكمة الذكاء الاصطناعي المسؤولة، والاستثمار في التدريب الصارم للموظفين، وتعزيز ثقافة التواصل المفتوح والتعاون التي تتسم بالشفافية، يمكن للمديرين والقيادة إرسال رسالة واضحة لجميع الموظفين بأن الجميع يجب أن يستخدم الذكاء الاصطناعي بشكل مسؤول وأخلاقي. 

في حين أن CEO والقيادة العليا يتحملان مسؤولية وضع الاتجاه العام والثقافة العامة للمؤسسة، عندما يتعلق الأمر بنوع المراقبة المستمرة لمتطلبات الحوكمة في جميع مسارات الذكاء الاصطناعي، فإن المخاطر الجسيمة المرتبطة بالذكاء الاصطناعي تتطلب من جميع الأطراف المعنية القيام بدورهم لضمان التطبيق المناسب لهذه التقنية القوية. 

لا تزال القوة التحويلية لتقنية الذكاء الاصطناعي في عدد لا يحصى من الصناعات وحالات الاستخدام المتباينة تتضح تدريجيًا. أدى إدخال نماذج الذكاء الاصطناعي التوليدي الحديثة، مثل Chat GPT وClaude وMidjourney، القادرة على إنشاء محتوى جديد – بما في ذلك النص والصور والصوت والفيديو والتعليمة البرمجية – إلى جذب اهتمام الجمهور، وإثارة خياله بإمكانياتها المذهلة. 

ومع ذلك، في حين أن العديد من الفنانين يجدون الإلهام في هذه الأدوات الإبداعية، يرى الكثيرون أنها تشكل تهديدًا. وبالاعتماد على الأعمال الإبداعية الموجودة، اتُهمت الإصدارات الأولى من هذه النماذج بالانتحال، حيث بدا أن مخرجاتها تعيد تقديم مصنفات محمية بحقوق النشر دون الإشارة إلى أصحابها. 

استجابة لهذه المخاوف، طبقت الإصدارات الحالية من هذه النماذج سياسات أكثر صرامة لفحص بيانات التدريب، بما يضمن أن أي أعمال تستخدم لتدريب النماذج حاصلة على الترخيص المناسب. تستمر جهود حوكمة الذكاء الاصطناعي لضمان أن تظل هذه الأدوات القيّمة المستخدمة لتعزيز العملية الإبداعية متوافقة مع المتطلبات التنظيمية وملتزمة بالمبادئ الأخلاقية. 

بعيدًا عن إنشاء المحتوى، تستخدم أنواع أخرى مثيرة من الذكاء الاصطناعي، مثل نماذج الذكاء الاصطناعي الوكيل ، لأتمتة المهام المملة لتحسين الإنتاجية والبحث في مجالات متباعدة مثل القانون وعلم الأدوية. من البرمجة والتطوير إلى علم الفلك والفيزياء، يغير الذكاء الاصطناعي الطريقة التي تعمل بها الصناعات. ومع ذلك، ومع قابليته للتطبيق على نطاق واسع تأتي حاجة أكبر إلى حوكمة شاملة للذكاء الاصطناعي.   

إن مبادئ الحوكمة الذكاء الاصطناعي المسؤول ضرورية للمؤسسات لحماية نفسها وعملائها. توجه هذه المبادئ المؤسسات في التطوير الأخلاقي وتطبيق تقنيات الذكاء الاصطناعي، وتشمل ما يلي:

• التعاطف: يجب أن تفهم المؤسسات الآثار المجتمعية للذكاء الاصطناعي، وليس فقط الجوانب التكنولوجية والمالية. إنها بحاجة إلى توقع ومعالجة تأثير الذكاء الاصطناعي على جميع الأطراف المعنية من خلال نهج متعاطف لا يعالج مخاوف مقدمي الخدمات فحسب، بل ومخاوف العملاء وكل من يتأثر باستخدام ونتائج محركات الذكاء الاصطناعي. 
  
  
• التحكم في التحيز: من الضروري فحص بيانات التدريب بدقة لمنع تضمين التحيزات الواقعية في خوارزميات الذكاء الاصطناعي، ما يساعد على ضمان إجراء عمليات صناعة القرار بشكل عادل وغير متحيز. يمكن أن يكون التحكم في التحيز مهمًا بشكل خاص في الحالات التي قد يتخذ فيها الذكاء الاصطناعي قرارات يمكن أن تؤثر بشكل غير عادل على بعض المجتمعات المهمشة، مثل الأحكام الجنائية أو التشخيص الطبي.  
  
  
• الشفافية: يجب أن يكون هناك وضوح وانفتاح في كيفية عمل خوارزميات الذكاء الاصطناعي واتخاذ القرارات، مع استعداد المؤسسات لشرح المنطق والأسباب وراء النتائج المستندة إلى الذكاء الاصطناعي. إذا نشأت مشكلة من قرار اتخذه الذكاء الاصطناعي، فمن المهم توفير طرق لفرز أي عمليات صناعة قرار خاطئة لفهم كيف تصل نماذج الذكاء الاصطناعي إلى استنتاجات معينة وأسباب ذلك. 
  
  
• المساءلة: يجب على المؤسسات أن تضع معايير عالية وتلتزم بها بشكل استباقي لإدارة التغييرات الكبيرة التي يمكن أن يجلبها الذكاء الاصطناعي، مع الحفاظ على المسؤولية عن تأثيرات الذكاء الاصطناعي. على سبيل المثال، عندما يقيم الطبيب نتائج تحاليل المريض، مثل الأشعة السينية، يكون مسؤولاً بشكل واضح عن الاستنتاجات والإجراءات الناتجة عن تفسيره للبيانات. مع بدء أنظمة الذكاء الاصطناعي في تحليل المعلومات الطبية، وفي أغلب الأحيان تقدم تشخيصًا أسرع وأكثر دقة، تكون هناك حاجة ملحة لإرساء المساءلة من خلال مسار عمل الذكاء الاصطناعي، مع تحديد أين قد تنتهي مساءلة الطبيب وتبدأ مساءلة نموذج الذكاء الاصطناعي. 
  

بينما تعمل اللوائح وقوى السوق على توحيد العديد من مقاييس الحوكمة، يجب على المؤسسات تحديد أفضل طريقة لتحديد المقاييس ذات الصلة بأعمالها الخاصة. يمكن أن يختلف تقييم فعالية حوكمة الذكاء الاصطناعي حسب المؤسسة؛ ويجب على كل مؤسسة أن تحدد المعايير التي يجب أن تعطيها الأولوية. وفي ظل اعتماد اعتبارات متنوعة، مثل جودة البيانات، وأمان النماذج، وتحليل قيمة التكاليف، ومراقبة التحيز، والمساءلة الفردية، والتدقيق المستمر، والقدرة على التكيف، على مجال المؤسسة، لا يمكن أن تكون حوكمة الذكاء الاصطناعي حلاً موحدًا يناسب الجميع.

ليس لحوكمة الذكاء الاصطناعي "مستويات" موحدة عالميًا، كما هو الحال، على سبيل المثال، في الأمن السيبراني الذي قد تكون له مستويات محددة للاستجابة للتهديدات. بدلاً من ذلك، لحوكمة الذكاء الاصطناعي مناهج وأطر منظمة أعدتها كيانات مختلفة يمكن للمؤسسات اعتمادها أو تكييفها لتلبية احتياجاتها الخاصة.

يمكن للمؤسسات استخدام العديد من أطر العمل والمبادئ التوجيهية لإعداد ممارسات الحوكمة الخاصة بها. تشمل بعض أطر العمل الأكثر استخدامًا إطار إدارة مخاطر الذكاء الاصطناعي للمعهد الوطني للمعايير والتقنية (NIST)، ومبادئ منظمة OECD فيما يتعلق بالذكاء الاصطناعي، والمبادئ التوجيهية الأخلاقية للذكاء الاصطناعي الجدير بالثقة الصادرة عن المفوضية الأوروبية.. توفر هذه الأطر التوجيه لمجموعة من العوامل، بما في ذلك الشفافية، والمساءلة، والعدالة، والخصوصية، والأمن، والسلامة.

يمكن أن تختلف مستويات حوكمة الذكاء الاصطناعي حسب حجم أي مؤسسة، وتعقيد أنظمة الذكاء الاصطناعي المستخدمة، والبيئة التنظيمية التي تعمل فيها المؤسسة.

ورغم أن هذه القائمة ليست شاملة، فإنها تقدم لمحة عامة عن أبرز نهج حوكمة الذكاء الاصطناعي، وتشمل ما يلي:

تتضمن حوكمة الذكاء الاصطناعي إنشاء هياكل رقابية قوية تضم سياسات، ومبادئ توجيهية، وأطر عمل لمواجهة تحديات متنوعة ومحددة. وينطوي ذلك على وضع آليات لمراقبة أنظمة الذكاء الاصطناعي وتقييمها باستمرار، وضمان امتثالها للمعايير الأخلاقية واللوائح القانونية المعمول بها.

يصبح مفهوم حوكمة الذكاء الاصطناعي أكثر أهمية مع انتشار الأتمتة التي تعتمد على الذكاء الاصطناعي في قطاعات تتنوع بين الرعاية الصحية، والمالية، والنقل، والخدمات العامة. يمكن لقدرات الأتمتة التي يوفرها الذكاء الاصطناعي أن تعزز بشكل كبير الكفاءة وصنع القرار والابتكار، ولكنها تطرح أيضًا تحديات تتعلق بالمساءلة والشفافية والاعتبارات الأخلاقية.

تعد هياكل الحوكمة الفعالة في الذكاء الاصطناعي متعددة التخصصات، وتضم الأطراف المعنية من مجالات متنوعة تشمل التقنية والقانون والأخلاق والأعمال. مع ازدياد تطور أنظمة الذكاء الاصطناعي واندماجها في جوانب بالغة الأهمية من المجتمع، يصبح دور حوكمة الذكاء الاصطناعي في توجيه وتشكيل مسار تطور الذكاء الاصطناعي وتأثيره المجتمعي أكثر أهمية من أي وقت مضى.

تتطلب أفضل ممارسات حوكمة الذكاء الاصطناعي التي تتجاوز مجرد الامتثال نهجًا استراتيجيًا لإعداد نظام أكثر قوة قادرًا على مراقبة وإدارة تطبيقات الذكاء الاصطناعي. بالنسبة إلى المؤسسات الكبيرة، يجب أن يتيح أي حل لحوكمة الذكاء الاصطناعي مراقبة وإدارة شاملين لنظم الذكاء الاصطناعي. 

قد تتضمن خارطة طريق عامة لحوكمة الذكاء الاصطناعي ما يلي:

1.    لوحات المعلومات المرئية:  توفر هذه اللوحات تحديثات آنية حول سلامة أنظمة الذكاء الاصطناعي وحالتها، ما يوفر نظرة عامة واضحة للتقييمات السريعة.

2.    مقاييس درجة السلامة:  تجمع درجات السلامة العامة لنماذج الذكاء الاصطناعي عدة نقاط بيانات في مقياس موحد سهل الفهم لتبسيط المراقبة السريعة.  

3.    المراقبة الآلية: تساعد أنظمة الكشف التلقائي عن التحيز والانحراف والأداء وحالات الخلل في ضمان عمل النماذج بشكل صحيح وأخلاقي دون الحاجة إلى مراقبة بشرية على مدار الساعة.  

4.    تنبيهات الأداء: تتيح تنبيهات الأداء الآلية التي تُرسل عند انحراف النموذج عن معايير الأداء المحددة مسبقًا الاستجابة السريعة لأي مشكلات قد تطرأ.

5.     المقاييس المخصصة:  تساعد المقاييس المخصصة التي تتماشى مع مؤشرات الأداء الرئيسية والحدود التي تعتمدها المؤسسة في ضمان مساهمة نتائج الذكاء الاصطناعي في تحقيق أهداف أعمال المؤسسة.  

6.    مسارات التدقيق: تدعم السجلات ومسارات التدقيق التي يسهل الوصول إليها المساءلة، وتسهل عمليات تقييم قرارات وسلوكيات أنظمة الذكاء الاصطناعي.

7.    التوافق مع المصدر المفتوح: تعزز أدوات المصدر المفتوح الشفافية عن طريق الكشف عن التعليمات البرمجية التشغيلية للعامة للاطلاع عليها. ونتيجة لذلك، تعكس هذه الأدوات عادةً أحدث إجراءات التخفيف من المخاطر الأمنية أيضًا. يتيح الحفاظ على التوافق مع أحدث منصات تطوير التعلم الآلي مفتوحة المصدر لأطر عمل حوكمة الذكاء الاصطناعي الاستفادة من المرونة والدعم المجتمعي للبرمجيات مفتوحة المصدر.

8.    التكامل السلس: صُممت أكثر منصات حوكمة الذكاء الاصطناعي فعالية لتحقيق التكاملالسلس مع البنية التحتية الحالية، بما في ذلك قواعد البيانات ومنظومة البرامج؛ لتجنب الصوامع وتمكين سير العمل بكفاءة.

بالالتزام بهذه الممارسات، يمكن للمؤسسات إنشاء إطار عمل قوي لحوكمة الذكاء الاصطناعي يدعم تطوير الذكاء الاصطناعي ونشره وإدارته بشكل مسؤول، ما يساعد على ضمان توافق أنظمة الذكاء الاصطناعي مع المعايير الأخلاقية والأهداف التنظيمية.

اعتمدت عدة دول ممارسات حوكمة الذكاء الاصطناعي ولوائح الذكاء الاصطناعي لمنع التحيز والتمييز. من المهم تذكر أن اللوائح التنظيمية في تغير مستمر دائمًا، ويجب على المؤسسات التي تدير أنظمة الذكاء الاصطناعي المعقدة أن تراقب عن كثب تطور أطر العمل القانونية الإقليمية.

قانون الذكاء الاصطناعي في الاتحاد الأوروبي، والمعروف أيضًا باسم EU AI Act أو قانون الذكاء الاصطناعي، هو قانون يحكم عملية إعداد أو استخدام الذكاء الاصطناعي (AI) في الاتحاد الأوروبي (EU). يتبع القانون نهجًا قائمًا على المخاطر في التنظيم، ويطبق قواعد مختلفة على الذكاء الاصطناعي وفقًا للمخاطر التي يشكلها. دخل قانون الذكاء الاصطناعي حيز التنفيذ رسميًا منذ أغسطس 2024، وسيكون قابلاً للتطبيق بالكامل في غضون عامين من ذلك التاريخ، مع بعض الاستثناءات، على سبيل المثال، القواعد الخاصة بأنظمة الذكاء الاصطناعي عالية المخاطر التي تم تضمينها في المنتجات الخاضعة للتنظيم سيكون لها فترة انتقالية ممتدة (حتى عام 2027).

يُعد قانون الذكاء الاصطناعي في الاتحاد الأوروبي أول إطار عمل تنظيمي شامل في العالم للذكاء الاصطناعي، وهو يحظر بعض حالات استخدام الذكاء الاصطناعي بشكل صريح، ويطبق متطلبات صارمة للحوكمة وإدارة المخاطر والشفافية على البعض الآخر.

يضع القانون أيضًا قواعد لنماذج الذكاء الاصطناعي ذات الأغراض العامة (GPAI)، مثل IBM Granite، ونموذج الأساس مفتوح المصدر Llama 3 التابع بشركة Meta. يمكن أن تتراوح العقوبات بين 7.5 ملايين يورو أو 1.5% من حجم المبيعات السنوي في جميع أنحاء العالم إلى 35 مليون يورو أو 7% من حجم المبيعات السنوي في جميع أنحاء العالم، اعتمادًا على نوع عدم الامتثال.

في يوليو 2025، نشرت المفوضية الأوروبية ثلاث أدوات لدعم الإعداد المسؤول والأخلاقي لنماذج GPAI ونشرها:

• مبادئ توجيهية تحدد التزامات مقدم خدمة GPAI توضيح مسؤوليات المطورين ومقدمي الخدمات على طول سلسلة قيمة الذكاء الاصطناعي. 
• مدونة ممارساتGPAI هي أداة امتثال طوعية تقدم توجيهًا عمليًا فيما يتعلق بالشفافية وحقوق النشر والسلامة والأمن، وتهدف إلى مساعدة مقدمي الخدمة على أن يظلوا ملتزمين بقانون الذكاء الاصطناعي. 
• القالب الخاص بالملخص العام لمحتوى تدريب نماذج GPAI، الذي يلزم مقدمي الخدمة بتقديم لمحة عامة تتسم بالشفافية عن مجموعات البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي. 

في السابق كان US SR-11-7 هو المعيار التنظيمي لحوكمة النماذج الفعالة والقوية في القطاع المصرفي.¹ يلزم التنظيم مسؤولي البنوك تطبيق مبادرات إدارة مخاطر النماذج على مستوى الشركة، والاحتفاظ بقائمة جرد للنماذج المطبقة للاستخدام، أو التي هي قيد التطوير تمهيدًا لتطبيقها، أو التي أُخرجت من الخدمة مؤخرًا. ومع ذلك، اعتبارًا من 17 أبريل 2026، أصدر مجلس الاحتياطي الفيدرالي توجيهاته المنقحة بشأن إدارة مخاطر النماذج (SR-26-2)،   والتي حلت محل التوجيه SR-11-7 وألغته. إن الدليل المعدل والمشترك لنموذج إدارة المخاطر من مجلس الاحتياطي الفيدرالي، ومكتب المراقب المالي للعملة (OCC)، والمؤسسة تأمين الودائع الفيدرالية (FDIC) يحوّل التركيز نحو منهجية قائمة على المخاطر بشكل أكثر وضوحًا وتناسبًا، مع اختلاف التوقعات النظامية بناءً على حجم المؤسسات وتعقيدها وملف مخاطر النماذج بدلاً من المتطلبات السابقة التي كانت تطبق نهجًا موحدًا على جميع المؤسسات.

يجب على قادة المؤسسات المتأثرة أيضًا إثبات أن نماذجهم تحقق الغرض من العمل الذي صُممت من أجله، وأنها محدثة ولم تنحرف عن مسارها. يجب أن تُمكن عمليات تطوير النماذج والتحقق من صحتها أي شخص غير مطلع على النموذج من فهم آلية عمله، وحدوده، وافتراضاته الأساسية.

وبالإضافة إلى هذه التشريعات الخاصة بالقطاع المصرفي، أصدر البيت الأبيض إطار سياسة وطنية للذكاء الاصطناعي في مارس 2026. يحث هذا الإطار الكونغرس على معالجة ستة "مواضيع سياسية" رئيسية تتعلق بحوكمة الذكاء الاصطناعي، بما في ذلك: 

1. حماية الأطفال وتمكين الآباء
2. حماية المجتمعات الأمريكية وتعزيزها
3. احترام حقوق الملكية الفكرية ودعم المبدعين
4. منع الرقابة وحماية حرية التعبير  
5. تمكين الابتكار وضمان هيمنة الذكاء الاصطناعي الأمريكي
6. تثقيف الأمريكيين وإعداد قوى عاملة جاهزة للذكاء الاصطناعي

تصف توجيهات كندا بشأن صناعة القرار المؤتمتة كيفية استخدام الحكومة للذكاء الاصطناعي لتوجيه اتخاذ القرارات في العديد من الإدارات.² تستخدم التوجيهات نظامًا لتقييم التدخل البشري، ومراجعة الأقران، والمراقبة، والتخطيط للطوارئ اللازم لأداة الذكاء الاصطناعي المصممة لخدمة المواطنين.

يتعين على المؤسسات التي تصنع حلول ذكاء اصطناعي ذات درجة تقييم مرتفعة إجراء مراجعتين مستقلتين من قِبل الأقران، وتقديم إشعار عام واضح، وإعداد آلية احتياطية للتدخل البشري، وتنظيم دورات تدريبية دورية للنظام. نظرًا لأن التوجيه الكندي بشأن صناعة القرار المؤتمتة هو توجيه لتطوير الذكاء الاصطناعي في الدولة، فإن اللائحة لا تؤثر بشكل مباشر على الشركات بالطريقة التي يؤثر بها التوجيه SR-11-7 في الولايات المتحدة.

منذ إصدار التوجيه الأولي، أصدرت الحكومة الكندية مؤخرًا استراتيجية الذكاء الاصطناعي للخدمة العامة الفيدرالية لعامي 2025-2027، مع اعتبارات إضافية تركز على القطاعين العام والخاص لخدمة الكنديين بشكل أفضل من خلال اعتماد الذكاء الاصطناعي المسؤول.

في أبريل 2021، قدمت المفوضية الأوروبية حزمة الذكاء الاصطناعي الخاصة بها، والتي تضمنت بيانات حول تعزيز نهج أوروبي للتميز والثقة، واقتراحًا لإطار قانوني بشأن الذكاء الاصطناعي.³

تعلن البيانات أنه بينما تقع معظم أنظمة الذكاء الاصطناعي ضمن فئة "المخاطر المنخفضة"، فإن أنظمة الذكاء الاصطناعي المصنفة على أنها "عالية المخاطر" سيتعين عليها الالتزام بمتطلبات أكثر صرامة، وستُحظر الأنظمة المصنفة ضمن فئة "المخاطر غير المقبولة". يجب على المؤسسات أن تلتزم بهذه القواعد وإلا فإنها ستواجه غرامات.

في عام 2023، أصدرت الصين تدابيرها المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي . بموجب القانون، يجب أن "تحترم" عملية توفير واستخدام خدمات الذكاء الاصطناعي التوليدي "الحقوق والمصالح المشروعة للآخرين" و"لا تعرض السلامة البدنية والعقلية للآخرين للخطر، ولا تنتهك حقوقهم في الصورة، والسمعة، والشرف، والخصوصية، والمعلومات الشخصية".

أصدرت دول أخرى في منطقة آسيا والمحيط الهادئ عدة مبادئ وإرشادات لتنظيم الذكاء الاصطناعي. أصدرت الحكومة الفيدرالية في سنغافورة إطار عمل حوكمة مقترح لتطوير الذكاء الاصطناعي التوليدي في عام 2024، بالإضافة إلى إطار عمل لنموذج حوكمة الذكاء الاصطناعي للذكاء الاصطناعي الوكيل في عام 2026. تستكشف أيضًا الهند واليابان وكوريا الجنوبية وتايلاند إرشادات وتشريعات لحوكمة الذكاء الاصطناعي.³