ما المقصود بأخلاقيات الذكاء الاصطناعي؟

من أمثلة قضايا أخلاقيات الذكاء الاصطناعي:

• مسؤولية البيانات والخصوصية
• الإنصاف
• إمكانية التفسير
• القوة
• الشفافية
• الاستدامة البيئية
• التضمين
• المسؤولية الأخلاقية
• اتساق القيمة
• المساءلة
• الثقة
• إساءة استخدام التكنولوجيا

تستخدم معظم المؤسسات اليوم أدوات الذكاء الاصطناعي والبيانات الضخمة بدرجات متفاوتة لدعم الأتمتة وتمكين صناعة القرار القائم على البيانات. ورغم أن الهدف غالبًا يتمثل في تحسين نتائج الأعمال، فقد تواجه الشركات آثارًا غير متوقعة عند استخدام تطبيقات الذكاء الاصطناعي، ويرجع ذلك في كثير من الأحيان إلى ضعف البحث والتصميم في المراحل الأولى، وإلى مجموعات بيانات متحيزة. تساعد هذه القضايا في تسليط الضوء على أهمية الاستخدام الأخلاقي لأنظمة الذكاء الاصطناعي.

وضعت الأوساط البحثية ومجتمعات علوم البيانات إرشادات لأخلاقيات الذكاء الاصطناعي للمساعدة في الحد من هذه الآثار غير المتوقعة والنتائج غير العادلة. واهتمت شركات الذكاء الاصطناعي الرائدة أيضًا بصياغة هذه الإرشادات، لأنها تدرك أن الإخفاق في الالتزام بالمعايير الأخلاقية قد يضر بمنتجاتها، وخدماتها، ومستخدميها. وقد يؤدي التهاون في الالتزام بأخلاقيات الذكاء الاصطناعي إلى الإضرار بالسمعة، والتعرض للمساءلة التنظيمية والقانونية، وفرض عقوبات باهظة التكلفة.

يتجاوز الابتكار في كثير من الأحيان وتيرة التنظيم الحكومي، ولاسيما في التقنيات الناشئة مثل الذكاء الاصطناعي. ومع مرور الوقت، يُتوقع أن تعتمد مزيد من الحكومات بروتوكولات ملزمة قانونًا لتنظيم استخدام الذكاء الاصطناعي وحماية حقوق الإنسان والحريات المدنية. ورغم وجود بعض التشريعات، مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي فإن كثيرًا من إرشادات أخلاقيات الذكاء الاصطناعي الحالية تأخذ شكل أطر عمل طوعية طرحتها الأوساط العلمية والجهات الصناعية.

اعتمد المجتمع الأكاديمي منذ فترة طويلة على المبادئ الأخلاقية الواردة في تقرير "Belmont Report" الصادر عام ¹ 1979 لتوجيه أخلاقيات البحوث التجريبية وتطوير الخوارزميات.

ويمكن أن تشكل هذه المبادئ أساسًا للبحث، والتصميم، والاستخدام الأخلاقيين للذكاء الاصطناعي والتعلم الآلي.. غير أنها وُضعت مع مراعاة البحوث التي تشمل البشر، وسبقت بسنوات طويلة ظهور أنظمة الذكاء الاصطناعي التوليدي والذكاء الاصطناعي الوكيل بصورتها الحديثة ولذلك لا تكفي وحدها. وينبغي النظر إليها بوصفها مبادئ تأسيسية، لا مجموعة شاملة من مبادئ الذكاء الاصطناعي.

مبادئ Belmont Report هي:

تبرز عدة قضايا في صدارة النقاشات الأخلاقية المتعلقة بتقنيات الذكاء الاصطناعي في الواقع العملي. وتعكس هذه القضايا الآثار المحتملة الأوسع للذكاء الاصطناعي في المجتمع. ومن بين هذه القضايا:

شكّل إطلاق ChatGPT عام 2022 نقطة تحول حقيقية في مسيرة الذكاء الاصطناعي. فقد أتاحت قدرات روبوت المحادثة من OpenAI، بدءًا من كتابة المذكرات القانونية وصولًا إلى تصحيح أخطاء التعليمات البرمجية، إمكانات جديدة لما يستطيع الذكاء الاصطناعي فعله وكيفية تطبيقه في جميع القطاعات تقريبًا.

يعتمد ChatGPT وأدوات الذكاء الاصطناعي المماثلة على نماذج الأساس، وهي نماذج الذكاء الاصطناعي تدعم طيفًا واسعًا من المهام اللاحقة. تكون نماذج الأساس عادةً نماذج توليدية واسعة النطاق، تضم مليارات المعلمات، وتعتمد على بيانات تدريب غير معنونة، وتستخدم التعلم الذاتي الإشراف. وتستطيع نماذج الأساس، التي يشار إليها غالبا باسم النماذج اللغوية الكبيرة (LLMs)، نقل ما تعلمته من سياق إلى آخر، مما يمنحها قدرة عالية على التكيف.

ومع ذلك، تثير نماذج الأساس (Foundation Models) العديد من القضايا والمخاوف الأخلاقية المحتملة، مثل التحيز، وتوليد محتوى زائف (بما في ذلك المخرجات غير الموثوقة أو المضللة)، وضعف قابلية التفسير. تنطبق كثير من هذه القضايا على الذكاء الاصطناعي بوجه عام، إلا أنها تكتسب أهمية وإلحاحًا أكبر في ظل قوة نماذج الأساس واتساع نطاق استخدامها.

كما تطرح النماذج التأسيسية ونماذج الذكاء الاصطناعي التوليدي (Generative AI) تحديات أخلاقية تنبع من حجمها الكبير، وطبيعتها متعددة الأغراض، وسهولة إعادة استخدامها في مجالات مختلفة. ولأن هذه النماذج قد تُنشر في سياقات تختلف كثيرًا عن الغرض الذي دُرِّبت من أجله، تصبح مسائل المسؤولية والمساءلة أكثر تعقيدًا. وكثيرًا ما يصعب تحديد كيفية توزيع المسؤوليات الأخلاقية بين مزودي النماذج والجهات التي تنشرها وتستخدمها في تطبيقاتها. فعلى سبيل المثال، من يتحمل مسؤولية منع النموذج من إساءة استخدام البيانات الحساسة أو تسريب الملكية الفكرية: مزود النموذج، أم الجهة التي تنشره، أم المستخدم النهائي؟

إضافةً إلى ذلك، تستطيع أنظمة الذكاء الاصطناعي التوليدي إنتاج مخرجات مقنعة، لكنها غير صحيحة أو مضللة، كما قد تتيح إساءة الاستخدام على نطاق غير مسبوق. ولذلك، تؤكد الإرشادات الأخلاقية الخاصة بنماذج الأساس أهمية توفير وثائق واضحة، وفرض قيود على الاستخدام، وإجراء مراقبة مستمرة، ووجود إشراف بشري طوال مراحل النشر.

التفرد التكنولوجي سيناريو نظري يصبح فيه النمو التكنولوجي خارج نطاق السيطرة وغير قابل للعكس، وينتهي إلى إحداث تغيرات عميقة وغير متوقعة في الحضارة الإنسانية. ورغم أن هذا الموضوع يحظى باهتمام واسع، فإن كثيرًا من الباحثين لا يرون أن الذكاء الاصطناعي سيتجاوز الذكاء البشري في المستقبل القريب أو المنظور.

ولا يزال كل من الذكاء الاصطناعي القوي أي (الذكاء الاصطناعي الذي يمتلك ذكاءً ووعيًا ذاتيًا يماثلان الإنسان)، والذكاء الفائق مفهومين افتراضيين. ومع ذلك، تثير هذه المفاهيم أسئلة مهمة وآثارًا أخلاقية تتعلق بكيفية استخدام الذكاء الاصطناعي في الأنظمة المستقلة، مثل السيارات ذاتية القيادة.

فعلى سبيل المثال، من غير الواقعي افتراض أن سيارة ذاتية القيادة لن تتعرض لحادث مطلقًا. ولكن، من يتحمل المسؤولية والمساءلة القانونية في مثل هذه الحالات؟ وهل ينبغي مواصلة تطوير المركبات ذاتية القيادة، أم يقتصر استخدام هذه التقنية على المركبات شبه ذاتية القيادة لتعزيز سلامة السائقين؟

ولا تزال هذه المعضلات الأخلاقية بعيدة عن الحسم، لكنها تمثل جانبًا من النقاشات التي تثيرها تقنيات الذكاء الاصطناعي الحديثة والمبتكرة.

في حين يتركز جانب كبير من التصور العام للذكاء الاصطناعي حول فقدان الوظائف، يمكن النظر إلى هذه المسألة من منظور مختلف. فمع ظهور كل تقنية جديدة تُحدث تحولًا جذريًا، يتغير الطلب في سوق العمل على بعض الوظائف.

فعلى سبيل المثال، مع الانتشار الواسع للحواسيب الشخصية، اختفت إلى حد كبير وظائف مثل كاتب الطباعة وموظف حفظ الملفات. وفي المقابل، ظهرت فئات وظيفية جديدة بالكامل، مثل دعم تقنية المعلومات، وتطوير البرمجيات، وإدخال البيانات.

وينبغي النظر إلى الذكاء الاصطناعي بالطريقة نفسها. فمبادرات الذكاء الاصطناعي لا تؤدي بالضرورة إلى تقليص حجم القوى العاملة. بل يُرجح أن تعيد توجيه الطلب على الوظائف نحو مجالات أخرى. وسيظل الأفراد بحاجة إلى إدارة أنظمة الذكاء الاصطناعي، ومعالجة المشكلات الأكثر تعقيدًا التي تنشأ في مختلف القطاعات.

ويتمثل الجانب الأهم من تأثير الذكاء الاصطناعي في سوق العمل في مساعدة الأفراد على الانتقال إلى المجالات التي يزداد فيها الطلب.

تعتمد نماذج الذكاء الاصطناعي على البيانات. ولذلك، تشكل خصوصية البيانات وحماية البيانات وأمن البيانات، محاور أساسية في أخلاقيات الذكاء الاصطناعي.

وقد أقرت الجهات التشريعية خلال العقد الماضي تشريعات مهمة لحماية البيانات، وتسري الأحكام التي تتضمنها هذه التشريعات إلى حد كبير على أدوات الذكاء الاصطناعي، كما تسري على البرمجيات التقليدية.

على سبيل المثال، تمنح اللائحة العامة لحماية البيانات في الاتحاد الأوروبي (GDPR) الأفراد في الاتحاد الأوروبي والمنطقة الاقتصادية الأوروبية سيطرة أكبر على بياناتهم الشخصية. وفي الولايات المتحدة، تُلزم تشريعات على مستوى الولايات، مثل قانون خصوصية المستهلك في كاليفورنيا (CCPA) الشركات بإبلاغ المستهلكين بجمع بياناتهم.

كما بدأت الجهات الحكومية في سن قواعد خاصة بالذكاء الاصطناعي لتنظيم جمع معلومات التعريف الشخصية (PII) وتخزينها، واستخدامها. على سبيل المثال، في عام 2024، بدأت كاليفورنيا في إعداد قواعد تنظم الذكاء الاصطناعي وتقنيات اتخاذ القرار المؤتمت. واكتمل اعتماد هذه القواعد لاحقًا، ويلتزم قطاع الأعمال بالامتثال لها اعتبارًا من 1 يناير 2027..

ورغم أن الشركات تسعى في العادة إلى توظيف الذكاء الاصطناعي والأتمتة لتحقيق أهداف إيجابية، فإن التحيزات الكامنة في مجموعات بيانات التدريب وخوارزميات الذكاء الاصطناعي قد تؤدي إلى نتائج تمييزية.

على سبيل المثال، ألغت Amazon استخدام إحدى أدوات التوظيف المبكرة المدعومة بالذكاء الاصطناعي بعدما تبيّن أنها تمنح النساء تقييمات أقل من الرجال بصورة منهجية. وما سبب ذلك؟ لأن الأداة دُرِّبت على مجموعة من السير الذاتية كانت الغالبية العظمى منها تعود إلى رجال.

ولا يقتصر التحيز والتمييز على مجال الموارد البشرية. بل يظهران أيضًا في العديد من التطبيقات، بدءًا من برامج التعرف على الوجوه ووصولًا إلى خوارزميات وسائل التواصل الاجتماعي. فعلى سبيل المثال، تواجه أدوات التعرف على الوجوه صعوبة أكبر في التعرف على الأشخاص ذوي البشرة الملونة.

ومع ازدياد وعي الشركات بالمخاطر، أصبحت أكثر مشاركة في النقاش الدائر حولها.

فعلى سبيل المثال، أوقفت IBM عام 2020 طرح منتجاتها العامة للتعرف على الوجوه وتحليلها. وفي ذلك الوقت، قال Arvind Krishna، الرئيس التنفيذي لشركة IBM:

"تعارض IBM بشدة، ولن تتسامح مع استخدام أي تقنية، بما في ذلك تقنيات التعرف على الوجوه التي يقدمها موردون آخرون، في المراقبة الجماعية، أو التنميط العرقي، أو انتهاك حقوق الإنسان الأساسية وحرياته، أو لأي غرض لا يتوافق مع قيمنا ومبادئنا القائمة على الثقة والشفافية."

أدى الانتشار السريع للذكاء الاصطناعي التوليدي إلى تصاعد المخاوف بشأن المحتوى الاصطناعي، مثل التزييف العميق (Deepfakes)، ونشر المعلومات المضللة آليًا، وتراجع الثقة بالمعلومات الرقمية.

ومع ازدياد صعوبة التمييز بين النصوص، والصور، والمقاطع الصوتية، ومقاطع الفيديو التي يولدها الذكاء الاصطناعي وتلك التي ينتجها البشر، لم تعد الشفافية تقتصر على قابلية تفسير النماذج، بل امتدت لتشمل إمكانية تتبع المخرجات والإفصاح عنها. واستجابةً لذلك، تعمل الجهات التنظيمية ومزودو التكنولوجيا على تطوير آليات لإثبات مصدر المحتوى. وقد تشمل هذه الآليات متطلبات وضع العلامات، والعلامات المائية الرقمية، والبيانات الوصفية المشفرة لمساعدة المستخدمين على التعرف على المحتوى الذي أنشأه الذكاء الاصطناعي.

ومع ذلك، قد تثير هذه الأساليب إشكالات أخلاقية، من بينها الموازنة بين المتانة، والخصوصية، وحرية التعبير، إلا أنها تُعد على نحو متزايد عنصرًا أساسيًا للحفاظ على الثقة في المنظومات الرقمية.

ورغم عدم وجود قانون عالمي موحد ينظم الذكاء الاصطناعي، فقد انتقل تنظيمه بسرعة من إرشادات طوعية إلى أطر قانونية ملزمة في العديد من الدول والأنظمة القضائية.

فرض قانون الذكاء الاصطناعي الصادر عن الاتحاد الأوروبي (EU AI Act)، والذي دخل حيز النفاذ عام 2024، التزامات قانونية ملزمة على بعض ممارسات الذكاء الاصطناعي. وتشمل هذه الالتزامات حظر الأنظمة ذات المخاطر غير المقبولة، وفرض متطلبات للشفافية بشأن المحتوى الذي يولده الذكاء الاصطناعي، ووضع قواعد لحوكمة دورة الحياة الخاصة بالنماذج عالية المخاطر والنماذج العامة الأغراض.

ويعكس انتشار قوانين مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي تحولًا أوسع في أخلاقيات الذكاء الاصطناعي، من مبادئ توجيهية طموحة إلى آليات مساءلة تجمع بين الالتزام بالمعايير الأخلاقية والامتثال القانوني.

يعتمد أداء الذكاء الاصطناعي على كيفية تصميمه، وتطويره، وتدريبه، وضبطه، واستخدامه. وتركز أخلاقيات الذكاء الاصطناعي على وضع ضوابط ومعايير تحكم كل مرحلة من مراحل دورة حياة نظام الذكاء الاصطناعي.

وتعمل المؤسسات، والحكومات، والباحثون على إعداد أطر عمل تعالج التحديات الأخلاقية الحالية للذكاء الاصطناعي، وتسهم في توجيه مستقبله. رغم اختلاف الإرشادات، يوجد قدر من التوافق حول الأنشطة الأساسية لحوكمة الذكاء الاصطناعي.

ويُنظر إلى أخلاقيات الذكاء الاصطناعي على نحو متزايد بوصفها قدرةً مستمرة تندمج في جميع مراحل دورة حياة الذكاء الاصطناعي، لا مجرد مجموعة من المبادئ. وتتطلب الحوكمة الفعالة عمليات مستمرة لتقييم المخاطر، وتوثيق قرارات التصميم، ومراقبة الأنظمة المنشورة، والاستجابة للسلوكيات أو الأضرار غير المتوقعة. ولأن أنظمة الذكاء الاصطناعي تتطور بمرور الوقت، يجب أن تتطور الرقابة الأخلاقية بالتوازي معها، مدعومةً بمسؤوليات واضحة وضوابط قابلة للقياس، لا بسياسات ثابتة فحسب.

وتساعد الحوكمة على ضمان عمل أنظمة الذكاء الاصطناعي وفقًا لمبادئ المؤسسة، وقيمها، وممارساتها الخاصة بالذكاء الاصطناعي المسؤول.

وتشمل المكونات الشائعة لبرنامج حوكمة الذكاء الاصطناعي ما يلي:

• تحديد أدوار ومسؤوليات العاملين في مجال الذكاء الاصطناعي لضمان الإشراف البشري المناسب..
  
  
• وتثقيف جميع المشاركين في دورة حياة الذكاء الاصطناعي حول أساليب تطوير الذكاء الاصطناعي واستخدامه على نحو مسؤول.
  
  
• ووضع عمليات لبناء أنظمة الذكاء الاصطناعي، وإدارتها، ومراقبتها، والتواصل بشأنها، وإجراء عمليات تدقيق لها.
  
  
• والاستفادة من الأدوات التي تعزز أداء الذكاء الاصطناعي وجديرته بالثقة طوال دورة حياته.

ويُعد مجلس أخلاقيات الذكاء الاصطناعي أيضًا إحدى آليات الحوكمة الفعالة. على سبيل المثال، مجلس التقنية المسؤولة في IBM، الذي يضم نخبة متنوعة من القيادات في مختلف قطاعات IBM، آلية مركزية لحوكمة سياسات وممارسات أخلاقيات الذكاء الاصطناعي، ومراجعتها، واتخاذ القرارات المتعلقة بها.

ويمكن للمؤسسات بناء ذكاء اصطناعي جدير بالثقة من خلال الاستناد إلى مبادئ أخلاقية واضحة وتطبيقها باستمرار في المنتجات، والسياسات، والعمليات. وينبغي أن تركز هذه المبادئ على مجالات محددة، مثل قابلية التفسير أو الإنصاف، لتطوير معايير وممارسات واضحة حولها.

وعندما تُدمج الأخلاقيات في أنظمة الذكاء الاصطناعي منذ البداية، تصبح هذه الأنظمة قادرة على تحقيق فوائد كبيرة. وقد بدأت قطاعات مثل الرعاية الصحية بالفعل تجني هذه الفوائد. فالذكاء الاصطناعي يُحدث تحولًا في تخصصات مثل الأشعة، إذ يكتشف الحالات غير الطبيعية في الصور بسرعة ودقة تفوقان الأساليب التقليدية.

وترى كثير من المؤسسات أنها تصبح أكثر قدرة على الاستفادة من هذه المزايا عندما تتعامل مع أخلاقيات الذكاء الاصطناعي بوصفها ممارسة عملية تجمع بين القيم، والحوكمة، والمساءلة، لدعم الابتكار المسؤول على نطاق واسع.

ولا تشكل المعايير الأخلاقية الاهتمام الأساسي لمهندسي البيانات أو علماء البيانات في القطاع الخاص. ومع ذلك، ظهرت عدة منظمات تُعنى بتعزيز الممارسات الأخلاقية في مجال الذكاء الاصطناعي.

وتشمل هذه المنظمات:

• AlgorithmWatch التي تركز على قابلية تفسير الخوارزميات وإمكانية تتبعها، إلى جانب عمليات اتخاذ القرار في برامج الذكاء الاصطناعي.
  
  
• The AI Now Institute، وهي منظمة غير ربحية تابعة لـ New York University، تُجري أبحاثًا حول الآثار الاجتماعية للذكاء الاصطناعي.
  
  
• Center for Human-Compatible Artificial Intelligence (CHAI) وهو تعاون بين عدد من المعاهد والجامعات لتعزيز الذكاء الاصطناعي الجدير بالثقة وتطوير أنظمة يثبت نفعها للبشر.
  
  
• وCenter for Human-Compatible Artificial Intelligence (CHAI)، وهو تعاون بين عدد من المعاهد والجامعات لتعزيز الذكاء الاصطناعي الجدير بالثقة، وتطوير أنظمة يثبت نفعها للبشر.

وتوجه IBM’s Principles for Trust and Transparency نهج IBM في تطوير البيانات والذكاء الاصطناعي. وتتمثل هذه المبادئ فيما يلي:

1. الغرض من الذكاء الاصطناعي هو تعزيز الذكاء البشري. هذا يعني أننا لا نسعى إلى استبدال الذكاء البشري بالذكاء الاصطناعي، بل ندعمه.
   
   
2. وتعود ملكية البيانات والرؤى المستخلصة منها إلى منشئها.. ولا ينبغي إلزام المؤسسات بالتنازل عن حقوقها في بياناتها أو في الرؤى المستمدة منها مقابل الاستفادة من حلول الذكاء الاصطناعي وخدماته.
   
   
3. يجب أن تتسم أنظمة الذكاء الاصطناعي بالشفافية والقابلية للشرح. تعتقد IBM أن شركات التكنولوجيا بحاجة إلى أن تكون واضحة بشأن من يدرب أنظمة الذكاء الاصطناعي الخاصة بها، وما هي البيانات التي تم استخدامها في هذا التدريب، والأهم من ذلك، ما الذي دخل في توصيات خوارزمياتها.

كما قامت شركة IBM بتطوير خمسة ركائز لتوجيه تبني تقنيات الذكاء الاصطناعي على نحو مسؤول.

• قابلية التفسير (Explainability): ينبغي أن يتسم نظام الذكاء الاصطناعي بالشفافية، ولا سيما فيما يتعلق بالعوامل التي استندت إليها خوارزمياته عند تقديم التوصيات، بما يتناسب مع احتياجات مختلف الأطراف المعنية وأهدافهم.
  
  
• الإنصاف: تشير هذه الركيزة إلى معاملة الأفراد أو مجموعات الأفراد بعدالة من جانب نظام الذكاء الاصطناعي.وعند ضبطه على النحو الصحيح، يساعد الذكاء الاصطناعي البشر على اتخاذ قرارات أكثر عدلًا، والحد من التحيزات البشرية، وتعزيز الشمول.
  
  
• المتانة: يجب الدفاع بنشاط عن الأنظمة المدعومة بالذكاء الاصطناعي ضد الهجمات العدائية، لتقليل المخاطر الأمنية وتمكين الثقة في نتائج النظام.
  
  
• الشفافية: لتعزيز الثقة، يجب أن يتمكن المستخدمون من معرفة كيفية عمل الخدمة، وتقييم وظائفها، وفهم نقاط قوتها وحدودها.
  
  
• الخصوصية: يجب على أنظمة الذكاء الاصطناعي أن تعطي الأولوية لخصوصية المستهلكين وحقوقهم في البيانات وتحميها، وأن تقدم ضمانات صريحة للمستخدمين حول كيفية استخدام بياناتهم الشخصية وحمايتها.