ما ضوابط الذكاء الاصطناعي؟

ضوابط حماية الذكاء الاصطناعي هي الضمانات التي تُبقي أنظمة الذكاء الاصطناعي (AI) تعمل بأمان وبمسؤولية وضمن الحدود المحددة.

وتشمل هذه الضمانات السياسات والضوابط التقنية وآليات المراقبة التي تنظم كيفية إنتاج نماذج الذكاء الاصطناعي، بما في ذلك النماذج اللغوية الكبيرة (LLMs) وغيرها من الأنظمة للمخرجات في حالات الاستخدام الواقعية.

ويمكن تشبيه ضوابط حماية الذكاء الاصطناعي بالحواجز الموجودة على جانبي الطرق السريعة؛ فهي لا تبطئ السيارة، لكنها تساعد على منعها من الانحراف عن المسار. في سياق الذكاء الاصطناعي التوليدي (gen AI)، تساعد تلك الضوابط على ضمان أن تقدم تطبيقات الذكاء الاصطناعي- مثل روبوتات المحادثة ووكلاء الذكاء الاصطناعي والأدوات المؤتمتة الأخرى- ومخرجات جديرة بالثقة مع الحماية من الثغرات الأمنية، مثل المحتوى الضار أو كشف البيانات الحساسة.

ومن المهم ملاحظة أن ضوابط حماية الذكاء الاصطناعي ليست ضوابط أمنية تُطبق لمرة واحدة: بل تمتد لتشمل مجموعات البيانات، ونماذج الذكاء الاصطناعي، والتطبيقات، وسير العمل. ويجعلها هذا الامتداد الواسع عنصراً أساسياً لممارسات الذكاء الاصطناعي المسؤول واعتمادها على نطاق مؤسسي.

وقد أدى صعود الذكاء الاصطناعي التوليدي إلى خلق فرص غير مسبوقة، وفي الوقت نفسه فرض درجة عالية من الإلحاح. تسارع المؤسسات إلى إطلاق حلول جديدة للذكاء الاصطناعي، مع دمج المساعدين الفوريين ووكلاء الذكاء الاصطناعي، وصناعة القرارات المستندة إلى البيانات في سير العمل الحيوي. وفي قطاعات مثل الرعاية الصحية والخدمات المالية وخدمة العملاء، يفرض الابتكار ضغوطاً عالية المخاطر؛ إذ تعتمد نتائج المرضى والامتثال التنظيمي وثقة المستهلكين على السرعة والدقة.

غير أن هذا التوجه المتسارع ينطوي على مخاطر. فمن دون ضوابط حماية، يمكن التلاعب بنماذج الذكاء الاصطناعي وروبوتات المحادثة بسهولة. من خلال هجمات كسر القيود (Jailbreaks) أو استغلالات حقن الأوامر (Prompt Injection) ، يمكن لنموذج اللغة الكبيرة كشف معلومات شخصية قابلة للتعريف (PII)، أو المساهمة في نشر المعلومات المضللة أو تسريب البيانات الحساسة. وإذا تُركت هذه الثغرات دون معالجة، فقد تتطور إلى عمليات تصيد تصيد احتيالي ومحتوى ضار على نطاق واسع، مما يهدد أداء الأنظمة ويتسبب في حوادث أمنية مرتفعة التكلفة.

وفق تقرير تكلفة خرق البيانات لعام 2025 الصادر عن IBM، ارتفع متوسط تكلفة الخرق في الولايات المتحدة إلى رقم قياسي بلغ 10.22 مليون دولار أمريكي حتى مع انخفاض المتوسطات العالمية.¹ ويُعزى هذا الارتفاع جزئياً إلى زيادة الغرامات التنظيمية وارتفاع تكاليف الكشف عن الحوادث. وفي الوقت نفسه، وقعت تقريباً جميع حوادث الاختراق المرتبطة بالذكاء الاصطناعي (97%) في بيئات تفتقر إلى ضوابط الوصول، مما يبرز كيف يؤدي غياب الضمانات إلى تعريض عمليات نشر الذكاء الاصطناعي للمخاطر.²

وأصبحت ضوابط الذكاء الاصطناعي اليوم أكثر أهمية من أي وقت مضى لتحويل التجارب إلى ابتكار أخلاقي ومستدام. فهي تحقق التوازن بين السرعة والأمان، وتساعد على ضمان استخدام الذكاء الاصطناعي بصورة منضبطة ومتوافقة مع المتطلبات التنظيمية وتوقعات أصحاب المصلحة والأهداف التجارية طويلة الأجل.

وتشمل ضوابط الذكاء الاصطناعي جميع طبقات استخدامه، ومنها:

• ضوابط حماية البيانات
• ضوابط حماية النماذج
• ضوابط حماية التطبيقات
• ضوابط حماية البُنى التحتية

تشكل مجموعات البيانات المنقحة وبيانات التدريب المعتمدة أساس الذكاء الاصطناعي الآمن. من خلال إزالة المعلومات الحساسة، والحد من التحيز، وفرض قواعد خصوصية البيانات، تضمن هذه الضوابط بناء النماذج على مدخلات جديرة بالثقة.

تعتمد نماذج اللغة الكبيرة وغيرها من نماذج الذكاء الاصطناعي على الضبط الدقيق، والتحقق والمراقبة المستمرة للحفاظ على سلوك آمن. وتُستخدم مقاييس مثل زمن الانتقال، ومستوى السمية، والدقة، والمتانة لقياس الأداء في البيئات الواقعية والمتانة لقياس الأداء الواقعي. كما تعمل هذه الضوابط على تحسين سلوك الذكاء الاصطناعي من خلال المساعدة على تحسين المخرجات.

ويمكن لضوابط الذكاء الاصطناعي أيضاً توجيه سلوك تطبيقات الذكاء الاصطناعي التوليدي وروبوتات المحادثة. يمكن لواجهات برمجة التطبيقات (APIs) فرض سياسات تمنع المحتوى الضار أو المحتوى الذي يُنشئه الذكاء الاصطناعي، أو التحقق من البيانات الحساسة، أو تقييد آلية عمل أدوات الذكاء الاصطناعي ضمن سير عمل محدد. وغالباً ما يستخدم المطورون مكتبات Python لدمج سياسات ضوابط الحماية مباشرةً داخل تطبيقات الذكاء الاصطناعي.

ما ضوابط حماية البنية التحتية فتوفّر الأساس الآمن للذكاء الاصطناعي من خلال فرض تدابير الحماية على مستوى السحابة والشبكات والأنظمة. ويشمل ذلك ممارسات مثل ضوابط الوصول، والتشفير، والمراقبة وتسجيل الأحداث. تساعد ضوابط حماية البُنى التحتية على ضمان تشغيل أعباء عمل الذكاء الاصطناعي داخل بيئات محمية وتقليل مخاطر مثل الوصول غير المصرح به أو تسرب البيانات.

وتؤدي حوكمة الذكاء الاصطناعي دور "ضابط الحماية الصفري" من خلال جمع الأطراف المعنية لمواءمة استخدام الذكاء الاصطناعي مع مبادئ الذكاء الاصطناعي المسؤول والمتطلبات التنظيمية. كما تدعم ضوابط البيانات والنماذج والتطبيقات والبنية التحتية من خلال ضمان تطبيقها بصورة متسقة عبر مختلف وحدات الأعمال.

يتميز الذكاء الاصطناعي بقدرته على تحليل مجموعات ضخمة من البيانات لاكتشاف الأنماط وإجراء التنبؤات. أما في حالة الذكاء الاصطناعي التوليدي، فيمكنه إنتاج تركيبات جديدة من النصوص أو الصور أو التعليمات البرمجية. إلا أن هذه المزايا تطرح أيضاً اعتبارات جديدة.

وقد صُممت ضوابط الحماية للتصدي لتهديدات تشمل:

وقد أصبح حجم هذه التهديدات واضحاً بالفعل. فما يقرب من حالة اختراق واحدة من كل ست حالات (16%) تضمنت مهاجمين استخدموا الذكاء الاصطناعي، بما في ذلك التصيد الاحتيالي المُنشأ بالذكاء الاصطناعي (37%) وانتحال الهوية باستخدام التزييف العميق (بنسبة 35%).³ وحتى المنصات واسعة الانتشار مثل ChatGPT أظهرت كيف يمكن لمدخلات المستخدم غير المتوقعة أن تؤدي إلى مخرجات غير مقصودة، مما يؤكد الحاجة إلى ضوابط حماية تستبق السلوك الخصومي.

ولا تمثل ضوابط الحماية الوسيلة الوحيدة التي تعتمدها الشركات للحد من هذه المخاطر. إذ تدمج المؤسسات بصورة متزايدة التوليد المعزز بالاسترجاع (RAG) ضمن سير عمل الذكاء الاصطناعي. ويستند RAG إلى مجموعات بيانات موثوقة عند إنشاء المخرجات، مما يحسن الدقة ويقلل احتمالية النتائج المضللة أو الضارة أو الهلوسات الصريحة. وبالاقتران مع حواجز الحماية ، يمكن أن تخلق مسارًا أكثر أمانًا للتبني في العالم الحقيقي.

بالنسبة إلى المؤسسات، فإن الحواجز الواقية للذكاء الاصطناعي ليست نظرية بل ضرورية تشغيلية. هي ما يجعل الذكاء الاصطناعي فعالا في البيئات مهمة حساسة، خاصة فيما يتعلق بالأمن وسير العمل وحماية المحتوى.

وتساعد ضوابط حماية الذكاء الاصطناعي على التصدي لطيف متزايد من التهديدات. وتستخدمها فرق إدارة الثغرات الأمنية للكشف عن المخاطر والتخفيف منها، مثل حملات التضليل المنسقة.

كما تُدمج ضوابط أمن الذكاء الاصطناعي داخل سير العمل لمنع انتهاكات خصوصية البيانات والاستخدام غير المصرح به لمجموعات البيانات الحساسة. ومن خلال مواءمتها مع ممارسات الأمن السيبراني الأوسع، مثل كشف التهديدات والاستجابة (TDR) وانعدام الثقة، يمكن لضوابط الحماية من التهديدات تقليل مساحة الهجوم التي تنشئها أنظمة الذكاء الاصطناعي وحماية ثقة المؤسسة.

وقد يكون تجاهل تدابير حماية البيانات مكلفاً. فقد أضاف الذكاء الاصطناعي الظلي، أي استخدام أدوات الذكاء الاصطناعي دون موافقة أو إشراف رسميين، ما متوسطه 670 ألف دولار أمريكي إلى تكاليف حوادث الاختراق.⁴ ونشأ العديد من هذه الحوادث عن أدوات غير معتمدة سرّبت معلومات تعريف شخصية حساسة تخص العملاء (PII). وتؤدي ضوابط الحماية دور الحواجز الوقائية والعوامل التمكينية في الوقت نفسه، إذ تساعد المؤسسات على تجنب هذه الخسائر مع مواصلة التوسع بصورة مسؤولة.

كما تعتمد المؤسسات على ضوابط الحماية لضمان تشغيل سير عمل الذكاء الاصطناعي بسلاسة. ويعتمد التشغيل الذكي المؤتمت وسير العمل القائم على العوامل الذكية على وكلاء ذكاء اصطناعي فورية قادرة على صنع القرارات بسرعة وأمان. وتوفر ضوابط الذكاء الاصطناعي آلية توازن أساسية تساعد هذه العوامل على تحقيق ذلك.

فعلى سبيل المثال، يمكن لروبوت محادثة في قطاع الرعاية الصحية تقديم معلومات للمرضى في الوقت المناسب دون كشف البيانات الحساسة، أو يمكن لتطبيق مالي أتمتة كشف الاحتيال دون التسبب في نتائج إيجابية كاذبة.

وهكذا تعمل ضوابط الحماية على نطاق واسع؛ ليس بوصفها عمليات تحقق منفصلة، بل وظائف متكاملة. ومن خلال دمج ضوابط الحماية في سير العمل، تستطيع المؤسسات الاستفادة من قيمة الذكاء الاصطناعي مع الحفاظ على الامتثال والثقة.

ويمكن تضمين ضوابط الحماية مباشرةً في مسارات تشغيل النماذج من أجل تصفية المحتوى الضار أو الحساس.

فعلى سبيل المثال، يُعد، ترشيح المحتوى الضار والمسيء والبذيء (HAP Filtering) نظامًا يستخدم نموذج تصنيف ليكشف وإزالة خطاب الكراهية واللغة المسيئة والشتائم من إدخال النموذج اللغوي الكبير والمخرج. غالبا ما يتضمن ذلك مصنفات تقوم بمسح الإدخال والإخراج، جملة بجملة، ليكشف لغة خطرة أو معلومات حساسة قبل وصولها إلى المستخدم. وعند اكتشاف محتوى مُشار إليه على أنه خطِر، يحظره النظام أو يستبدله بإشعار، مما يمنع تداول النصوص غير الآمنة.

وتشمل الأنواع الشائعة من المرشحات ما يلي:

• مرشحات اللغة الضارة: تكشف خطاب الكراهية أو اللغة المسيئة أو الألفاظ البذيئة وتحظرها ويمكن ضبط حدود الحساسية لتحقيق التوازن بين السلامة وخطر النتائج الإيجابية الكاذبة.

• مرشحات المعلومات التعريفية الشخصية: تحدد معلومات التعريف الشخصية، مثل أرقام الهواتف أو البريد الإلكتروني أو أرقام الحسابات، وتمنع كشفها.

• مرشحات السلامة المتقدمة: تستخدم نماذج أكثر شمولاً لرصد مشكلات مثل محاولات كسر القيود، والتحيز، والاستجابات المتوهمة، أو المحتوى العنيف وغير الأخلاقي.

يمكن تطبيق هذه الفلاتر بطرق مختلفة من خلال الأدوات البصرية، أو واجهات برمجة التطبيقات أو مجموعات تطوير البرمجيات (SDKs) ويمكن تعديل العتبات لتناسب تحمل المؤسسة للمخاطر. تؤدي العتبات المنخفضة إلى رصد مزيد من المشكلات المحتملة ولكنها قد تبالغ في الإشارة إلى المحتوى الآمن، بينما تقلل العتبات الأعلى من الضوضاء ولكنها قد تسمح بمرور بعض المخاطر.

ورغم أهمية ضوابط الذكاء الاصطناعي، فإن تطبيقها ليس سهلاً. تواجه المؤسسات تحديات تشمل:

• السلوك المعقد للذكاء الاصطناعي: قد تنتج النماذج اللغوية الكبيرة ونماذج الذكاء الاصطناعي التوليدي مخرجات غير متوقعة، مما يصعّب التنبؤ بجميع الثغرات المحتملة.

• المفاضلة بين زمن الاستجابة والسلامة: قد تؤدي عمليات التحقق الفوري والتصفية والإشراف على المحتوى إلى إبطاء سير عمل الذكاء الاصطناعي، مما يفرض على المؤسسات تحقيق التوازن بين السرعة والأمان.

• التهديدات المتطورة: تتطور سريعاً أساليب الهجوم الخصومية الجديدة، مثل تسميم البيانات وعكس النماذج، ما يتطلب تحديث ضوابط الحماية باستمرار.

• متطلبات خصوصية البيانات: يجب أن تحمي ضوابط الحماية البيانات الحساسة مع استمرار إتاحة المعلومات اللازمة لأنظمة الذكاء الاصطناعي لاتخاذ قرارات دقيقة.

• مسؤوليات البرمجيات مفتوحة المصدر: تحصل المؤسسات التي تستخدم نماذج اللغة الكبيرة وواجهات برمجة التطبيقات مفتوحة المصدر على قدر أكبر من المرونة، لكنها تتحمل أيضاً مسؤولية أكبر في تضمين الضمانات الوقائية بنفسها.

ولا يقتصر مبرر اعتماد ضوابط الحماية على تجنب المخاطر فحسب، بل يشمل أيضاً تحقيق فوائد متعددة، منها:

• تسريع التبني: يمكن للمؤسسات توسيع نطاق حالات استخدام الذكاء الاصطناعي بثقة أكبر دون الخوف من العواقب التنظيمية أو الأضرار التي قد تلحق بالسمعة، وذلك من خلال تطبيق ضوابط الحماية.

• التوافق التنظيمي: تدعم ضوابط الحماية الامتثال للوائح المتطورة المتعلقة بخصوصية البيانات وسلامة الذكاء الاصطناعي المتطورة، مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي (EU AI Act).

• تحسين تجربة المستخدم: من خلال تصفية المخرجات الضارة أو المضللة، تساعد ضوابط الحماية على ضمان أن تقدم روبوتات المحادثة والعوامل الذكية وغيرها من الأدوات المؤتمتة تجربة عملاء آمنة ومتسقة.

• تعزيز ثقة الأطراف المعنية: تعكس ضوابط الحماية التزام المؤسسة بمبادئ الذكاء الاصطناعي المسؤول، مما يعزز الثقة لدى العملاء والجهات التنظيمية والموظفين.

• تحسين الأداء: يمكن تحسين مخرجات النماذج من خلال ضوابط الحماية التي تستبعد الاستجابات غير الآمنة وتوائم النتائج مع متطلبات الأعمال أو المتطلبات التنظيمية.

• استدامة القيمة: من خلال الحد من الثغرات والإخفاقات، تحمي ضوابط الحماية القيمة طويلة الأجل للاستثمارات في نماذج الذكاء الاصطناعي وأنظمته وتطبيقاته.

ومع تسارع تبني الذكاء الاصطناعي، ستزداد أهمية ضوابط الحماية. وقد بدأت عدة توجهات بالتبلور بالفعل، من بينها:

مع تزايد انتشار ضوابط حماية الذكاء الاصطناعي، تواجه بعض الاعتراضات، من منتقدين يرون أنها تعيق التقدم. غير أن خبراء الذكاء الاصطناعي يؤكدون العكس؛ إذ تشكل ضوابط حماية الذكاء الاصطناعي البنية الأساسية التي تتيح الابتكار الآمن والمستدام. ومن خلال تطبيق تلك الضوابط، تستطيع المؤسسات الاستفادة من التطورات مثل الذكاء الاصطناعي التوليدي، والأتمتة الذكية، وسير العمل القائم على الوكلاء، مع الحفاظ على الثقة والمساءلة في صميم تبني الذكاء الاصطناعي.