تنقية الذكاء الاصطناعي: تصفية الكراهية والإساءة والبذاءة (HAP) ضد المحتوى الضار

تسهل شبكة الويب العالمية الاتصال وتسرع نمو الأعمال وتضع قرونًا من المعرفة في متناول أيدينا.

ولكن على الرغم من كل الفوائد، يمكن أن يكون أيضًا بؤرة للغة البغيضة والمحتوى الضار. ويتم تصريف هذه البؤرة في المحيط الأكبر من بيانات الإنترنت التي تُستخدم لتدريب العديد من نماذج الأساس الحالية، مثل النماذج اللغوية الكبيرة (LLMs) وقدرات معالجة اللغة الطبيعية (NLP) الخاصة بها.

ويهدد هذا التسرب من اللغة المسيئة سلامة نماذج الذكاء الاصطناعي وقابليتها استخدامها. لماذا؟ لأنه إذا تم تدريب النماذج اللغوية الكبيرة على مجموعات البيانات التي تتضمن سلوكًا بشريًا بغيضًا، فسيترتب على ذلك أنها قد تؤدي إلى نتائج ضارة. إضافة إلى ذلك، يمكن أن يجد هذا المحتوى الضار طريقه أيضًا إلى نماذج الذكاء الاصطناعي في أثناء الضبط الدقيق، أو التحسين من خلال التوليد المعزز بالاسترجاع (RAG)، أو عندما يتفاعل LLM مع المستخدم.

إن تصفية المحتوى المسيء وإزالته أمر أساسي لضمان أن تكون نماذج الذكاء الاصطناعي آمنة وشاملة وغير متحيزة، ما يوفر تجربة إيجابية للمستخدمين. أحد هذه الحلول هو التصفية المنهجية المدعومة بنموذج الكشف عن الكراهية والإساءة والبذاءة (HAP)، التي يُشار إليها باسم تصفية HAP.

تصفية HAP هو نظام يستخدم نموذج تصنيف ليكشف خطاب الكراهية والإساءة والبذاءة وإزالتها من إدخال النماذج اللغوية الكبيرة والإخراج.

لفهم تصفية HAP بشكل كامل، من المفيد فهم نماذج التصنيف. نماذج التصنيف هي نماذج التعلم الآلي التي تقسم نقاط البيانات إلى مجموعات محددة سابقًا تسمى الفئات. يتعلمون خصائص الفصل من بيانات الإدخال ثم يعينون فئات محتملة للبيانات الجديدة وفقًا لتلك الخصائص المكتسبة. يستخدم عامل تصفية البريد الإلكتروني العشوائي، على سبيل المثال، خوارزمية التصنيف. يمكن أيضًا الإشارة إلى نموذج تصنيف تصفية HAP بشكل أكثر تحديدًا كمصنف جملة، أو ببساطة باسم عامل تصفية HAP أو أداة كشف HAP.

يمكن تعريف خطاب الكراهية واللغة المسيئة والبذاءة على النحو الآتي:

• خطاب الكراهية: التعبير عن الكراهية تجاه فرد أو مجموعة على أساس سمات مثل العرق أو الدين أو الأصل العرقي أو التوجه الجنسي أو الإعاقة أو الجنس. يُظهر خطاب الكراهية نية إيذاء أفراد مجموعة ما أو إذلالهم أو إهانتهم، أو الترويج للعنف أو الاضطراب الاجتماعي.
  
  
• لغة مسيئة: لغة وقحة أو مؤذية تهدف إلى التنمر أو الحط من شأن شخص ما أو شيء ما.
  
  
• الألفاظ البذيئة: الكلمات البذيئة مثل الألفاظ البذيئة أو الشتائم أو الألفاظ الجنسية الصريحة.

في الممارسة العملية، يقوم مصنف جمل تصفية HAP بتقييم كل كلمة من الإدخال أو مخرجات النص في النموذج لتحديد ما إذا كانت تحتوي على محتوى HAP. بعد ذلك، يعين درجة تمثل احتمالية وجود محتوى HAP، ربما من 0 إلى 1. في هذه الحالة، تشير الدرجة الأقرب إلى 1 إلى احتمال أعلى لمحتوى HAP. اعتمادًا على العتبة التي يحددها المستخدم لمحتوى HAP (مثل "درجة أكبر من 0.5 = HAP")، يقوم النموذج بعد ذلك بتعيين ملصق لكل جملة تشير إلى ما إذا كانت تحتوي على HAP أم لا.

أخيرًا، يمكن وضع علامة على محتوى HAP وإزالته إذا كان في بيانات التدريب السابق. أو، إذا كان محتوى HAP عبارة عن إخراج، فيمكن استبداله برسالة الحواجز تشير إلى أن الإخراج يحتوي على نص ضار تمت إزالته.

وفقًا لأبحاث IBM، هناك حاليًا ثلاث حالات استخدام رئيسية لعوامل تصفية HAP:

• تصفية بيانات تدريب النماذج اللغوية الكبيرة
• محاذاة النماذج باستخدام التعلم المعزز
• التحكم في مخرجات الذكاء الاصطناعي التوليدي

من المهم ملاحظة أنه بالإضافة إلى تصفية HAP، غالبًا ما توجد خطوات أخرى لتنظيف البيانات، ولجودة البيانات، ومحاذاة البيانات يتم اتخاذها لتقليل حالات دخول البيانات المتحيزة إلى النموذج أو الخروج منه.

كما هو الحال مع العديد من التقنيات المرتبطة بالذكاء الاصطناعي، يتحرك الابتكار بسرعة في عالم تصفية HAP. وقد حدد باحثو IBM طريقتين لتحسين مرشحات HAP: من خلال نماذج أصغر حجمًا ومصدر مفتوح وأداة تحديد المدى الهجومي.

في عالم مثالي، ستحدث تصفية HAP في كل مرحلة من مراحل دورة حياة LLM. لكن هذا الاستخدام يتطلب سرعة تفتقر إليها معظم عوامل تصفية HAP اليوم بسبب حجمها الكبير.

وقد ألهم هذا عامل نصفية HAP الأحدث والأسرع من IBM: Granite-Guardian-HAP-38m. هذا النموذج المشفر ذو 38 مليون معلمة أصغر من سابقه ذي 125 مليون معلمة (Granite-Guardian-HAP-125m). على هذا النحو، يمكن تشغيله أسرع بثماني مرات على وحدة معالجة مركزية (CPU) وأسرع مرتين على وحدة معالجة الرسومات (GPU) (الموجودة في الهواتف الذكية وأجهزة الكمبيوتر) لتصفية البيانات بسرعة في كل مرحلة من مراحل دورة حياة LLM.

تتوفر متغيرات لكلا نموذجي تصفية HAP على watsonx.ai™ . ولكن لاستمرار تشجيع النظام البنائي للذكاء الاصطناعي الجدير بالثقة، قامت شركة IBM بجعل عاملي تصفية HAP كمصادر مفتوحة على Hugging Face. 

ولإضفاء مزيد من التفصيل والتنوع اللغوي على عوامل تصفية HAP، طور باحثو IBM أداة تصور HAP تسمى MUTED: عرض توضيحي مستهدف متعدد اللغات.

بتجاوز التعليق التوضيحي على مستوى الجملة، يقسم MUTED الجمل إلى "أهداف" والامتدادات هجومية (أو الحجة الهجومية). على سبيل المثال، في جملة "هؤلاء الناس سائقون سيئون"، الهدف هو "هؤلاء الناس" والمدى الهجومي هو "سائقون سيئون". تقوم الفكرة على أن MUTED يقوم بتحديد الامتدادات الهجومية وتصنيف شدتها باستخدام خرائط حرارية ثم إخفائها عن المستخدمين إذا كانت ضارة.¹