ما المقصود بنقل التعلم؟

التعلم بالنقل له العديد من التطبيقات، بدءًا من حل مشكلات الانحدار في علوم البيانات إلى تدريب نماذج التعلم العميق. في الواقع، إنه جذاب بشكل خاص للحالة الأخيرة نظرًا للكمية الكبيرة من البيانات اللازمة لإنشاء شبكات عصبية عميقة.

تبني عمليات التعلم التقليدية نموذجًا جديدًا لكل مهمة جديدة، بناءً على البيانات المصنَّفة المتاحة. وهذا لأن خوارزميات التعلم الآلي التقليدية تفترض أن بيانات التدريب والاختبار تأتي من مساحة السمات نفسه، وبالتالي إذا تغير توزيع البيانات، أو تم تطبيق النموذج المدرَّب على مجموعة بيانات جديدة، يجب على المستخدمين إعادة تدريب نموذج جديد من الصفر، حتى عند محاولة تنفيذ مهمة مماثلة للمهمة التي نفذها النموذج الأول (على سبيل المثال، نموذج تصنيف تحليل المشاعر لتقييمات الأفلام وتقييمات الأغاني). ومع ذلك، فإن خوارزميات نقل التعلم تأخذ النماذج أو الشبكات المدرَّبة بالفعل كنقطة انطلاق. ثم تطبِّق معرفة هذا النموذج المكتسبة في مهمة أو بيانات مصدر أولية (على سبيل المثال، تصنيف تقييمات الأفلام) على مهمة أو بيانات مستهدفة جديدة ولكنها ذات صلة (على سبيل المثال، تصنيف تقييمات الأغاني).³

• التكاليف الحسابية. يقلِّل التعلم بالنقل من التكاليف الحسابية المطلوبة لبناء نماذج للمشكلات الجديدة. فمن خلال إعادة استخدام النماذج أو الشبكات المدرَّبة مسبقًا لمعالجة مهمة مختلفة، يمكن للمستخدمين تقليل مقدار وقت تدريب النموذج وبيانات التدريب ووحدات المعالج والموارد الحاسوبية الأخرى. على سبيل المثال، قد يتطلب الوصول إلى معدل تعلم محدد عددًا أقل من العصور، أي التمريرات عبر مجموعة البيانات. وبهذه الطريقة، يستطيع التعلم بالنقل تسريع عمليات تدريب النماذج وتبسيطها.
  
  
• حجم مجموعة البيانات. يساعد التعلم بالنقل بشكل خاص على تخفيف الصعوبات المرتبطة بالحصول على مجموعات بيانات كبيرة. على سبيل المثال، تتطلب النماذج اللغوية الكبيرة (LLMs) كميات كبيرة من بيانات التدريب للحصول على الأداء الأمثل. يمكن أن تكون مجموعات البيانات العامة ذات الجودة العالية محدودة، كما أنَّ إنتاج كمية كافية من البيانات المصنَّفة يدويًا قد يستغرق وقتًا طويلًا ويكلِّف الكثير.
  
  
• التعميم. يساعد التعلم بالنقل على تحسين النموذج، ويمكنه أن يزيد أيضًا من قابلية تعميم النموذج. ولأن التعلم بالنقل يتضمن إعادة تدريب نموذج موجود بمجموعة بيانات جديدة، فإن النموذج المُعاد تدريبه سيتألف من المعرفة المكتسبة من مجموعات بيانات متعددة. ومن المحتمل أن يُظهر أداءً أفضل على مجموعة أوسع من البيانات مقارنةً بنموذج الأساس الأول الذي تم تدريبه على نوع واحد فقط من مجموعة البيانات. وبالتالي يمكن أن يمنع التعلم بالنقل الإفراط في التخصيص.⁴

بطبيعة الحال، لا يمكن لنقل المعرفة من مجال إلى آخر أن يعوض الأثر السلبي للبيانات الرديئة. ولا تزال تقنيات المعالجة المسبقة وهندسة الميزات، مثل زيادة البيانات واستخراج الميزات، ضرورية عند استخدام التعلم التحويلي.

المشكلة لا تكمن كثيرًا في وجود عيوب جوهرية في نقل التعلم، بقدر ما تكمن في العواقب السلبية المحتملة الناتجة عن سوء تطبيقه. يعمل نقل التعلم بشكل أفضل عند استيفاء ثلاثة شروط:

• أن تكون كلتا مهمتَي التعلم متشابهتين
  
  
• ألا تختلف توزيعات البيانات في مجموعتَي البيانات الأصلية والمستهدفة بشكل كبير
  
  
• أن يكون من الممكن تطبيق نموذج مشابه على كلتا المهمتين

عند عدم تحقيق هذه الشروط، يمكن أن يؤثر نقل التعلم سلبًا في أداء النموذج. وفي سياق نقل التعلم، يُستخدَم مصطلح النقل السلبي للإشارة إلى هذه الظاهرة. البحث المستمر يشير إلى مجموعة من الاختبارات لمعرفة ما إذا كانت المجموعات والمهام تتوافق مع الشروط أعلاه، وبالتالي لن تؤدي إلى نقل سلبي.⁵ ويُعَد النقل البعيد أحد أنواع الحلول المطورة لتصحيح النقل السلبي الناتج عن اختلاف كبير في توزيعات البيانات بين مجموعات بيانات المصدر والمستهدفة.⁶

لاحظ أنه لا يوجد معيار موحَّد أو شائع لتحديد مدى التشابه بين المهام في نقل التعلم. بعض الدراسات تقترح طرق مختلفة لتقييم التنبؤات حول التشابهات بين مجموعات البيانات ومهام التعلم الآلي لتحديد مدى جدوى نقل التعلم.⁷

هناك ثلاث ممارسات أو إعدادات فرعية متجاورة في نقل التعلم. واختلافات هذه الممارسات عن بعضها—وكذلك نقل التعلم على نطاق أوسع—ينتج إلى حد كبير عن التغييرات في العلاقة بين النطاق المصدر والنطاق المستهدف والمهام التي يتعين إكمالها.⁸

• النقل الاستقرائي. يُشير هذا إلى الحالة التي تختلف فيها المهمة المصدر عن المهمة المستهدفة، بغض النظر عن أي اختلاف أو تشابه بين النطاقات المصدر والنطاق المستهدف (أي مجموعات البيانات). يمكن أن يظهر هذا في نماذج رؤية الكمبيوتر عندما يتم استخدام هياكل مدرَّبة مسبقًا لاستخراج السمات من مجموعات بيانات كبيرة، ثم تُعتمد هذه الهياكل للتدريب الإضافي على مهمة معينة، مثل اكتشاف الكائنات. التعلم متعدد المهام، الذي يتكون من تعلُّم مهمتين مختلفتين في وقت واحد (مثل تصنيف الصور واكتشاف الكائنات) على نفس مجموعة البيانات، يمكن اعتباره شكلًا من أشكال النقل الاستقرائي.⁹
  
  
• التعلم غير الخاضع للإشراف. هذا النوع مشابه للنقل الاستقرائي، إذ تختلف المهمة المصدر عن المهمة المستهدفة. ولكن في النقل الاستقرائي، غالبًا ما يتم تصنيف البيانات المصدر و/أو البيانات المستهدفة. وفقًا لاسمه، فإن التعلم بالنقل غير الخاضع للإشراف هو تعلم غير خاضع للإشراف، ما يعني عدم وجود بيانات مصنفة يدويًا.¹⁰ وبالمقارنة، يمكن اعتبار النقل الاستقرائي تعلمًا خاضعًا للإشراف. ويُعَد الكشف عن الغش من التطبيقات الشائعة للتعلم غير الخاضع للإشراف. فمن خلال تحديد الأنماط الشائعة عبر مجموعة بيانات غير مصنَّفة للمعاملات، يمكن للنموذج أن يتعلم المزيد لتحديد السلوكيات غير الطبيعية باعتبارها عملية احتيال محتملة.
  
  
• النقل الانتقالي. يحدث هذا عندما تتطابق المهمة المصدر والمهمة المستهدفة، ولكن تختلف مجموعات البيانات (أو النطاقات). وبشكل أكثر تحديدًا، عادةً تكون البيانات المصدر مصنَّفة بينما تكون البيانات المستهدفة غير مصنَّفة. التكييف النطاقي هو نوع من أنواع التعلم الانتقالي حيث يتم تطبيق المعرفة المحصَّلة من أداء مهمة على توزيع بيانات واحد نحو نفس المهمة على توزيع بيانات آخر.¹¹ ومثالًا على نقل التعلم الانتقالي هو تطبيق نموذج تصنيف نصوص تم تدريبه واختباره على تقييمات المطاعم لتصنيف تقييمات الأفلام.

يختلف نقل التعلم عن الضبط الدقيق. كلاهما، بلا جدال، يعيد استخدام نماذج التعلم الآلي الموجودة مسبقًا بدلًا من تدريب نماذج جديدة. لكن أوجه التشابه بينهما تكاد تكون مقتصرة على هذا فقط. يشير الضبط الدقيق إلى عملية التدريب الإضافي لنموذج على مجموعة بيانات خاصة بالمهمة لتحسين الأداء في المهمة الأولية المحددة التي تم إنشاء النموذج من أجلها. على سبيل المثال، يمكن إنشاء نموذج كشف كائنات عام باستخدام مجموعات صور ضخمة مثل COCO أو ImageNet، ثم يتم تدريب النموذج الناتج لاحقًا على مجموعة بيانات أصغر ومصنَّفة مخصصة للكشف عن السيارات. وبهذه الطريقة، يقوم المستخدم بضبط دقيق لنموذج الكشف عن الكائنات للكشف عن السيارات. وفي المقابل، يشير نقل التعلم إلى قيام المستخدمين بتكييف نموذج لمشكلة جديدة ذات صلة بدلًا من المشكلة نفسها.

هناك العديد من تطبيقات التعلم بالنقل في إعدادات التعلم الآلي والذكاء الاصطناعي في العالم الحقيقي. يمكن للمطورين وعلماء البيانات استخدام التعلم بالنقل للمساعدة على تنفيذ مجموعة متنوعة من المهام، ودمجه مع أساليب تعلُّم أخرى، مثل التعلم المعزز.