التعلم الوصفي، المعروف أيضا باسم "التعلم بهدف التعلم"، هو أحد فروع التعلم الآلي. يهدف هذا النوع من التعلّم إلى تدريب نماذج الذكاء الاصطناعي على فهم المهام الجديدة والتكيف معها بشكل ذاتي. الهدف الأساسي للتعلم الوصفي هو تزويد الآلات بالمهارة اللازمة لتعلم كيفية التعلم.
على عكس التعلم التقليدي الخاضع للإشراف، حيث يتم تدريب النماذج على حل مهمة محددة باستخدام مجموعة بيانات تدريب محددة، تستلزم عملية التعلم الوصفي مجموعة متنوعة من المهام، لكل منها مجموعة بيانات مرتبطة بها. من خلال أحداث التعلم المتعددة هذه، تكتسب النماذج القدرة على التعميم عبر المهام المختلفة، مما يسمح لها بالتكيف بسرعة مع السيناريوهات الجديدة حتى مع توفر بيانات محدودة.
تُدرَّب خوارزميات التعلم الوصفي على التنبؤات والبيانات الوصفية لخوارزميات التعلم الآلي الأخرى. تنتج خوارزميات التعلم الوصفي تنبؤات خاصة بها وتولّد معلومات يمكن استخدامها لتحسين أداء ونتائج خوارزميات التعلم الآلي الأخرى.
يتضمن التعلم الوصفي مرحلتين رئيسيتين: التدريب الوصفي والاختبار الوصفي. في كلتا المرحلتين، يقوم نموذج المتعلم الأساسي بضبط وتحديث معلماته أثناء تعلمه. تنقسم مجموعة البيانات المستخدمة إلى مجموعة دعم للتدريب الوصفي ومجموعة اختبار للاختبار الوصفي.
في مرحلة التدريب الوصفي، يتم تزويد نموذج المتعلم الأساسي بمجموعة واسعة من المهام. هدف النموذج هو الكشف عن الأنماط المشتركة بين هذه المهام واكتساب معرفة واسعة يمكن تطبيقها في حل المهام الجديدة.
خلال مرحلة الاختبار الوصفي، يتم تقييم أداء نموذج المتعلم الأساسي من خلال إعطائه مهام لم يواجهها عند تدريبه. تقاس فعالية النموذج بمدى جودة وسرعة تكيفه مع هذه المهام الجديدة باستخدام معرفته المكتسبة وفهمه العام.
ثمة ثلاثة نُهُج نموذجية للتعلم التلوي. إليك كيفية عمل كل نهج وأنواعه المختلفة:
يتمحور التعلم الوصفي القائم على القياس حول تعلم وظيفة تحسب مقياس المسافة، وهو مقياس للتشابه بين نقطتي بيانات. يشبه هذا النهج خوارزمية الجار الأقرب (KNN) (k-nearest neighbors)، التي تعتمد على القرب لإجراء التصنيفات أو التنبؤات.
تتكون الشبكة العصبية السيامية الالتفافية من شبكتين عصبيين التفافيتين متطابقتين تشتركان في المعلمات والأوزان. يتم تحديث المعلمات بالتزامن عبر الشبكتين. ويتم ربط كلتا الشبكتين بدالة فقدان تحسب مقياس المسافة (عادةً ما يكون التشابه الثنائي "pairwise similarity").1
تتكون مجموعة بيانات التدريب من أزواج من العينات المطابقة وغير المطابقة. ثم تتعلم الشبكات العصبية السيامية الالتفافية بعد ذلك حساب التشابه بين الأزواج، وتعظيم المسافة الإقليدية بين الأزواج غير المتطابقة أو المتشابهة وتقليل المسافة بين الأزواج المتطابقة أو المتشابهة.1
تتعلم الشبكات المتطابقة التنبؤ بالتصنيف من خلال قياس مقياس مسافة يُعرف باسم تشابه جيب التمام بين عينتين.2
شبكة علاقات تتعلم مقياس مسافة غير خطية عميقة لمقارنة العناصر. تصنف الشبكة العناصر من خلال حساب درجات العلاقة التي تمثل التشابه بين العناصر.3
تحسب الشبكات النموذجية متوسط جميع عينات الفئة لإنشاء نموذج أولي لتلك الفئة. ثم تتعلم الشبكة مساحة مترية، حيث تتم مهام التصنيف عن طريق حساب المسافة الإقليدية التربيعية بين نقطة بيانات معينة والتمثيل النموذجي للفئة.4 .
يتضمن التعلم الوصفي القائم على النموذج تعلم معلمات النموذج، والتي يمكن أن تسهل التعلم السريع من البيانات المتفرقة.
تم تجهيز الشبكة العصبية المعززة بالذاكرة (MANN) بوحدة ذاكرة خارجية للسماح بالتخزين المستقر والترميز السريع للمعلومات واسترجاعها.5
في التعلم الوصفي، يمكن تدريب الشبكات العصبية المعززة بالذاكرة (MANN) على تعلم تقنية عامة لأنواع التمثيلات لإجراء التخزين في الذاكرة الخارجية وطريقة لاستخدام هذه التمثيلات لعمل تنبؤات، فقد ثبت أن شبكات MANN تعمل بشكل جيد في مهام الانحدار والتصنيف.5
MetaNet (اختصار Meta Networks "الشبكات الوصفية") هو نموذج تعلم وصفي يمكن تطبيقه في التعلم بالتقليد و التعلم المعزز. مثل الشبكات المدعومة بالذاكرة (MANNs)، تمتلك الشبكات الوصفية أيضًا ذاكرة خارجية.6
يتكون MetaNet من متعلم أساسي ومتعلم وصفي يعملان في مستويات مساحة منفصلة. يكتسب المتعلم الوصفي المعرفة العامة عبر المهام المختلفة داخل مساحة وصفية. يأخذ المتعلم الأساسي مهمة إدخال ويرسل معلومات وصفية حول مساحة المهمة الحالية إلى المتعلم الوصفي. واستنادًا إلى هذه المعلومات، يقوم المتعلم الفوقي بإجراء عملية تحديد سريع للبارامترات لتحديث الأوزان داخل كلا الفضاءين.6
يتطلب التعلم العميق عادة تحديثات تكرارية متعددة لمعلمات النموذج من خلال الانتشار العكسي (Backpropagation) وخوارزمية تحسين النزول المتدرج (Gradient Descent). أما في التعلم الوصفي القائم على التحسين، يطلق عليه أحيانا التعلم الوصفي القائم على التدرج، تتعلم الخوارزمية كيفية ضبط معلمات النموذج الأولي أو المعلمات الفائقة للشبكات العصبية العميقة بكفاءة للمهام ذات الصلة. هذا يعني عادة التحسين الوصفي—أي تحسين خوارزمية التحسين نفسها.
تستخدم طريقة التعلم الوصفي القائم على التحسي بِنْية شبكة عصبية متكررة شائعة تسمى شبكات الذاكرة طويلة الأمد وقصيرة الأمد (LSTM) لتدريب المتعلم الوصفي على اكتساب معرفة طويلة الأمد تشترك بين المهام المختلفة إلى جانب معرفة قصيرة الأمد خاصة بكل مهمة. يحسِّن المتعلم الوصفي بعد ذلك مصنِّف شبكة عصبية خاصة بمتعلم آخر. ويتعلم تهيئة معلمات المتعلم للتقارب السريع في التدريب وكيفية تحديث تلك المعلمات بكفاءة باستخدام مجموعة تدريب صغيرة، ما يساعد المتعلم على التكيف مع المهام الجديدة بسرعة.7
كما يوحي اسمها، فإن خوارزمية التعلم الوصفي القائمة على التحسين هذه لا تعتمد على النماذج. وهذا يجعلها متوافقة مع أي نموذج مدرّب باستخدام نزول التدرج ومناسبة لحل مشاكل التعلم المختلفة، مثل التصنيف والانحدار والتعلم المعزز.8
تتمثل الفكرة الأساسية وراء MAML في تدريب المعلمات الأولية للنموذج بطريقة تؤدي فيها بعض تحديثات التدرج إلى تعلم سريع على مهمة جديدة. الهدف هو تحديد معلمات النموذج الحساسة للتغييرات في المهمة بحيث تؤدي التغييرات الطفيفة في تلك المعلمات إلى تحسينات كبيرة في دالة خسارة المهمة. يتم إجراء التحسين الوصفي عبر المهام باستخدام النزول الاشتقاقي العشوائي (SGD).8
على عكس النزول الاشتقاقي، الذي يحسب المشتقات لتحسين معلمات النموذج لمهمة معينة، يحسب MAML المشتقات الثانية لتحسين المعلمات الأولية للنموذج لتحسين المهام المحددة. وهناك نسخة معدلة من التعلم الوصفي الحيادي للنموذج، والمعروفة باسم MAML من الدرجة الأولى أو FOMAML، تحذف المشتقات الثانية من أجل عملية أقل تكلفة من الناحية الحسابية.8
Reptile هي خوارزمية تعلُّم وصفي قائم على التدرج من الدرجة الأولى تشبه خوارزمية FOMAML. تقوم بشكل متكرر بأخذ عينات من مهمة، وتتدرب على هذه المهمة من خلال العديد من خطوات النزول الاشتقاقي وتنقل وزن النموذج نحو المعلمات الجديدة.9
لتوضيح مدى تعدد استخدامات التعلّم الوصفي، إليك بعض الطرق التي يمكن من خلالها استخدام التعلّم الوصفي في مجال التعلّم الآلي نفسه:
يوفر التعلم الآلي المؤتمت (AutoML) أتمتة للمهام ضمن مسار التعلم الآلي. تعد تقنيات التعلم الوصفي أدوات مثالية للتعلم الآلي المؤتمت، خاصةً في تحسين المعلمات الفائقة واختيار النموذج المناسب.
عادةً ما يتم ضبط المعلمات الفائقة لنماذج التعلم الآلي يدويًا. يمكن أن تساعد خوارزميات التعلم الوصفي في أتمتة هذا الإجراء من خلال تعلم كيفية تحسين المعلمات الفائقة أو تحديد المعلمات الفائقة المثالية لمهمة معينة.
يمكن أن تتعلم خوارزميات التعلم الوصفي أيضا كيفية اختيار النموذج الأنسب—وحتى معلمات هذا النموذج وبنيته—لحل مهمة محددة. يساعد هذا في أتمتة عملية اختيار النموذج.
التعلّم بعدد محدود من العينات هو إطار عمل للتعلم الآلي يقوم بتدريب نموذج الذكاء الاصطناعي على عدد محدود جدًا من الأمثلة. تعتمد معظم أساليب هذا النوع من التعلّم على التعلم الوصفي، حيث تتكيف النماذج مع المهام الجديدة باستخدام بيانات تدريب محدودة.
تعتمد محركات التوصيات على خوارزميات التعلم الآلي لاكتشاف أنماط في بيانات سلوك المستخدم وتقديم اقتراحات مخصصة بناءً على تلك الأنماط. يمكن لأنظمة التعلّم الوصفي تعلم نماذج التوصيات لتقديم اقتراحات أكثر دقة وأكثر صلة بالموضوع، مما يعزز تجربة المستخدم.
يمكن أن يساعد التعلم الوصفي في تسهيل نقل التعلم، والذي يعمل على تكييف نموذج تم تدريبه مسبقًا لتعلم مهام جديدة أو فئات بيانات لم يسبق رؤيتها.
يمكن تطبيق التعلم الوصفي على مجالات مختلفة من صناعة التكنولوجيا ، وبعضها يشمل:
يمكن استخدام التعلم الوصفي في مهام رؤية الكمبيوتر ، التي تشمل التعرف على الوجه، وتصنيف الصور، وتقسيم الصور واكتشاف الكائنات وتتبعها.
يمكن استخدام التعلم الوصفي في مهام معالجة اللغة الطبيعية ، مثل النمذجة اللغوية وتصنيف المشاعر والتعرف على الكلام وتصنيف النصوص.10
يمكن أن يساعد التعلم الوصفي الروبوتات على تعلم المهام الجديدة بسرعة والتكيف مع البيئات الديناميكية. يمكن تطبيقها في عدد من المهام مثل الاستيعاب والملاحة والتلاعب والحركة.11
التعلم الفوقية يحمل الكثير من الإمكانات. إليك بعض مزاياها:
يمكن استخدام التعلم الوصفي لبناء نماذج ذكاء اصطناعي أكثر شمولية يمكنها تعلم القيام بالعديد من المهام ذات الصلة. وبفضل هذه المرونة، يمكن لأنظمة التعلم الوصفية التكيف بسرعة مع المهام الجديدة والمجالات المختلفة.
يدعم التعلم الوصفي التعلم من عدد قليل من العينات، مما قد يلغي الحاجة إلى أحجام مجموعات بيانات ضخمة. يمكن أن يكون هذا مفيدًا بشكل خاص للمجالات التي قد يكون فيها جمع البيانات وإعدادها يتطلب عمالة مكثفة ويستغرق وقتًا طويلاً.
نظرًا إلى كفاءة البيانات والتعلم السريع، يمكن أن يؤدي التعلم التلوي إلى عملية تدريب أسرع وخفض تكاليف التدريب.
على الرغم من الوعود التي يحملها التعلّم الوصفي، إلا أنه يطرح تحديات أيضاً. وهنا بعض منهم:
في بعض الأحيان، تكون كمية البيانات اللازمة لتدريب نماذج الذكاء الاصطناعي غير كافية، خاصةً في المجالات المتخصصة. أو، إذا كانت البيانات متاحة، فقد لا تكون الجودة كافية لتدريب خوارزميات التعلّم الوصفي بكفاءة.
يمكن أن يؤدي عدم وجود تنوع كافٍ بين المهام في مجموعة الدعم للتدريب الوصفي إلى الإفراط في التخصيص (Overfitting). وهذا يعني أن خوارزمية التعلم الوصفي قد تكون قابلة للتطبيق فقط على مهام محددة، دون أن تكون قادرة على التعميم بفعالية عبر مجموعة واسعة من المهام.
وعلى العكس من ذلك، يمكن أن يؤدي وجود تباين كبير بين المهام في مجموعة دعم التدريب الوصفي إلى وقوع نقص في التخصيص. وهذا يعني أن خوارزمية التعلم الوصفي قد لا تكون قادرة على استغلال معرفتها في حل مهمة أخرى وقد تواجه صعوبة في التكيف مع السيناريوهات الجديدة. لذلك، فإن التوازن في تباين المهام أمر أساسي.
1 "SigNet: Convolutional Siamese Network for Writer Independent Offline Signature Verification", arXiv, 30 September 2017.
2 "Matching Networks for One Shot Learning", arXiv, 29 December 2017.
3 "Learning to Compare: Relation Network for Few-Shot Learning", arXiv, 27 March 2018.
4 "Prototypical Networks for Few-shot Learning", arXiv, 19 June 2017.
5 "Meta-Learning with Memory-Augmented Neural Networks", Proceedings of the 33rd International Conference on Machine Learning, 19 June 2016.
6 "Meta Networks", arXiv, 8 June 2017.
7 "Optimization as a Model for Few-Shot Learning", OpenReview, 22 July 2022.
8 "Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks", arXiv, 18 July 2017.
9 "On First-Order Meta-Learning Algorithms", arXiv, 22 October 2018.
10 "Meta Learning for Natural Language Processing: A Survey", arXiv, 2 July 2022.
11 "Rapidly Adaptable Legged Robots via Evolutionary Meta-Learning", arXiv, 30 July 2020.