ما InstructLab؟

تم تطوير InstructLab بواسطة IBM Research وRedHat، وهي مشروع مفتوح المصدر، ما يعني أنها تعتمد على مجتمع عالمي من المطورين (يُعرَف باسم مجتمع InstructLab) لبنائها وصيانتها.

تم إنشاء مشروع InstructLab لمعالجة المشكلات التي تعوق تطوير النماذج اللغوية الكبيرة (LLMs)، وأبرزها تكلفة التدريب والتعقيدات المرتبطة به وجمع البيانات وصعوبة المساهمة بالمهارات والمعرفة.

وفقًا لمجلة Forbes، نجحت InstructLab في تحسين أداء النماذج اللغوية الكبيرة وحل العديد من تحديات التوسع في التدريب التقليدي للنماذج اللغوية الكبيرة، ما أدى إلى القضاء على حاجة المؤسسات إلى بناء وصيانة العديد منها. يُعَد هذا ممكنًا إلى حد كبير بفضل طريقة تدريب النماذج اللغوية الكبيرة المعروفة باسم "المحاذاة واسعة النطاق لروبوتات المحادثة"، أو LAB، والتي طورتها شركة IBM.

تعتمد أقوى روبوتات المحادثة اليوم، مثل Siri وAlexa وChatGPT، جميعها على النماذج اللغوية الكبيرة المدرَّبة مسبقًا، ما يسمح لها بتعلم المهام بسرعة أثناء عملية محاذاة الذكاء الاصطناعي. لكن الوصول بالذكاء الاصطناعي إلى هذا المستوى قد يكون مكلفًا ويستغرق وقتًا طويلًا، وغالبًا ما تفتقر النماذج التي تظهر إلى العمق اللازم للتغلب على المواقف المعقدة والدقيقة التي تُشبه المواقف البشرية. وفقًا لمعهد IBM Institute of Business Value، توقَّع المديرون التنفيذيون أن ترتفع التكلفة المتوسطة للحوسبة بنسبة 90% تقريبًا بسبب متطلبات بناء النماذج اللغوية الكبيرة لتطبيقات الذكاء الاصطناعي التوليدي.

المحاذاة واسعة النطاق لروبوتات المحادثة (LAB) هي طريقة لتوليد البيانات اصطناعيًا لأداء مهام محددة تحتاج المؤسسة أن تؤديها روبوتات المحادثة. وعلى عكس أساليب التدريب التقليدية، فإنها تمكِّن روبوتات المحادثة من استيعاب المعلومات الجديدة بسرعة وتعلُّم مهارات جديدة دون الكتابة فوق الأشياء التي تعلمتها بالفعل.  

يختلف نهج InstructLab في تطوير وصيانة النموذج اللغوي الكبير عن النماذج الأخرى في أنه يضع العملية بثبات في أيدي مجتمع عالمي من المطورين، وهي العملية المعروفة باسم الذكاء الاصطناعي مفتوح المصدر. تمامًا كما تُتيح البرمجيات مفتوحة المصدر للمطورين المساهمة في تطوير التعليمات البرمجية والميزات، فإن الذكاء الاصطناعي مفتوح المصدر يسمح لهم بإضافة مهارات وقدرات جديدة والتكرار بسرعة على النماذج الموجودة.

يعتمد نهج InstructLab في بناء النماذج اللغوية الكبيرة على طريقة LAB، وهو نهج يختلف عن النهج الآخر في ثلاث طرق أساسية:

• تنظيم البيانات القائم على التصنيف

• توليد البيانات الاصطناعية على نطاق واسع

• ضبط المحاذاة على نطاق واسع

في تدريب النماذج اللغوية الكبيرة، التصنيف الهرمي هو هيكل هرمي يصنِّف المهارات ومجالات المعرفة الأساسية لتطبيق النموذج المقصود. على سبيل المثال، يختلف التصنيف الهرمي للنموذج اللغوي الكبير المطبَّق على سيارة ذاتية القيادة بشكل كبير عن التصنيف الهرمي للنموذج المستخدم في البحث الطبي، تمامًا كما يحتاج سائق السباق إلى تعلُّم مهارات مختلفة عن الطبيب.

تم تنظيم بيانات InstructLab بطريقة تسهِّل فهم المهارات وقاعدة المعرفة الموجودة في النموذج. كما أن بساطة هيكل InstructLab تجعل من السهل على المطورين تحديد الفجوات وملء المعرفة والمهارات عند الضرورة. يُتيح تنظيم البيانات القائم على التصنيف أيضًا استهداف النماذج خصيصًا لحالات الاستخدام الجديدة، مثل البحث أو تطبيق إنترنت الأشياء (IoT) المحدد، مع تزويدها بالمهارات المناسبة.

ولتحقيق هذه الغاية، يعتمد نهج InstructLab بشكل كبير على YAML (اختصار "YAML Ain’t No Markup Language" أو "Yet Another Markup Language") وهو تنسيق موحَّد لتمثيل البيانات بطريقة تجعل من السهل على البشر والآلات تفسيرها. يمهِّد نهج YAML الطريق للخطوة الرئيسية التالية في عملية InstructLab: توليد البيانات الاصطناعية على نطاق واسع.

بمجرد معالجة البيانات لنموذج محدد للتدريب عليه، يصبح النموذج نفسه جاهزًا لإنشاء بياناته الخاصة استنادًا إلى بيانات التدريب، وهي العملية المعروفة باسم توليد البيانات الاصطناعية. ما يميّز نهج InstructLab في هذه الخطوة في تدريب النماذج اللغوية الكبيرة هو النطاق الذي يتم به ذلك ودقة البيانات التي يمكن أن يولِّدها. بالاعتماد مرة أخرى على طريقة المحاذاة واسعة النطاق لروبوتات المحادثة (LAB)، يضيف نهج InstructLab خطوة آلية، ما يعمل على تحسين الإجابات التي تولِّدها النماذج اللغوية الكبيرة بشكل أكبر لضمان دقتها.

تعتمد البيانات الجديدة التي تم توليدها خلال هذه الخطوة، والتي تُعَد ضرورية لتدريب جميع النماذج اللغوية الكبيرة، وليس فقط تلك الخاصة بطريقة InstructLab، على ما يُعرَف باسم نموذج "المعلم"، وهو نموذج أكبر يُنشئ تصنيفات وبيانات لنموذج "الطالب" الأصغر والأكثر كفاءة للتعلم منه.

باستخدام طريقة LAB، لا تعتمد النماذج اللغوية الكبيرة الخاصة بـ InstructLab فعليًا على البيانات المخزَّنة في نموذج المعلم، بل على مطالبات محددة تزيد بشكل كبير من مجموعة البيانات مع ضمان بقاء الأمثلة التي يولِّدها نموذج "الطالب" متوافقة مع الغرض المقصود من النموذج.

بحسب IBM Research، فإن هذا النهج "يُنشئ بشكل منهجي بيانات اصطناعية للمهام التي تريد أن ينجزها روبوت المحادثة الخاص بك، ولاستيعاب المعرفة والقدرات الجديدة في نموذج الأساس، دون الكتابة فوق ما تعلمه النموذج بالفعل".

في الخطوة الأخيرة من عملية InstructLab/LAB، تتم إعادة تدريب النموذج اللغوي الكبير على البيانات الاصطناعية التي كان يتعلم منها، ما يؤدي إلى تحسين مهاراته وتحسين دقة إجاباته. تنقسم هذه الخطوة الأخيرة إلى مرحلتين:

• ضبط المعرفة: ضبط المعرفة هو تدريب يركِّز على تحسين المعرفة الأساسية للنموذج اللغوي الكبير حول المهارات الأساسية من خلال تقديم حقائق جديدة تتطلب استجابات قصيرة وطويلة وتقييم دقة تلك الاستجابات.

• ضبط المهارات: بعد الانتهاء من تدريب المعرفة، يخضع النموذج لضبط المهارات كجزء من إعداده النهائي قبل نشره. في أثناء ضبط المهارات، يتدرب النموذج على عيّنات البيانات المتعلقة بالمهارات المحددة المطلوبة منه (اعتمادًا على الغرض المقصود منه). على سبيل المثال، خلال هذه المرحلة من التدريب، من المرجح أن يتدرب روبوت المحادثة الخاص بخدمة العملاء على الآلاف من الساعات من نصوص استفسارات العملاء.

عادةً ما تستخدم النماذج اللغوية الكبيرة المدرَّبة بالطرق التقليدية عملية تُعرَف باسم التوليد المعزز بالاسترجاع (RAG) لتعزيز معرفتها من خلال تدريب أكثر تركيزًا ومتخصصًا في المجال. يُعَد RAG أداة مفيدة للمؤسسات التي تحتاج إلى إضافة بيانات خاصة إلى نموذج أساسي قائم لغرض محدد، دون التنازل عن التحكم في بياناتها الخاصة.

يمكن استخدام طريقة InstructLab/LAB لنفس الغرض مثل عملية RAG التقليدية، ولكن بدلًا من إضافة المعرفة المحددة الموجودة، فإنها تركِّز بشكل أكبر على مساهمات المستخدم النهائي من مجتمعها لبناء المعرفة والمهارات ذات الصلة. يمكن للمؤسسات التي تسعى إلى ضبط النماذج اللغوية الكبيرة بدقة لتحقيق غرض محدد أن تستخدم كلًّا من RAG وInstructLab/LAB لتحقيق النتائج المثالية.

مع تزايد متطلبات تطبيقات الذكاء الاصطناعي، تصبح النماذج اللغوية الكبيرة الداعمة لها أكبر وأكثر تعقيدًا، ما يفرض بدوره متطلبات أكثر صرامة على البنية التحتية الأساسية للذكاء الاصطناعي. تعتمد InstructLab/LAB، مثل جميع أساليب تدريب النماذج المتقدمة الأخرى، على بنية تحتية كثيفة الاستخدام لوحدات GPU، قادرة على تلبية معايير الأداء اللازمة لإعادة تدريب نماذج الذكاء الاصطناعي باستمرار وفقًا للمساهمات من مجتمعها العالمي مفتوح المصدر على github.com/instructlab.

لحسن الحظ، تلتزم IBM بتوفير جميع متطلبات التخزين وإدارة البيانات وسير العمل والممارسات اللازمة لنجاح مشاريع النماذج اللغوية الكبيرة.

اليوم، تشكِّل النماذج اللغوية الكبيرة الأساس لأكثر حالات استخدام الذكاء الاصطناعي جذبًا للاهتمام، بدءًا من روبوتات المحادثة والذكاء الاصطناعي التوليدي ومساعدي البرمجة، ووصولًا إلى حوسبة الحافة وتطبيقات إنترنت الأشياء (IoT) وغيرها. يمكن أن تكون هذه النماذج ملكية خاصة، مثل OpenAI وClaude، أو نماذج تعتمد على مبادئ المصدر المفتوح فيما يتعلق ببيانات التدريب المسبق التي تستخدمها، مثل Mistral وLlama-2 ونماذج Granite من IBM.

تتميز InstructLab بقدرتها على مطابقة أداء النماذج الخاصة وحتى تجاوزها باستخدام النماذج المتاحة للجمهور. تعتمد IBM® watsonx، وهي منصة الذكاء الاصطناعي والبيانات المصممة لمساعدة الشركات على توسيع نطاق تأثير الذكاء الاصطناعي وتسريعه، عليها بشكل كبير. على سبيل المثال، تفوَّق Merlinite-7B، وهو نموذج تم تدريبه حديثًا بواسطة LAB، على العديد من النماذج الخاصة في مجالات رئيسية، وفقًا لدراسة بحثية من IBM® Research.

لتلبية متطلبات تطبيقات الذكاء الاصطناعي التوليدي المتقدمة، يعتمد المطورون غالبًا على نموذج لغوي كبير حالي حيث يعملون على تكييفه لتلبية احتياجات عمل محددة. على سبيل المثال، تخيَّل شركة تأمين تسعى إلى بناء تطبيق ذكاء اصطناعي لمساعدة الموظفين على استخلاص رؤى من بيانات العملاء الخاصة. اليوم، من المحتمل أن يقوموا بشراء نموذج لغوي كبير مخصص لروبوتات المحادثة وتعديله وفقًا لاحتياجاتهم. لكن هذا النهج له العديد من القيود المهمة:

• قد يكون ضبط نموذج لغوي كبير حالي بدقة لفهم مجال الخبرة الفريد الذي تحتاجه مؤسستك مكلِّفًا ويتطلب موارد كبيرة.

• يصبح من الصعب على النموذج التحسّن باستمرار بعد تعديله ليلائم مجموعة محددة من الاحتياجات، ما يعني أنه لا يمكنه التكرار أو التطور مع متطلبات المؤسسة.

• يتطلب تحسين النموذج اللغوي الكبير ليناسب غرضًا تجاريًا محددًا كمية كبيرة من البيانات التي يولِّدها البشر لتدريب النموذج عليها، وهو ما يُعَد مكلفًا ويستغرق وقتًا طويلًا للحصول عليها.

تستطيع طريقة InstructLab تدريب النماذج اللغوية الكبيرة باستخدام عدد أقل من المدخلات البشرية وموارد حوسبة أقل بكثير. يعتمد أساس طريقة التدريب في معظم النماذج اللغوية الكبيرة الحديثة، وخاصةً تلك التي تدعم روبوتات المحادثة القوية، على التدريب المسبق المكثف على مجموعات بيانات كبيرة من النصوص غير المنظمة. بينما يُتيح هذا الأسلوب التدريبي للنماذج اللغوية الكبيرة اكتساب مهارات جديدة بسرعة نسبية في مرحلة المحاذاة، إلا إنه مكلِّف ويتطلب مساهمة بشرية كبيرة.

يستخدم نهج LAB، الذي طوَّرته IBM Research، توليد بيانات اصطناعية قائمة على التصنيف لتقليل التكاليف والحاجة إلى المدخلات البشرية. وبالاقتران مع نهج InstructLab مفتوح المصدر والقائم على مجتمع المطورين، يساهم هذا الأسلوب بشكل فعَّال في إتاحة إمكانية تطوير النماذج اللغوية الكبيرة اللازمة لتطبيقات الذكاء الاصطناعي التوليدي للجميع.

تم تصميم واجهة سطر الأوامر (CLI) الخاصة بطريقة InstructLab، وهي مجموعات التعليمات التي يستخدمها المطورون لإدارتها، لتعمل حتى على أجهزة شائعة الاستخدام مثل أجهزة الكمبيوتر المحمول الشخصية، ويتم تشجيع المطورين على المساهمة بالمعرفة أو المهارات الجديدة عبر مجتمع الذكاء الاصطناعي Hugging Face.

تتبنّى InstructLab نهجًا مفتوح المصدر قائمًا على المجتمع لضبط النماذج اللغوية الكبيرة لتناسب مجموعة واسعة من حالات الاستخدام. وفيما يلي بعض من أكثرها شيوعًا.