يتميز نظام الدعم متعدد المستويات في المؤسسة بقدرته على استخدام مساعد محادثة مدعوم بنموذج لغوي كبير أو روبوت محادثة بجانب الوكلاء البشريين، مما يوفر مساعدة فعالة وشاملة للمستخدمين النهائيين.
- التوليد المعزَّز بالاسترجاع (RAG)
- المحادثة بمساعدة وكيل برمجي
- البحث التوليدي
- الذكاء الاصطناعي الوكيل
- تلخيص الوثائق
- تحديث وتوليد التعليمات البرمجية
- توليد تعليمات برمجية لـ Ansible
- توليد تعليمات برمجية لـ Z
- تطوير البرامج المعزَّزة بالذكاء الاصطناعي باستخدام الوكيل البرمجي
يعرض المخطط أعلاه بنية المحادثة مع مساعد الوكيل. وفيما يلي الخطوات الرئيسية في تدفق البنية:
تُدمج المستندات المؤسسية مثل أدلة المنتجات ومستندات الأسئلة الشائعة ومواد العروض والنشرات وطلبات الدعم المحلولة وغيرها في مثيل من IBM watsonx Discovery وتُجهز للبحث الدلالي.
يرسل المستخدمون الطلبات أو المشكلات أو الاستفسارات من خلال واجهة على موقع المؤسسة الإلكتروني، أو عبر التطبيق المخصص، أو غيرها من المنصات. يسهل IBM watsonx Assistant هذا التفاعل، حيث يعمل كواجهة أساسية للتفاعلات القائمة على الدردشة.
بالنسبة إلى الطلبات التي تتطلب استرجاع البيانات من مستندات المؤسسة أو قاعدة معارفها، يُطلب من IBM watsonx Discovery البحث عن فقرات المعلومات الأكثر صلة بطلب المستخدم واسترجاعها.
ثم يرسل watsonx Assistant طلب المستخدم والمعلومات ذات الصلة المستردة من watsonx Discovery إلى نموذج لغوي كبير (LLM) مستضاف على watsonx.ai.
يجمع النموذج اللغوي الكبير طلب المستخدم والمعلومات المقدمة مع المعرفة المضمنة في النموذج اللغوي الكبير ويولد استجابة شبيهة بالاستجابة البشرية تُرسَل مجددًا إلى watsonx.ai وتُقدَّم، بعد التنسيق والمعالجة مرة أخرى، للمستخدم.
إذا لم يكن المستخدم راضيًا عن الرد المولد (على سبيل المثال، إذا كان طلبه دقيقًا أو معقدًا أو يتطلب معرفة محددة)، فله أن يطلب من watsonx Assistant تصعيد المكالمة إلى وكيل بشري. وبالمثل، قد تُصعَّد التفاعلات تلقائيًا إذا تبين أن استجابة النموذج اللغوي الكبير منخفضة الثقة، أو ربما تكون مسيئة. كما يمكن للمستخدمين اختيار التفاعل مع ممثل بشري في أي وقت. ويحول watsonx Assistant التفاعل بسلاسة إلى وكيل بشري عبر نظام إدارة مركز الاتصال الخاص بالمؤسسة.
يتوفر وكيل بشري، له صلاحية الوصول الكامل إلى سجل دردشة watsonx Assistant، لمساعدة المستخدم على معالجة طلباته أو مشكلاته أو استفساراته.
بعد الحل، يمكن للنظام، من خلال watsonx Assistant، طلب تقييم المستخدم. تساعد هذه التقييمات على تحسين التفاعلات المستقبلية من خلال تحليل الاستعلامات التي غالبًا ما يتم تجاهلها أو تصعيدها، وتمكين المؤسسة من ضبط النموذج اللغوي الكبير المستضاف على watsonx.ai و/أو تعديل معايير البحث في watsonx Discovery لتحسين الأداء.
يظهر المخطط أدناه ربط مجموعة منتجات IBM watsonx بالبنية المفاهيمية. يوفر watsonx Assistant الإمكانات التفاعلية الخاصة بعنصر المساعد الافتراضي، بينما يوفر watsonx Discovery، وهو ميزة إضافية في watsonx Assistant، إمكانات استيعاب المستندات والبحث الدلالي. تُستخدم بيئة تطوير نماذج watsonx.ai واستضافتها لاختيار النموذج اللغوي الكبير وضبطه واختباره ونشره.
بعض العملاء لا يتوفر لديهم watsonx.ai في منطقتهم المحلية، أو قد تكون لديهم مخاوف أمنية أو متطلبات تنظيمية تمنعهم من استخدام حل البرمجيات كخدمةwatsonx.ai . ولهؤلاء العملاء، نقدم watsonx.ai كمجموعة من الخدمات المعبأة في حاويات والتي يمكن نشرها على Red Hat Openshift التي تعمل داخل مراكز بيانات العملاء، أو ضمن سحابة خاصة افتراضية (VPC) على بنية مزود الخدمة السحابية، أو في أي موقع آخر.
قرارات واعتبارات تخص البنية
اختيار نموذج التوليد
هناك العديد من العوامل التي تؤخذ في الاعتبار عند اختيار النماذج التي ستعمل بشكل جيد لمشروعك.
قد يقيد ترخيص النموذج كيفية استخدامه. فعلى سبيل المثال، قد يمنع ترخيص النموذج من استخدامه كجزء من تطبيق تجاري.
تؤثر مجموعة البيانات المُستخدمة لتدريب النموذج تأثيرًا مباشرًا على مدى جودة عمل النموذج في تطبيق معين، كما تؤثر بشكل كبير على مخاطر توليد النموذج لاستجابات غير منطقية أو مسيئة أو ببساطة غير مرغوب فيها. وبالمثل، فإن النماذج المدرَّبة على بيانات خاصة أو محمية بحقوق النشر قد تعرض مستخدميها للمساءلة القانونية. لذا حرصت IBM على توفير الشفافية الكاملة لبيانات التدريب والتعويض عن المطالبات القانونية الناشئة عن نماذجها.
يؤثر حجم النموذج، وعدد المعلمات التي يتم تدريبه عليها، والفترة التي يستغرقها السياق (كم من الوقت يمكن للنموذج أن يقبله من النص) على أداء النموذج ومتطلبات الموارد والإنتاجية. ورغم أنه من المغري اتباع فلسفة "الأكبر حجمًا هو الأفضل" واختيار نموذج مكون من 20 مليار معلمة، فإن متطلبات الموارد والتحسين في الدقة (إن وجدت) قد لا تبرر ذلك. وبالفعل أظهرت بعض الدراسات الحديثة أن النماذج الأصغر حجمًا تتفوق بشكل كبير على النماذج الأكبر حجمًا بالنسبة لبعض الحلول.
يمكن لأي ضبط دقيق يتم تطبيقه على نموذج ما أن يؤثر على ملاءمته لمهمة ما. على سبيل المثال، تقدم شركة IBM نسختين من نموذج Granite: إحداهما نسخة مضبوطة لتطبيقات الدردشة العامة، والنسخة الأخرى مضبوطة لاتباع التعليمات.
تشمل الاعتبارات الأخرى عند اختيار النموذج ما يلي:
اختيار معلمات النموذج، على سبيل المثال درجة حرارة النموذج التي تتحكم في التوازن بين توليد نصوص شبيهة بالنص البشري وتقديم استجابات واقعية. سيؤدي ضبط درجة حرارة النموذج على قيمة عالية إلى توليد استجابات متسقة ولكن من المحتمل أن تكون غير مثيرة للاهتمام أو موجزة للغاية، في حين أن ضبط درجة الحرارة على قيمة منخفضة يضيف تنوعًا أكبر في الاستجابات، ولكنه قد يؤدي أيضًا إلى عدم القدرة على التنبؤ في طول المحتوى ومضمونه.
اختيار ضوابط النماذج وتطبيقها لمنع النتائج غير الفعالة أو المسيئة.
يجب أيضًا أخذ لغة بيانات العميل وتوجيهات المستخدم في الحسبان. تتدرب غالبية النماذج اللغوية الكبرى على نصوص باللغة الإنجليزية ويمكنها في كثير من الأحيان الترجمة بين الإنجليزية ولغات أخرى بمستويات متفاوتة من الكفاءة. وقد تتطلب التطبيقات التي تتطلب دعمًا لغويًا متعدد اللغات أو مترجمًا استخدام نماذج متعددة مدربة على كل لغة من اللغات المدعومة، أو تنفيذ خطوة ترجمة لترجمة الإدخالات متعددة اللغات إلى الإنجليزية أو إلى أي لغة "أساسية" أخرى.