يمكنك توجيه تقنيات الذكاء الاصطناعي الخاصة بك وإدارتها ومراقبتها باستخدام مجموعة أدوات واحدة لتسريع تطوير ذكاء اصطناعي مسؤول وشفاف وقابل للتفسير
يمتلك الذكاء الاصطناعي التوليدي القدرة على تعزيز الإنتاجية وإطلاق العنان لقيمة اقتصادية تقدر بتريليونات الدولارات. ومع ذلك، تأتي هذه النماذج بتعقيدات ومخاطر جديدة. بصرف النظر عما إذا كنت تستخدم نماذج الذكاء الاصطناعي التوليدي أو نماذج التعلم الآلي التقليدية، فإن كل نموذج يحتاج إلى حوكمة.
توفِّر مجموعة أدوات IBM watsonx.governance لحوكمة الذكاء الاصطناعي للمستخدمين حرية اختيار النماذج ومرونة في الاستخدام. يمكن لمجموعة الأدوات هذه المساعدة على ما يلي:
لحوكمة الذكاء الاصطناعي التوليدي للمؤسسات بفعالية، من الضروري مراقبة المخاطر المتزايدة حديثًا الناشئة عن النماذج والمستخدمين ومجموعات البيانات واللوائح والتخفيف من حدتها. يقدم Watsonx.governance ثلاث قدرات رئيسية لتحقيق ذلك.
يستخدم Watsonx.governance صحائف الحقائق لتسجيل ومراقبة حقائق النماذج تلقائيًا. نشير إليها في IBM على أنها "ملصقات تغذوية" للنماذج لأنها تحتوي على مستودع لجميع معلومات النماذج ذات الصلة. تيسر هذه الوثائق مسألة الحصول على رؤية شاملة للأداء والتعامل مع المخاطر على مدار دورة حياة النموذج، وتعمل كسجل لأنشطة التطوير ومقاييس الأداء. يمكن للمستخدمين تنزيل صحائف الحقائق أو إرسالها كمرفقات إلى الأطراف المعنية أو لدعم عمليات التدقيق.
تتوفر مقاييس التقييم لمجموعة من حالات الاستخدام، من ضمنها تلخيص النصوص وتصنيفها، وترجمة اللغات، وإنشاء المحتوى، والتوليد المعزّز بالاسترداد (RAG)، والأسئلة والأجوبة. يمكن التحقق من أداء التوجيهات طوال دورة حياة الذكاء الاصطناعي لضمان الأداء الدقيق ومنع توليد محتوى ضار أو غير ملائم. تُستَخدَم صحائف الحقائق لتوثيق هذه المقاييس التقييمية.
تتم مراقبة مقاييس الأداء لتجنب المشاكل المتعلقة بالانحراف والجودة والأمان. تراقب الحدود الموضوعة سلفًا كلًا من المدخلات والمخرجات لنموذج الذكاء الاصطناعي التوليدي، وتقدم تنبيهات عند اكتشاف لغة سامة أو خطاب كراهية أو لغة مسيئة أو ألفاظ نابية في مدخلات ومخرجات النموذج. يراقب Watsonx.governance حجم البيانات، وزمن الانتقال، والتغيرات في الإنتاجية.