أسس الذكاء الاصطناعي الجدير بالثقة: تفعيل الذكاء الاصطناعي الجدير بالثقة

تركيز الصناعة على الذكاء الاصطناعي الجدير بالثقة مدفوع بعدة عوامل — موقف المسؤولية الاجتماعية للشركات، والمخاوف المتعلقة بمخاطر السمعة، ومجموعة متزايدة من اللوائح. تدرك المؤسسات أنها بحاجة إلى نهج منهجي لضمان إمكانية الوثوق بالذكاء الاصطناعي وتعلم الآلة وتشغيلهما. تشمل جوانب الذكاء الاصطناعي الجدير بالثقة العدالة، والمتانة، والخصوصية، وقابلية التفسير، والشفافية. تشمل أنماط حالات الاستخدام إجراء فحوصات السلامة للتطبيقات الموجودة وإنشاء إطار العمل على مستوى المؤسسة لحوكمة الذكاء الاصطناعي، ولكننا اليوم سنركز على تفعيل التطبيقات الجديدة.

تحتاج المؤسسات إلى نهج منهجي لبناء وتفعيل تطبيقات الذكاء الاصطناعي الجديدة بطريقة موثوقة. يجب أن يأخذ هذا النهج في الاعتبار علم البيانات من البداية إلى النهاية ودورة حياة الذكاء الاصطناعي. تتكون دورة حياة الذكاء الاصطناعي من سلسلة من المراحل التي تجمع بين شخصيات متعددة وأفضل الممارسات. (انظر تقرير Operationalizing AI الصادر عن O'Reilly للاطلاع على نظرة عامة). تتضمن مراحل دورة الحياة ما يلي:

• النطاق والخطة
• الجمع والتنظيم
• البناء والاختبار
• التحقق من الصحة والنشر
• المراقبة والإدارة

في السيناريو المثالي، يجب معالجة جوانب الذكاء الاصطناعي الجدير بالثقة في كل من هذه المراحل وليس فقط في النهاية. نحن بحاجة إلى حواجز حماية مناسبة في كل مرحلة، بدءًا من تعريف الأعمال واستكشاف البيانات وبناء النماذج إلى التحقق من صحة النموذج ونشره ومراقبته وإدارته المستمرة. دعونا نلقي نظرة أقرب على كل مرحلة وكيف يتم التعامل مع الجوانب المختلفة من الذكاء الاصطناعي الجدير بالثقة.

توجه هذه المرحلة ترتيب أولويات حالات الاستخدام وتطوير خطة عمل الذكاء الاصطناعي. يتكون الفريق من أحد الأطراف المعنية في الشركة، وعالم بيانات، ومالك بيانات، وقائد عمليات، وأدوار أخرى — ويركز أولاً على حالة استخدام النشاط التجاري، حيث يحدد قيمة الأعمال ويحدد مؤشرات الأداء الرئيسية للشركة. ثم يتناول المهمة التقنية، ويترجم الهدف التجاري إلى مهام الذكاء الاصطناعي المحددة التي يجب حلها. وأخيرًا ، يقوم الفريق بتطوير خطة عمل منظمة لإيجاد حل للمهام التقنية المحددة لدعم هدف الأعمال.

ويُعد تطبيق مبادئ التفكير التصميمي للمؤسسات من أفضل الممارسات في هذه المرحلة. يساعد التفكير التصميمي في تحديد وتعريف الجوانب التجارية والتقنية المختلفة للتحيز/العدالة، والمتانة، وقابلية التفسير، وغيرها في سياق حالة الاستخدام. تساعد هذه المرحلة على الإجابة عن أسئلة مثل:

• ما هي توقعات الشركات فيما يتعلق بالعدالة والشفافية؟
• ما اللائحة التي نحتاجها للامتثال؟
• كيف نصل إلى سمات البيانات الحساسة؟
• ما مقدار التفصيل والتكرار الذي يجب تقديم التفسيرات به؟

من المهم أيضا ملاحظة أي بيانات تنظيمية وسياسات تتعلق بالذكاء الاصطناعي التي سيحتاج الفريق إلى اتباعها أثناء بناء حالات الاستخدام هذه، لتجنب أي تحديات في اللحظة الأخيرة عند محاولة التحقق من الصحة للاستخدام الإنتاجي.

تسمح هذه المرحلة لمستهلك البيانات بالعثور على مجموعات البيانات ذات الصلة والوصول إليها. يمكن لفِرق علم البيانات "التسوق للحصول على البيانات" في كتالوج مركزي باستخدام البيانات الوصفية أو مصطلحات الأعمال للبحث. يمكنهم فهم البيانات، بما في ذلك مالكها، ونسبها، وعلاقتها بمجموعات البيانات الأخرى، وما إلى ذلك. من المهم تزويد علماء البيانات برؤية تقنية لدورة حياة البيانات، حتى يتمكنوا من فهم كل تحول للبيانات يمكن أن يؤثر على كيفية إنشاء واستخدام الميزات.

وبناءً على هذا الاستكشاف، يمكنهم طلب موجز البيانات. بمجرد الموافقة، يمكن توفير مجموعات البيانات لفريق علم البيانات في بيئة تطوير علم البيانات الخاصة بهم.

إذا احتاج الفريق للعمل مع البيانات الشخصية مثل معلومات التعريف الشخصية (PII) أو المعلومات الصحية المحمية (PHI)، يجب على مسؤول البيانات أو مزود البيانات التأكد من التزام البيانات التي تتم مشاركتها باللوائح من خلال أسلوب إخفاء الهوية المناسب.

تستكشف فرق علم البيانات وتجهز البيانات، وتبني وتدرب وتختبر نماذج الذكاء الاصطناعي/التعلم الآلي خلال هذه المرحلة. من الأفضل القيام بالأنشطة خلال هذه المرحلة كمجموعة من القفزات الرشيقة. من المهم التحقق من التحيز في البيانات في هذه المرحلة حتى قبل أن يبدأ أي عمل في بناء النماذج. ويُعد هذا بمثابة حاجز حماية داخلي لتحقيق العدالة، ويمكن تفعيل حواجز الحماية أثناء خطوات بناء النموذج وما بعدها. يمكن حساب قوة النموذج وقابلية التفسير والجوانب الأخرى بالمثل خلال هذه المرحلة.

بمجرد اكتمال هذه الاختبارات بنجاح، يسمح مسار عمليات التعلم الآلي بنقل النموذج والأصول المرتبطة به من بيئة التطوير إلى بيئة التحقق قبل الإنتاج.

تتضمن هذه المرحلة التحقق من صحة النموذج ونشره في الإنتاج. يمكن تنفيذ أنشطة التحقق من الصحة من قبل فريق غير الفريق الذي بنى النموذج، مثل فريق التحقق من صحة النموذج أو فريق إدارة المخاطر في النموذج أو كيان خارجي.

يقوم هذا الفريق بالتحقق من الجودة والمتانة والنزاهة وما إلى ذلك ويصدر تقارير التحقق من الصحة. من المهم الحصول على نتائج التحقق للرجوع إليها والمقارنة. كما يتم فحص أوراق حقائق النماذج، والتفسيرات المحلية والعالمية، ومقاييس أخرى.

إذا اجتاز النموذج عملية التحقق، يمكن لفريق العمليات ترقيته إلى بيئة الإنتاج باستخدام مسار عمليات التعلم الآلي. يتم نشر النموذج هناك، إما للاستدعاء عبر الإنترنت أو للاستدعاء الجماعي.

في هذه المرحلة، يقوم فريق العمليات بإعداد المراقبة والإدارة المستمرة لنموذج الذكاء الاصطناعي/التعلم الآلي في الإنتاج. يقوم الفريق بتكوين أجهزة المراقبة لجمع المقاييس المجدولة الدورية. تتم مراقبة الجودة والقوة والإنصاف حسب معدلات التكرار التي تمليها احتياجات العمل. وتُعد مراقبة البيانات وانحراف الدقة وتوليد التفسيرات للمعاملات المحددة وكذلك السلوك العالمي أمثلة على الأنشطة المستمرة.

يمكن للشركة اختيار اتخاذ إجراء في حال اكتشف المراقبون أن هناك عتبة قد تم اختراقها، بدءاً من التنبيهات إلى الخطوات التصحيحية. يمكن تكوين خطوات تخفيف التحيز أو إعادة تدريب النموذج لضمان استمرار السلوك الجدير بالثقة. يمكن إيقاف تشغيل النماذج بناءً على معايير العمل أو المعايير الفنية. تنشئ هذه المرحلة حدود الحماية الخارجية للذكاء الاصطناعي الجدير بالثقة.

تتناسب هذه المراحل في دورة حياة الذكاء الاصطناعي ضمن إطار حوكمة الذكاء الاصطناعي العام للمؤسسة. يسمح إطار العمل هذا لعدة حالات استخدام باتباع مراحل دورة الحياة بشكل متسق، بغض النظر عن أدوات التطوير المستخدمة. يساعد في أتمتة الوثائق عبر دورة الحياة ويوفر رؤية متسقة للأطراف المعنية.

يتطلب تشغيل الذكاء الاصطناعي الجدير بالثقة منا جمع الأشخاص (الخبرة)، والعمليات (أفضل الممارسات)، والمنصة (التكنولوجيا). توفر منصة IBM Cloud Pak for Data وIBM Spectrum Fusion التقنية وإطار العمل الذي يدعم مراحل مختلفة من دورة حياة الذكاء الاصطناعي من البداية إلى النهاية. يمكن أن يتناسب مع البيئات الحالية ويكمل أدوات تطوير النماذج ونشرها الحالية. يمكن للمنصة العمل على مجموعة واسعة من خيارات البنية التحتية السحابية (IBM، AWS، Azure، GCP، وغيرها) والبنية التحتية المحلية، مما يوفر قدرة سحابة هجينة حقيقية.

توفر شركة IBM مجموعة من عروض الخدمات التي تجمع بين التعليم والخبرة وأفضل الممارسات والتكنولوجيا لمساعدة العملاء على البدء في تفعيل الذكاء الاصطناعي الجدير بالثقة.