ما المقصود بإدارة مخاطر النماذج؟

المؤلفون

Rina Diane Caballar

Staff Writer

IBM Think

Cole Stryker

Staff Editor, AI Models

IBM Think

ما المقصود بإدارة مخاطر النماذج؟

إدارة مخاطر النماذج هي عملية تحديد مخاطر النماذج وقياسها ومراقبتها. تحدث مخاطر النماذج عندما يتم استخدام نموذج لقياس المعلومات الكمية والتنبؤ بها ولكن أداء النموذج غير كافٍ. يمكن أن يؤدي ضعف أداء النموذج إلى عواقب وخيمة، بما في ذلك خسائر مالية كبيرة.

النموذج هو أي نهج كمي أو طريقة أو نظام يعالج بيانات الإدخال وينتج تقديرات كمية.1 يتم تطبيق النماذج عادة عند اتخاذ قرارات العمل، وتحديد فرص العمل والمخاطر، ووضع استراتيجيات الأعمال وإدارة عمليات الأعمال.

على سبيل المثال، تعتمد المؤسسات المالية على مجموعة من النماذج للتسعير والتقييم والكشف عن الاحتيال وغسيل الأموال ومكافحتهما، من بين خدمات مالية أخرى. وغالبًا ما ينطوي استخدام النماذج على المخاطر، ما يجعل إدارة مخاطر النماذج (MRM) أحد الاعتبارات المهمة للمؤسسات.

على سبيل المثال، أُلقي باللوم جزئيًا في الأزمة المالية العالمية التي حدثت من 2007 إلى 2008 على نماذج القيمة المُعرضة للمخاطر (VaR) الخاطئة، والتي كانت تُقدّر الخسائر المستقبلية التي قد تتكبدها الاستثمارات.2 أدت كارثة تداول ”(London Whale) “، التي وقعت في عام 2012 في بنك JPMorgan Chase، إلى خسائر بقيمة 6 مليارات دولار أمريكي وغرامات بقيمة مليار دولار أمريكي تقريبًا..3 ويرجع هذا جزئيًا إلى خطأ في جدول البيانات في حسابات النماذج، ما أدى إلى الحد من المخاطر. 

في عام 2021، قامت شركة Zillow المتخصصة في التسويق العقاري بتخفيض مخزونها بقيمة 304 ملايين دولار أمريكي وخططت لخفض ربع قوتها العاملة بعد فشل مشروعها لشراء المنازل، والذي كان سببه جزئيًا عدم قدرة نموذج تقييم أسعار العقارات لديها على التنبؤ بأسعار المنازل بدقة..5

أحدث الأخبار التقنية، مدعومة برؤى خبراء

ابقَ على اطلاع دائم على أبرز الاتجاهات في مجالات الذكاء الاصطناعي، والأتمتة، والبيانات، وغيرها الكثير من خلال رسالة Think الإخبارية. راجع بيان الخصوصية لشركة IBM.

شكرًا لك! أنت مشترك.

سيصلك محتوى الاشتراك باللغة الإنجليزية. ستجد رابط إلغاء الاشتراك في كل رسالة إخبارية. يمكنك إدارة اشتراكاتك أو إلغاء اشتراكك من هنا. لمزيد من المعلومات، راجع بيان خصوصية IBM.

مصادر مخاطر النماذج

يمكن أن تنبع مخاطر النماذج من أسباب مختلفة:

بيانات

قد تكون بيانات إدخال النموذج خاطئة أو غير كاملة أو قديمة أو متحيزة. إذا تم استخدام بيانات قديمة لنموذج السوق، فقد تتوقع اتجاهات منحرفة فيما يتعلق بأداء السوق أو أسعاره مثلًا.

بالإضافة إلى ذلك، إذا لم يتم تقييم مجموعات بيانات التدريب لنماذج الذكاء الاصطناعي بحثًا عن وجود تحيز، فقد تنتج نماذج الذكاء الاصطناعي هذه نتائج تعكس التحيز الجوهري في البيانات وتديمه. على سبيل المثال، قد تُفضل أنظمة فحص المتقدمين للوظائف الذكور أو الأصغر سنًا، في حين أن برامج التنبؤ للرعاية الصحية قد تُظهر تحيزًا عنصريًا عند منح الأولوية للمرضى الذين يحتاجون إلى رعاية فورية.

الافتراضات والمتغيرات

قد تكون الافتراضات خاطئة أو غير واقعية. ويمكن أن تؤثر المتغيرات غير ذات الصلة أو الخاطئة أو المفقودة أو المحذوفة أو معايرات المتغيرات غير الصحيحة في مخرجات النموذج.

على سبيل المثال، قد ينتج عن نموذج التسعير الذي لا يُراعي تقلبات السوق تقديرات غير دقيقة، في حين أن نماذج التنبؤ بطلب المنتجات التي لا تُراعى فيها سلوكيات الشراء الموسمية أو الظروف الاقتصادية الحالية، مثل التأخير في الشحن أو انخفاض الإنفاق، قد تؤدي إلى سوء إدارة مستويات المخزون.

في الوقت نفسه، قد يؤدي نموذج التنبؤ برعاية المرضى الذي يركز بشكل أكبر على متغير مثل الإنفاق على الرعاية الصحية إلى تمييز النموذج ضد أولئك الذين لديهم دخل أقل ومن ثَمَّ ينفقون أقل على الرعاية الصحية ولكن لديهم حاجة أكبر للوصول إليها.

المنهجية

قد تحتوي المنهجية المختارة على أخطاء متأصلة، لذلك يجب أن يكون مطورو النموذج على دراية بالنموذج وحدوده. على سبيل المثال، يمكن أن تحتوي الأساليب الإحصائية مثل نمذجة الانحدار على أخذ العينات والأخطاء القياسية.

وهنا يأتي دور اختيار النموذج المناسب. على سبيل المثال، على الرغم من أن الذكاء الاصطناعي التوليدي هو أحدث التقنيات، فإنه قد لا يكون مناسبًا للتنبؤات في الشؤون المالية، حيث يمكن لنماذج راسخة أُخرى القيام بذلك بتكلفة أقل.

تنفيذ النموذج

يمكن أن يؤدي تطوير النموذج غير المكتمل أو غير الصحيح إلى نتائج غير دقيقة أو أخطاء في النموذج. وينطبق الشيء نفسه على أخطاء البرمجة والأخطاء في التقريب أو الحسابات والأخطاء الفنية الأخرى. قد يؤثر أيضًا تطبيق أي اختصارات أو تبسيط نتيجة لعدم اليقين والتعقيد في النموذج في النتيجة النهائية.

على سبيل المثال، قد تؤدي الجداول الزمنية المحدودة لنشر نموذج التحليلات التنبئية لأداء المبيعات إلى استخدام موجزات البيانات في الوقت الفعلي لأرقام المبيعات. ومع ذلك، بسبب هذا القرار، قد يفشل النموذج بشكل متكرر أو يكون بطيئًا في التشغيل. وفي هذه الحالة، قد يؤدي التحول إلى لقطة بيانات يومية أو أسبوعية إلى تحسين سرعة النموذج واستقراره.

يمكن أن يساعد الاختبار الدقيق أيضًا في الكشف عن الأخطاء أثناء التنفيذ، مثل استخدام تنسيق تاريخ مختلف عن طريق الخطأ لنموذج تقييم مطالبات التأمين أو وحدة قياس أخرى لنموذج تشخيص الرعاية الصحية، أو تعديل العملة لنموذج التسعير عن غير قصد.

تفسير النتائج

قد يؤدي التفسير الخاطئ لمخرجات النموذج إلى اتخاذ قرارات خاطئة واتخاذ مسار عمل خاطئ. وهنا تبرز الحاجة إلى تحليل الخبراء، حيث يقوم خبراء متخصصون بتقييم سلامة نتائج النموذج. كما أن قابلية التفسير والشفافية أمران مهمان في تحديد كيفية توصل النموذج إلى استنتاجاته.

استخدام النموذج

قد يُساء استخدام النماذج أو قد يتم تطبيق نموذج خاطئ على سيناريو معين. وقد يكون تصميم النموذج ومواصفاته غير مناسبين أيضًا لحالة عمل معينة.

على سبيل المثال، قد لا يكون النموذج الذي يساعد المستشفيات على فرز المرضى بشكل أسرع في ولاية أو منطقة معينة مناسبًا لولاية أو منطقة مجاورة بسبب اختلاف التركيبة السكانية. وفي الوقت نفسه، قد لا تتمكن النماذج التي تحدد حالة الرئة لدى الأطفال من خلال فحوصات الصدر الخاصة بهم من تحديد الحالة نفسها لدى البالغين.

إدارة مخاطر النماذج

يمكن لمخاطر النماذج أن تتسبب في إلحاق الضرر بالشؤون المالية للمؤسسة وعملياتها وسمعتها في حال تُركت من دون إدارة. وتتطلب الإدارة الفعالة لمخاطر النماذج إطار عمل يُراعي المخاطر في كل مرحلة من مراحل دورة حياة النماذج.

تستلزم إدارة مخاطر النماذج أيضًا اتباع الإرشادات التنظيمية. على سبيل المثال، في الولايات المتحدة، أصدر بنك الاحتياطي الفيدرالي ومكتب مراقب العملة إرشادات إشرافية بشأن إدارة المخاطر النموذجية، والتي تعمل كمعيار لإطار عمل إدارة المخاطر النموذجية.

يرد فيما يلي ست خطوات شائعة نحو إطار عمل فعال لإدارة مخاطر النماذج:

1. تحديد مخاطر النماذج

تحديد المخاطر هو الخطوة الأولى في إدارة مخاطر النماذج. يتضمن ذلك إجراء جرد نموذجي وتحديد المخاطر المرتبطة بكل نموذج.

2. تقييم مخاطر النماذج

الخطوة التالية هي قياس مخاطر النماذج وتقييمها، حيث يمكن للشركات التوصل إلى نظام تصنيف يصنف مخاطر النماذج وفقًا للأولوية واحتمال حدوثها وخطورة آثارها من بين مقاييس أخرى.

إلى جانب قياس مخاطر النماذج الفردية، يمكن للشركات مراعاة مخاطر النماذج الإجمالية أيضًا. تشير المخاطر الإجمالية للنماذج إلى المخاطر التي تشكلها التبعيات والتفاعلات بين أنواع النماذج المختلفة. على سبيل المثال، قد تُغذي نتائج نموذج تشخيص الرعاية الصحية نموذج التنبؤ برعاية المرضى. وفي حال أظهر نموذج التشخيص تحيزًا، فقد ينتقل هذا التحيز إلى نموذج التنبؤ، ما يؤثر على من قد يحتاج إلى رعاية عاجلة.

3. تخفيف مخاطر النماذج

يتطلب تخفيف المخاطر معالجة مصادرها وأسبابها. ويرد فيما يلي بعض استراتيجيات التخفيف من المخاطر التي يمكن دمجها في إطار عمل إدارة مخاطر النماذج:

  • عمليات التدقيق والمراجعات: يمكن للشركات إجراء عمليات التدقيق الداخلي لنماذجها أو توظيف مختصين من جهات خارجية لإجراء مراجعات مستقلة.

  • المعايير: يمكن أن يساعد وضع معايير لعملية النمذجة في تقليل المخاطر. ويمكن صياغة معايير لجمع البيانات وتصميم النموذج وعملية تطويره والاختبار والتوثيق واستخدام النموذج.

لا يمكن التخفيف من جميع المخاطر، لذلك قد تظل الشركات عرضة لقدر معين من المخاطر. ومن ثَمَّ، قد تجد المؤسسات أنه من المفيد تحديد مدى قدرتها على تحمل المخاطر. هذا هو مستوى المخاطرة الذي ترغب الشركة في تحمله وتستعد له ويمكنها تحمله عندما يتعلق الأمر باستخدامها للنماذج.

4. التحقق من صحة النماذج

تعمل عمليات التحقق كتحدٍ فعال للنموذج للتحقق من جودته ونتائجه. يتم التحقق من صحة النموذج بعد التنفيذ وقبل طرحه لمستخدمي النموذج. ويشمل النهجين الكمي والنوعي.

يتضمن التحقق من صحة النموذج الكمي هذه الإستراتيجيات:

  • الاختبار الرجعي هو شكل من أشكال تحليل النتائج الذي يستخدم البيانات التاريخية الواقعية لاختبار نموذج ما، ومن ثَمَّ تقييم مدى دقته وفعاليته.

  • نماذج التحدي هي نماذج بديلة تم تطويرها لتحدي النموذج "الرائد". يستخدم كلا النموذجين الرائد والتحدي البيانات نفسها، وتتم مقارنة نتائجهما للكشف عن أي مخاطر محتملة أو خفية.

  • تحليل الحساسية يدرس مدى تأثير تغيير متغير معين في المتغيرات الأخرى في ظروف معينة.

  • اختبار الإجهاد يطبق عمليات محاكاة تعتمد على سيناريوهات افتراضية أو نظرية لمعرفة مدى استجابة النماذج.

وفي الوقت نفسه، يراعي التحقق من صحة النموذج النوعي عوامل مثل ملاءمة النموذج للغرض منه وما إذا كان النموذج يتوافق مع المعايير أو يمتثل للوائح.

5. مراقبة النماذج

تقوم عملية مراقبة النماذج بفحص النماذج بشكل مستمر للتحقق مما إذا كانت لا تزال تعمل على النحو المقصود وتستمر في الأداء على النحو المتوقع. وتحدد أي مخاطر إضافية قد تنشأ أو تحديثات مطلوبة نتيجة للتغييرات في البيانات والعمليات واللوائح.

عادةً ما يكون التحقق من صحة النموذج جزءًا من عملية المراقبة المستمرة. وفي هذه المرحلة، تقوم الأطراف المعنية بإعداد تقارير الرصد والتحقق وتقييمها للتوصية بأي مسار عمل ضروري.

6. حوكمة النماذج

تُتيح حوكمةالنماذج الإشراف على عملية النمذجة بأكملها، وتُرسي نظامًا للملكية والتحكم من خلال السياسات والإجراءات. وتتطلب حوكمة مخاطر النماذج السليمة فريقًا متنوعًا من صانعي القرار والأطراف المعنية، بدءًا من مجلس الإدارة والإدارة العليا، ووصولًا إلى مالكي النماذج ومطوريها ومستخدميها.

أكاديمية الذكاء الاصطناعي

صعود الذكاء الاصطناعي التوليدي في قطاع الأعمال

تعرّف على الصعود التاريخي للذكاء الاصطناعي التوليدي وما يعنيه بالنسبة إلى قطاع الأعمال.

حلول الذكاء الاصطناعي لإدارة مخاطر النماذج

تستخدم العديد من نماذج اليوم الذكاء الاصطناعي والتعلم الآلي بشكل ما، لا سيما عند إنشاء النماذج واختبارها.

على سبيل المثال، يتم تطبيق حلول الذكاء الاصطناعي بشكل شائع في القطاع المالي لنمذجة مخاطر الائتمان ومخاطر السوق والمخاطر التشغيلية. تساعد التقنية على تقييم مخاطر الائتمان والإقراض، وإنشاء نماذج للسوق، وكشف جرائم الاحتيال المالي وغسيل الأموال.

يمكن أيضًا تطبيق حلول الذكاء الاصطناعي والتعلم الآلي على إدارة مخاطر النماذج، خاصة أثناء التحقق من صحة النماذج (مثل اختبار إجهاد نماذج السوق) ومراقبة النماذج في الوقت الفعلي. ويرد فيما يلي بعض خوارزميات وطرق التعلم الآلي الشائعة المستخدمة في إدارة مخاطر النماذج:

  • يمكن تنفيذ التجميع لتحليل الحساسية للكشف عن الحالات الشاذة التي قد تشير إلى خطر عند تغيير المتغيرات أو عند محاكاة سيناريوهات محددة.

  • يمكن دمج شبكات القرار مع الشبكات العصبية لمراقبة نماذج التداول، على سبيل المثال، تنبيه المتداولين بالتغييرات التي تطرأ على الأنماط الأساسية أثناء التداول.

  • يمكن أن تساعد الشبكات العصبية في اختبار الإجهاد، ما يساعد البنوك على نمذجة سيولتها في ظل الظروف الاقتصادية الصعبة مثل الركود.

برنامج إدارة مخاطر النماذج

يمكن أن يساعد برنامج إدارة مخاطر النماذج المؤسسات على إدارة مخاطر النماذج بشكل أكثر فعالية. ويوفر سمات متقدمة، مثل مخزون النماذج وتتبع المقاييس وتعيينها ونماذج المتطلبات التنظيمية المتعددة وسياساتها. كما تسمح أدوات إدارة مخاطر النماذج الأخرى أيضًا بإدارة نموذج الذكاء الاصطناعي والتعلم الآلي، من خلال قدرات تشمل أتمتة مراقبة النموذج والتحقق من صحته.

حلول ذات صلة
حلول عمليات الأعمال

يُمكنك إنشاء أعمال أكثر مرونةً باستخدام الحلول المدعومة بالذكاء الاصطناعي لإدارة الأصول الذكية وسلسلة التوريد.

استكشف حلول العمليات
خدمات الاستشارات في عمليات الأعمال

حوّل عملياتك التجارية مع IBM باستخدام البيانات الغنية وتقنيات الذكاء الاصطناعي الفعالة لدمج عمليات التحسين.

استكشف خدمات عمليات الأعمال
IBM Cloud Pak for Business Automation

IBM Cloud Pak for Business Automation عبارة عن مجموعة معيارية من مكونات البرامج المتكاملة لإدارة العمليات والأتمتة.

استكشف أتمتة الأعمال
اتخِذ الخطوة التالية

بادر بتحويل عمليات أعمالك باستخدام حلول IBM الرائدة في المجال. يمكنك تعزيز الإنتاجية والمرونة والابتكار من خلال مهام سير العمل الذكية وتقنيات الأتمتة.

 

استكشف حلول العمليات استكشف خدمات الذكاء الاصطناعي
الحواشي