يُعَد DeepSeek-R1 تذكيرًا بأهمية حوكمة الذكاء الاصطناعي.
يمكن أن تمنح نماذج الأساس مفتوحة المصدر، مثل DeepSeek-R1 التي تمت مناقشتها كثيرًا، للمؤسسات بداية جيدة عند إنشاء نماذجها المخصصة وبالتالي زيادة عائد الاستثمار. ولكن ما لم تتم مناقشته بشكل كافٍ هو دور حوكمة الذكاء الاصطناعي. تُعَد الحوكمة مطلوبة لجميع أشكال الذكاء الاصطناعي والتعلم الآلي، ولكن هناك اعتبارات فريدة للنماذج مفتوحة المصدر من مقدِّمي الخدمات من جهات خارجية. إذا كنت تريد أن يكون استخدام مؤسستك للذكاء الاصطناعي آمنًا وشفافًا ومسؤولًا، فإن حوكمة الذكاء الاصطناعي أمر بالغ الأهمية.
ونظرًا لهذه التطورات، دعنا نناقش كيف يمكننا الاستفادة من النماذج مفتوحة المصدر مثل نموذج DeepSeek، مع تحديد كيفية مساهمة حوكمة الذكاء الاصطناعي في التخفيف من بعض التحديات الرئيسية.
الرسالة الإخبارية الخاصة بالمجال
أحدث اتجاهات الذكاء الاصطناعي، يقدمها لك الخبراء
احصل على رؤى منسقة حول أهم أخبار الذكاء الاصطناعي وأكثرها إثارةً للاهتمام. اشترِك في خدمة رسائل Think الإخبارية الأسبوعية. راجع بيان الخصوصية لشركة IBM.
سيتم تسليم اشتراكك باللغة الإنجليزية. ستجد رابط إلغاء الاشتراك في كل رسالة إخبارية. يمكنك إدارة اشتراكاتك أو إلغاء اشتراكك هنا. راجع بيان خصوصية IBM لمزيد من المعلومات.
أظهرت دراسة من IBM أن 51% من الشركات التي تستخدم أدوات مفتوحة المصدر حققت عائد استثمار إيجابي، مقارنةً بنسبة 41% فقط من الشركات التي لا تستخدمها. تعزز هذه النماذج مفتوحة المصدر الجديدة والصغيرة موقف IBM بشأن مستقبل الذكاء الاصطناعي المفتوح، ما سيساعد الشركات على تحقيق الفوائد الذكاء الاصطناعي بطريقة توازن بين الكفاءة والثقة والسلامة. بينما تفاجأ العديد من قادة التقنية وقلقوا من تداعيات DeepSeek، كانت IBM منذ وقت طويل مؤيدة لنهج أكثر انفتاحًا. يقول Arvind Krishna، الرئيس التنفيذي لشركة IBM، مؤخرًا في مقال تم نشره في مجلة Fortune: "يمكن للنماذج الأصغر والأكثر كفاءة أن تحقق نتائج حقيقية دون الحاجة إلى أنظمة ضخمة خاصة".
عند استخدام نماذج الأساس مفتوحة المصدر، تُعَد حوكمة الذكاء الاصطناعي أمرًا حيويًا طوال دورة حياة النموذج. بدءًا بتقييم المخاطر، يجب على المؤسسات أولًا تحديد إذا ما كان النموذج آمنًا للاستخدام. فما يُعَد آمنًا للاستخدام العام أو الشخصي قد لا يكون مناسبًا لحالات الاستخدام المؤسسية.
في حالة DeepSeek-R1، قد تقرر المؤسسات أن استضافة النموذج داخليًا أو تشغيله عبر منتج استوديو ذكاء اصطناعي مثل IBM® watsonx.ai يُعَد خيارًا آمنًا نسبيًا. ومع ذلك، قد يطرح استخدام تطبيق DeepSeek تحديات تتعلق بالبيانات والأمن. لقد قامت العديد من الدول بحظر استخدام تطبيق DeepSeek لهذا السبب.
بعد الموافقة على النماذج، يمكن للمراجعين إضافتها إلى سجل النماذج، الذي يتتبع استخدام النماذج وأداءها، كما يحدِّد حالات الاستخدام الممكن تطبيقها على هذه النماذج. تُتيح هذه المجموعة من النماذج لمطوِّري الذكاء الاصطناعي التعرُّف على النماذج المتاحة، ولفِرق الضمان والبيانات والأمن تتبُّع أماكن استخدام هذه النماذج.
تسجِّل أوراق حقائق الذكاء الاصطناعي معلومات حول النموذج طوال دورة حياته، وتزيد الشفافية بشأن محتويات النموذج وطريقة استخدامه. توضح أوراق الحقائق نموذج الأساس الذي تم استخدامه، بما في ذلك مَعلمات المطالبات، والقوالب، وعمليات التقييم.
هناك مخاوف بشأن سلامة بعض النماذج مفتوحة المصدر وسهولة إدخال المطالبات أو تجاوز القيود لإنتاج مخرجات ضارة. يمكن لقابلية الملاحظة والحواجز الوقائية مراقبة سلامة النموذج ودقته وانحرافه، والحد من خطاب الكراهية والشتائم والمحتوى الضار الآخر.
إن المخاطر الناتجة عن استخدام الذكاء الاصطناعي دون حوكمة واضحة هائلة. ويجب على المؤسسات التي تستخدم الذكاء الاصطناعي للتفاعل مع الأفراد في الاتحاد الأوروبي الالتزام بقانون الذكاء الاصطناعي في الاتحاد الأوروبي. قد يؤدي عدم الامتثال إلى فرض غرامة قدرها 35 مليون يورو أو 7% من حجم المبيعات السنوي، أيهما أكبر.
المخاطر التي تهدِّد العلامات التجارية للشركات وسمعتها وثقة العملاء والشركاء أيضًا كبيرة. تخيَّل أن مؤسستك تعرّض سرية بيانات العملاء الشخصية للخطر، أو تسيء للعميل أو تخدعه خلال تفاعل معه. لن يهمهم إذا ما كان الخطأ الأصلي من فريقك أو من نموذج الأساس، فسمعتك ستتضرر في كلتا الحالتين. ودون وجود ضوابط وإجراءات حماية، يصبح استخدام الذكاء الاصطناعي التوليدي لأي حالة إنتاجية محفوفًا بالمخاطر.
تمكِّن حوكمة الذكاء الاصطناعي المؤسسات من إدارة مجموعة من المخاطر والحد منها، وتمنحها القدرة على استخدام الذكاء الاصطناعي بأمان ومسؤولية. لدعم هذه الجهود، طوَّرت IBM® Research أداة AI Risk Atlas، المصممة لمساعدة المؤسسات على تحديد المخاطر المختلفة للذكاء الاصطناعي ورسم خريطة لها.
يُعَد وجود إطار عمل قوي لحوكمة الذكاء الاصطناعي أمرًا حيويًا لمؤسستك، لكن إنشاء إطار من الصفر عملية طويلة ومكلِّفة قد تؤثِّر سلبًا في عائد الاستثمار في الذكاء الاصطناعي. للمؤسسات التي تسعى إلى توسيع استخدام الذكاء الاصطناعي بكفاءة وأمان ومسؤولية، طوَّرنا watsonx.governance.
تمكِّن حلول حوكمة الذكاء الاصطناعي، مثل watsonx.governance، القادة من اتخاذ القرار بشأن السماح باستخدام نماذج مثل DeepSeek داخل مؤسستهم وكيفية ذلك. من خلال التكامل مع IBM® Guardium AI Security، يمكن لنموذج watsonx.governance أيضًا التعرُّف على نُسَخ غير معروفة من النموذج وإدارة المخاطر المحددة مثل اختراق النظام، والهجمات الموزعة لحجب الخدمة (DDOS) ومطالبات بيانات التعريف الشخصية (PII). ويمكنه إدارة أي نموذج ويمكن تطبيقه على أي سحابة أو تشغيله داخليًا داخل المؤسسة. أداة AI Risk Atlas من IBM
يُعَد DeepSeek مجرد مثال ضمن سلسلة من الابتكارات مفتوحة المصدر، ويذكِّرنا بأن كل تقدُّم في الذكاء الاصطناعي، مقارنةً بالتقنيات السابقة، يجب أن يضع الحوكمة والأمن في قلب استراتيجية مؤسستك. فهي ليست اختيارية، بل متطلبات أساسية.
الموارد
نماذج لغوية صغيرة مفتوحة المصدر توفِّر أداءً على مستوى المؤسسات وشفافية بسعر تنافسي.
استفد من الذكاء الاصطناعي في عملك بالاستعانة بخبرة IBM الرائدة في مجال الذكاء الاصطناعي ومحفظة حلولها المتوفرة لك.
أعدّ ابتكار عمليات ومهام سير العمل الحساسة بإضافة الذكاء الاصطناعي لتعزيز التجارب وصنع القرارات في الوقت الفعلي والقيمة التجارية.