كيفية إنشاء نماذج أعمال آمنة تعمل بتقنية الذكاء الاصطناعي
تضاعف اعتماد الشركات للذكاء الاصطناعي خلال السنوات الخمس الماضية، حيث صرح المديرون التنفيذيون اليوم بأنهم يواجهون ضغوطًا كبيرة من المستثمرين والدائنين والمقرضين لتسريع اعتماد الذكاء الاصطناعي التوليدي. ويُعزى ذلك إلى حد كبير إلى الإدراك أننا قد تجاوزنا مستوى جديدًا فيما يتعلق بنضج الذكاء الاصطناعي، ما يقدّم طيفًا جديدًا وأوسع من الإمكانات والنتائج والفوائد الاقتصادية للمجتمع ككل.
احتفظت العديد من الشركات بحذرها من المراهنة بكل شيء على الذكاء الاصطناعي، حيث إن بعض الجوانب المجهولة في هذه التكنولوجيا تقوض الثقة المتأصلة فيها. وعادةً ما يُنظر إلى الأمن على أنه أحد هذه العناصر المجهولة. كيف يمكنك تأمين نماذج الذكاء الاصطناعي؟ كيف يمكنك ضمان حماية هذه التقنية التحويلية من الهجمات الإلكترونية، سواء في شكل سرقة البيانات أو التلاعب بها أو تسريبها أو التهرب منها أو تسميمها أو استخراجها أو الاستدلال عليها؟
أدى الاندفاع العالمي لإحراز تقدم في مجال الذكاء الاصطناعي—سواء بين الحكومات أو الأسواق أو قطاعات الأعمال— إلى زيادة الضغط والإلحاح للإجابة عن هذا السؤال. لا ينبع التحدي في تأمين نماذج الذكاء الاصطناعي فقط من الطبيعة المتغيرة وحجم البيانات الأساسية، بل أيضًا من “سطح الهجوم” الموسّع الذي تُدخله نماذج الذكاء الاصطناعي: سطح هجوم جديد على الجميع. وببساطة، للتلاعب بنموذج الذكاء الاصطناعي أو نتائجه لأهداف خبيثة، ثمة العديد من نقاط الدخول المحتملة التي يمكن للخصوم محاولة اختراقها، والعديد منها ما زلنا بصدد اكتشافه.
لكن مع تلك التحديات، هناك حلول ممكنة. في الواقع، نحن نشهد أكبر حركة جماعية لتأمين الذكاء الاصطناعي قامت بها أي تقنية على الإطلاق. حشدت إدارة Biden-Harris، ووكالة الأمن الإلكتروني وأمن البنية الأساسية (CISA) التابعة لوزارة الأمن القومي، وقانون الذكاء الاصطناعي للاتحاد الأوروبي مجتمع البحث والمطورين والأمن للعمل بشكل جماعي على تعزيز الأمن والخصوصية والامتثال لنظام الذكاء الاصطناعي.
ينبغي أن ندرك أن أمن الذكاء الاصطناعي يتجاوز مجرد تأمين الذكاء الاصطناعي نفسه. وبمعنى آخر، لضمان أمن الذكاء الاصطناعي، لا نقتصر على النماذج والبيانات وحدها. كما يجب أن نأخذ في الحسبان مجموعة تطبيقات المؤسسة التي يتم تضمين الذكاء الاصطناعي فيها كآلية دفاعية، لتوسيع نطاق الحماية للذكاء الاصطناعي داخلها. وبالرمز نفسه، نظرًا إلى أن البنية التحتية للمؤسسة يمكن أن تشكل ناقلاً للتهديدات قادرًا على تزويد الأعداء بإمكانية الوصول إلى نماذج الذكاء الاصطناعي الخاصة بها، يجب علينا ضمان حماية البيئة الأوسع نطاقًا.
لتقدير الوسائل المختلفة التي يجب أن نؤمن بها الذكاء الاصطناعي—البيانات والنماذج والتطبيقات والعملية الكاملة—يجب أن نكون واضحين ليس فقط بشأن كيفية عمل الذكاء الاصطناعي، بل أيضًا كيف يتم تطبيقه في بيئات مختلفة.
دور النظافة في مجموعة تطبيقات المؤسسة
تُعد البنية التحتية للمؤسسة أول خط دفاع ضد التهديدات التي تتعرض لها نماذج الذكاء الاصطناعي. ومن الضروري ضمان دمج ضوابط أمنية وخصوصية مناسبة في البنية التحتية الأوسع نطاقًا لتكنولوجيا المعلومات المحيطة بالذكاء الاصطناعي. وهذا مجال تتمتع فيه الصناعة بالفعل بميزة كبيرة: فلدينا المعرفة والخبرة اللازمتان لوضع معايير أمثل للأمن والخصوصية والامتثال في البيئات المعقدة والموزعة الحالية. كما أنه من المهم أن ندرك أن هذه المهمة اليومية هي عامل مساعد على تأمين الذكاء الاصطناعي.
على سبيل المثال، يُعد تمكين الوصول الآمن للمستخدمين والنماذج والبيانات أمرًا بالغًا الأهمية. إذ يجب أن نستخدم الضوابط الحالية ونوسع هذه الممارسة لتشمل تأمين المسارات إلى نماذج الذكاء الاصطناعي. وعلى المنوال نفسه، يجلب الذكاء الاصطناعي بُعدًا جديدًا للرؤية عبر التطبيقات، ما يضمن توسيع القدرات لتشمل كشف التهديدات والاستجابة لتطبيقات الذكاء الاصطناعي.
تُعد معايير أمان الرهانات الأساسية — مثل استخدام طرق نقل آمنة عبر سلسلة التوريد، ووضع ضوابط صارمة للوصول وحماية البنية التحتية، فضلاً عن تعزيز النظافة والضوابط الخاصة بالأجهزة الافتراضية والحاويات — أمرًا أساسيًا لمنع الاستغلال. فعندما ننظر إلى إستراتيجية أمن المؤسسة بشكل عام، يجب أن نعكس البروتوكولات والسياسات والمعايير نفسها على ملف تعريف الذكاء الاصطناعي للمؤسسة.
الاستخدام وبيانات التدريب الأساسية
على الرغم من أن متطلبات إدارة دورة حياة الذكاء الاصطناعي لم تتضح بعد بشكل كامل، يمكن للمؤسسات الاستفادة من الضوابط الحالية للمساعدة على تأمين مسار الذكاء الاصطناعي. فعلى سبيل المثال، تُعد الشفافية وقابلية التفسير أساسية لمنع التحيز والهلوسة والتسميم، ولهذا السبب، يجب على متبنّي الذكاء الاصطناعي وضع بروتوكولات لتدقيق سير العمل وبيانات التدريب والمخرجات لضمان دقة النماذج وأدائها. إلى جانب ذلك، يجب توثيق أصل البيانات وعملية إعدادها من أجل الثقة والشفافية. يمكن أن يساعد هذا السياق والوضوح على الكشف بشكل أفضل عن الحالات غير الطبيعية والاضطرابات التي قد تظهر في البيانات في مرحلة مبكرة.
يجب أن يكون الأمان موجودًا في جميع مراحل تطوير الذكاء الاصطناعي ونشره—وهذا يشمل فرض حماية الخصوصية وتدابير الأمان في مراحل تدريب البيانات واختبارها. ونظرًا إلى أن نماذج الذكاء الاصطناعي تتعلم من بياناتها الأساسية بشكل مستمر، فمن المهم مراعاة هذه الديناميكية والاعتراف بالمخاطر المحتملة في دقة البيانات، ودمج خطوات الاختبار والتحقق طوال دورة حياة البيانات. كما تُعد تقنيات منع فقدان البيانات ضرورية هنا أيضًا لحماية تسرب البيانات SPI وPII والبيانات المنظمة ومنعها من خلال المطالبات وواجهات برمجة التطبيقات.
الحوكمة عبر دورة حياة الذكاء الاصطناعي
يتطلب تأمين الذكاء الاصطناعي نهجًا متكاملاً لبناء مشروعات الذكاء الاصطناعي ونشرها وإدارتها. وهذا يعني تصميم الذكاء الاصطناعي مع الحوكمة والشفافية والأخلاقيات التي تدعم المتطلبات التنظيمية. عندما تبحث المؤسسات عن إمكانية اعتماد الذكاء الاصطناعي، يجب عليها تقييم سياسات وممارسات موردي البرمجيات مفتوحة المصدر فيما يتعلق بنماذج الذكاء الاصطناعي ومجموعات بيانات التدريب، فضلاً عن مدى نضج منصات الذكاء الاصطناعي. وينبغي أن يشمل ذلك أيضًا استخدام البيانات والاحتفاظ بها—معرفة كيف وأين ومتى سيتم استخدام البيانات بالضبط، والحد من مدة تخزين البيانات لتقليل المخاوف المتعلقة بالخصوصية والمخاطر الأمنية. بالإضافة إلى ذلك، يجب إشراك فرق المشتريات لضمان التوافق مع سياسات الخصوصية والأمن والامتثال الحالية للمؤسسات والإرشادات التي يجب أن تكون أساسًا لأي سياسات يتم وضعها في مجال الذكاء الاصطناعي.
يشمل تأمين دورة حياة الذكاء الاصطناعي تعزيز عمليات DevSecOps الحالية لتشمل التعلم الآلي—أي تبني العمليات في أثناء بناء التكامل ونشر نماذج الذكاء الاصطناعي والتطبيقات. ويجب إيلاء اهتمام خاص للتعامل مع نماذج الذكاء الاصطناعي وبيانات تدريبها: يُعد تدريب الذكاء الاصطناعي قبل النشر وإدارة الإصدارات على أساس مستمر أمرًا أساسيًا للتعامل مع سلامة النظام، كما هو الحال مع التدريب المستمر. فمن المهم أيضًا مراقبة المطالبات والأشخاص الذين يصلون إلى نماذج الذكاء الاصطناعي.
بالطبع، لا يُعدّ هذا دليلاً شاملاً لتأمين الذكاء الاصطناعي، لكن الهدف هنا هو تصحيح المفاهيم الخطأ المتعلقة بتأمينه. والواقع هو أننا نمتلك بالفعل أدوات وبروتوكولات وإستراتيجيات كبيرة تتيح لنا نشر الذكاء الاصطناعي بشكل آمن.
ومع توسع نطاق تبني الذكاء الاصطناعي وتطور الابتكارات، سينضج التوجيه الأمني، كما هو الحال مع كل تقنية تم دمجها في نسيج المؤسسة على مر السنين. فيما يلي، نشارك بعض أفضل الممارسات من IBM لمساعدة المؤسسات على الاستعداد للنشر الآمن للذكاء الاصطناعي عبر بيئاتها:
- الاستفادة من الذكاء الاصطناعي الموثوق به من خلال تقييم سياسات وممارسات البائعين.
- تمكين الوصول الآمن إلى المستخدمين والنماذج والبيانات.
- حماية نماذج الذكاء الاصطناعي والبيانات والبنية التحتية من الهجمات المعادية.
- تنفيذ حماية خصوصية البيانات في مراحل التدريب والاختبار والعمليات.
- إجراء نمذجة التهديدات وممارسات الترميز الآمن في دورة حياة مطوري الذكاء الاصطناعي.
- إجراء الكشف عن التهديدات والاستجابة لها لتطبيقات الذكاء الاصطناعي والبنية التحتية.
- تقييم نضج الذكاء الاصطناعي باستخدام إطار عمل IBM للذكاء الاصطناعي