كيف يخترق المجرمون الإلكترونيون سلاسل توريد برمجيات الذكاء الاصطناعي؟

مع تزايد تبنّي الذكاء الاصطناعي عبر الصناعات وحالات الاستخدام، أصبح منع هجمات سلسلة توريد البرمجيات المستندة إلى الذكاء الاصطناعي أكثر أهمية من أي وقت مضى.

كشفت أبحاث حديثة من SentinelOne عن عنصر برامج فدية جديد أُطلق عليه NullBulge، يستهدف سلاسل توريد البرمجيات من خلال استغلال الأكواد في مستودعات مفتوحة المصدر مثل Hugging Face وGitHub. تدعي المجموعة أنها منظمة قرصنة ذات دوافع مناهضة للذكاء الاصطناعي، وتستهدف هذه الموارد بشكل خاص لتسميم مجموعات البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي.

سواء أكنت تستخدم حلول الذكاء الاصطناعي الشائعة، أو تدمجها في البنية التحتية التقنية الحالية عبر واجهات برمجة التطبيقات (APIs)، أو حتى تطوِّر نماذجك الخاصة انطلاقًا من نماذج أساسية مفتوحة المصدر، فإن سلسلة توريد برمجيات الذكاء الاصطناعي بأكملها أصبحت الآن تحت مجهر المهاجمين الإلكترونيين.

تؤدي العناصر مفتوحة المصدر دورًا حيويًا في سلسلة توريد الذكاء الاصطناعي. فقط أكبر المؤسسات تمتلك إمكانية الوصول إلى الكميات الهائلة من البيانات اللازمة لتدريب نموذج من الصفر، لذا عليها الاعتماد بشكل كبير على مجموعات البيانات مفتوحة المصدر مثل LAION 5B أو Common Corpus. كما يعني الحجم الهائل لمجموعات البيانات هذه أنه من الصعب للغاية الحفاظ على جودة البيانات والامتثال لقوانين حقوق النشر والخصوصية. على النقيض من ذلك، العديد من نماذج الذكاء الاصطناعي التوليدي السائدة مثل ChatGPT هي صناديق سوداء لأنها تستخدم مجموعات بياناتها المنسّقة الخاصة. ويأتي هذا مع مجموعة من التحديات الأمنية الخاصة به.

يمكن للنماذج المتخصصة والخاصة تحسين نماذج الأساس مفتوحة المصدر من خلال تدريب إضافي باستخدام مجموعات بياناتها الخاصة. على سبيل المثال، قد تستخدم شركة تطوِّر روبوت محادثة لخدمة العملاء من الجيل التالي سجلاتها السابقة لإنشاء نموذج مصمم خصيصًا لاحتياجاتها المحددة. لطالما كانت هذه البيانات هدفًا للمجرمين الإلكترونيين، لكن الصعود السريع للذكاء الاصطناعي التوليدي جعلها أكثر جاذبية للجهات الخبيثة.

من خلال استهداف مجموعات البيانات هذه، يمكن للمجرمين الإلكترونيين تسميمها بمعلومات مضللة أو أكواد وبيانات خبيثة. ثم، بمجرد دخول هذه المعلومات المخترقة في عملية تدريب نموذج الذكاء الاصطناعي، نبدأ بملاحظة تأثير متسلسل يمتد عبر دورة حياة برمجيات الذكاء الاصطناعي بأكملها. قد يستغرق تدريب النموذج اللغوي الكبير (LLM) آلاف الساعات وكمية هائلة من القدرة الحاسوبية. إنها مهمة مكلفة للغاية، ماليًا وبيئيًا. ومع ذلك، إذا تم اختراق مجموعات البيانات المستخدمة في التدريب، فمن المحتمل أن تبدأ العملية بأكملها من الصفر.

تحدث معظم هجمات سلسلة توريد برمجيات الذكاء الاصطناعي عبر طرق التلاعب الخلفية مثل تلك المذكورة أعلاه. ومع ذلك، هذه بالتأكيد ليست الطريقة الوحيدة، خاصةً مع تزايد انتشار الهجمات الإلكترونية التي تستهدف أنظمة الذكاء الاصطناعي وتعقيدها. يُعَد هجوم الفيضان من الأساليب الأخرى، حيث يرسل المهاجمون كميات هائلة من المعلومات غير الضارة عبر نظام الذكاء الاصطناعي لمحاولة إخفاء شيء آخر - مثل كود خبيث.

نشهد أيضًا تزايدًا في الهجمات على واجهات برمجة التطبيقات، خاصةً تلك التي تفتقر إلى إجراءات تحقق قوية. تُعَد واجهات برمجة التطبيقات أساسية لدمج الذكاء الاصطناعي في العديد من الوظائف التي تستخدمها الشركات اليوم، وعلى الرغم من الافتراض الشائع بأن أمن هذه الواجهات هو مسؤولية مزوِّد الحل، فإنه في الواقع مسؤولية مشتركة بشكل كبير.

من الأمثلة الحديثة على هجمات واجهة برمجة تطبيقات الذكاء الاصطناعي اختراق ZenML أو ثغرة منصة Nvidia للذكاء الاصطناعي. على الرغم من تعامل كلٍّ من المزوِّدين مع هذه القضايا، سيظهر المزيد مع توسُّع وتنوع هجمات المجرمين الإلكترونيين على سلاسل توريد البرمجيات.

لا ينبغي اعتبار أيٍّ من هذا تحذيرًا من استخدام الذكاء الاصطناعي. ففي النهاية، لن تتوقف عن استخدام البريد الإلكتروني بسبب خطر التصيّد الاحتيالي. ما تعنيه هذه التطورات هو أن الذكاء الاصطناعي أصبح الآن المجال الجديد للجريمة الإلكترونية، ويجب أن يكون الأمان جزءًا أساسيًا في كل ما تقوم به عند تطوير التقنيات المعتمدة على الذكاء الاصطناعي ونشرها واستخدامها وصيانتها - سواء أكانت ملكك أم مقدَّمة من مزوِّد خارجي.

لتحقيق ذلك، تحتاج الشركات إلى تتبُّع كامل لجميع العناصر المستخدمة في تطوير الذكاء الاصطناعي. كما أنها تحتاج أيضًا إلى قابلية التفسير والتحقق بشكل كامل لجميع مخرجات الذكاء الاصطناعي التي يتم إنشاؤها. ولا يمكن فعل ذلك دون مشاركة البشر في الحلقة وضمان أن يكون الأمن في صميم استراتيجيتك. أما إذا كنت ترى الذكاء الاصطناعي مجرد وسيلة لتوفير الوقت وخفض التكاليف عبر تسريح الموظفين، دون اهتمام حقيقي بالعواقب، فالأمر مسألة وقت قبل وقوع الكارثة.

تؤدي حلول الذكاء الاصطناعي الأمنية أيضًا دورًا حيويًا في مواجهة التهديدات. فهي ليست بديلًا عن المحللين الأمنيين الموهوبين، بل تعزيز قوي يساعدهم على أداء مهامهم بأفضل صورة وعلى نطاق لا يمكن تحقيقه بطرق أخرى.