يعد AI security وهو اختصار أمن الذكاء الاصطناعي، عملية استخدام الذكاء الاصطناعي لتعزيز الوضع الأمني للمؤسسة. وبفضل أنظمة الذكاء الاصطناعي، يمكن للمؤسسات أتمتة كشف التهديدات والوقاية منها ومعالجتها لمكافحة الهجمات الإلكترونية بشكل أفضل ومكافحة اختراق أمن البيانات.
يمكن أن تدمج المؤسسات الذكاء الاصطناعي في ممارسات الأمن الإلكتروني بطرق عديدة. تستخدم أدوات أمن الذكاء الاصطناعي الأكثر شيوعًا التعلم الآلي والتعلم العميق لتحليل كميات هائلة من البيانات، بما في ذلك توجهات حركة المرور، واستخدام التطبيقات، وعادات التصفح، وبيانات أنشطة الشبكة الأخرى.
يسمح هذا التحليل للذكاء الاصطناعي باكتشاف الأنماط وإنشاء خط أساس أمني. يتم الإبلاغ عن أي نشاط خارج خط الأساس على الفور باعتباره حالة شاذة وتهديدًا إلكترونيًا محتملًا، ما يسمح بالمعالجة السريعة.
كما أن أدوات أمن الذكاء الاصطناعي تستخدم بشكل متكرر الذكاء الاصطناعي التوليدي (gen AI)، الذي تنشره النماذج اللغوية الكبيرة (LLMs)، لتحويل البيانات الأمنية إلى توصيات نصية عادية، ما يسهّل عملية اتخاذ القرار للفرق الأمنية.
تُظهر الأبحاث أن أدوات أمن الذكاء الاصطناعي تحسّن بشكل كبير من كشف التهديدات والاستجابة للحوادث. وفقًا لـتقرير تكلفة اختراق أمن البيانات الصادر من IBM، تمكنت المؤسسات التي تستخدم الأمن المدعوم بالذكاء الاصطناعي والأتمتة من تحديد وحصر اختراقات أمن البيانات أسرع من المؤسسات التي لا تستخدم أدوات الذكاء الاصطناعي بـ 180 يومًا في المتوسط.
كما وجد التقرير أيضًا أن المؤسسات التي تستخدم أمن الذكاء الاصطناعي على نطاق واسع توفر في المتوسط 1,76 مليون دولار أمريكي من تكاليف الاستجابة لاختراق أمن البيانات. وهذا فرق بنسبة 40% تقريبًا مقارنة بمتوسط تكلفة الاختراق للشركات التي لا تستخدم الذكاء الاصطناعي.
لهذه الأسباب، يتزايد الاستثمار في الأمن المدعوم بالذكاء الاصطناعي. توقعت دراسة حديثة أن يصل حجم سوق الأمن المدعوم بالذكاء الاصطناعي، الذي بلغت قيمته 20,19 مليار دولار أمريكي في عام 2023، إلى 141,64 مليار دولار أمريكي بحلول عام 2032، بمعدل نمو سنوي يبلغ 24.2%.1
النشرة الإخبارية الخاصة بالمجال
ابقَ على اطلاع دومًا بأهم—اتجاهات المجال وأكثرها إثارة للفضول—بشأن الذكاء الاصطناعي والأتمتة والبيانات وغيرها الكثير مع نشرة Think الإخبارية. راجع بيان الخصوصية لشركة IBM.
سيتم تسليم اشتراكك باللغة الإنجليزية. ستجد رابط إلغاء الاشتراك في كل رسالة إخبارية. يمكنك إدارة اشتراكاتك أو إلغاء اشتراكك هنا. راجع بيان خصوصية IBM لمزيد من المعلومات.
يعني أمن الذكاء الاصطناعي أشياء مختلفة في سياقات مختلفة. بينما تركِّز هذه الصفحة على استخدام الذكاء الاصطناعي لتحسين الأمن الإلكتروني، هناك تعريفان شائعان آخران يركِّزان على تأمين نماذج الذكاء الاصطناعي من الاستخدام الضار أو الوصول غير المصرح به.
في أحد التعريفات، يركِّز خبراء الأمن الإلكتروني على كيفية استخدام عناصر التهديد للذكاء الاصطناعي لتحسين هجماتهم الإلكترونية أو استغلال أسطح هجوم جديدة.
على سبيل المثال، يمكن أن تساعد النماذج اللغوية الكبيرة (LLMs) المهاجمين على إنشاء هجمات تصيد احتيالي أكثر تخصيصًا وتعقيدًا. نظرًا لكونها تقنية جديدة نسبيًا، فإن نماذج الذكاء الاصطناعي توفر أيضًا فرصًا جديدة للهجمات الإلكترونية لمصادر التهديدات، مثل هجمات سلسلة التوريدات والهجمات العدائية (انظر "الثغرات الأمنية والمخاطر الأمنية المحتملة للذكاء الاصطناعي").
تعريف آخر لأمن الذكاء الاصطناعي يتعلق بتأمين عمليات نشر الذكاء الاصطناعي. وجدت دراسة حديثة أجراها معهد IBM Institute for Business Value أن 24% فقط من مشروعات الذكاء الاصطناعي التوليدي الحالية مؤمَّنة. يتضمن تأمين مشروعات الذكاء الاصطناعي ممارسات لحماية بيانات الذكاء الاصطناعي ونماذجه واستخداماته.
على سبيل المثال، تستهدف تمارين الفريق الأحمر -حيث يتصرف المتسللون الأخلاقيون كما لو كانوا خصومًا في العالم الحقيقي- أنظمة الذكاء الاصطناعي ونماذج التعلم الآلي ومجموعات البيانات التي تدعم تطبيقات الذكاء الاصطناعي والتعلم الآلي.
قد يتضمن تأمين عمليات نشر الذكاء الاصطناعي أيضًا المراقبة للقضاء على حالات الذكاء الاصطناعي الظلي، وهو الاستخدام غير المصرح به لنماذج وأدوات الذكاء الاصطناعي. وتعمل كل هذه الممارسات أيضًا على مساعدة الشركات على إدارة مخاطر الذكاء الاصطناعي ومعالجة مشكلات الامتثال.
يعد مشهد التهديد الإلكتروني اليوم معقدًا. وقد أدى التحول إلى البيئات السحابية والسحابية الهجينة إلى انتشار البيانات وتوسيع نطاق أسطح الهجوم في الوقت الذي تواصل فيه مصادر التهديدات إيجاد طرق جديدة لاستغلال الثغرات الأمنية. وفي الوقت نفسه، لا يزال هناك نقص في المتخصصين في مجال الأمن الإلكتروني؛ حيث يوجد في الولايات المتحدة وحدها أكثر من 700000 وظيفة شاغرة.2
والنتيجة هي أن الهجمات الإلكترونية أصبحت الآن أكثر تكرارًا وأكثر تكلفة. وفقًا لتقرير تكلفة خرق أمن البيانات، بلغ متوسط التكلفة العالمية لمعالجة اختراق أمن البيانات في عام 2023 نحو 4,45 ملايين دولار أمريكي، بزيادة قدرها 15% على مدى ثلاث سنوات.
يمكن أن يقدِّم أمن الذكاء الاصطناعي حلًا. من خلال أتمتة الكشف عن التهديدات والاستجابة لها، يسهِّل الذكاء الاصطناعي منع الهجمات والإمساك بمصادر التهديدات في الوقت الفعلي. يمكن أن تساعد أدوات الذكاء الاصطناعي في كل شيء بدءًا من منع هجمات البرامج الضارة من خلال تحديدها وعزلها إلى اكتشاف هجمات القوة الغاشمة من خلال التعرُّف على محاولات تسجيل الدخول المتكررة وحظرها.
وبفضل أمن الذكاء الاصطناعي، يمكن للمؤسسات مراقبة عملياتها الأمنية بشكل مستمر واستخدام خوارزميات التعلم الآلي للتكيّف مع التهديدات الإلكترونية المتطورة.
َيُعد عدم الاستثمار في أمن الذكاء الاصطناعي مكلفًا. تواجه المؤسسات التي لا تعتمد أمن الذكاء الاصطناعي تكلفة خرق بيانات بمتوسط 5.36 مليون دولار أمريكي، أي بزيادة قدرها 18.6% عن المتوسط لجميع المؤسسات.
حتى الإجراءات الأمنية المحدودة قد توفِّر وفورات كبيرة: فقد أبلغت المؤسسات التي تعتمد أمن ذكاء اصطناعي محدود عن متوسط تكلفة خرق بيانات قدره 4.04 ملايين دولار أمريكي - أي أقل بمقدار 400,000 دولار أمريكي عن المتوسط العام و28.1% أقل من تلك التي لا تعتمد أي أمن ذكاء اصطناعي.
وعلى الرغم من ميزات الذكاء الاصطناعي، إلا أنه يشكل تحديات أمنية، خاصةً مع أمن البيانات. لا تكون نماذج الذكاء الاصطناعي موثوقة إلا بقدر موثوقية بيانات التدريب الخاصة بها. يمكن أن تؤدي البيانات المتلاعب بها أو المتحيزة إلى نتائج إيجابية خاطئة أو استجابات غير دقيقة. على سبيل المثال، يمكن لبيانات التدريب المتحيزة المستخدمة في قرارات التوظيف أن تعزز التحيزات الجنسانية أو العرقية، حيث تفضّل نماذج الذكاء الاصطناعي مجموعات سكانية معينة وتمارس التمييز ضد مجموعات أخرى.3
كما يمكن لأدوات الذكاء الاصطناعي أن تساعد مصادر التهديد على استغلال الثغرات الأمنية بنجاح أكبر. على سبيل المثال، يمكن للمهاجمين استخدام الذكاء الاصطناعي لأتمتة اكتشاف ثغرات النظام أو إنشاء هجمات تصيد احتيالي متطورة.
ووفقًا لوكالة رويترز، شهد مكتب التحقيقات الفيدرالي (FBI) زيادة في الاختراقات الإلكترونية بسبب الذكاء الاصطناعي.4 كما وجد تقرير صدر مؤخرًا أن 75% من كبار المتخصصين في مجال الأمن الإلكتروني يشهدون المزيد من الهجمات الإلكترونية، حيث عزا 85% منهم هذا الارتفاع إلى المصادر السيئة التي تستخدم الذكاء الاصطناعي التوليدي.5
وفي المستقبل ستبحث العديد من المؤسسات عن طرق لاستثمار الوقت والموارد في الذكاء الاصطناعي الآمن لجَني ثمار ميزات الذكاء الاصطناعي دون المساس بأخلاقيات الذكاء الاصطناعي أو الأمن المدعوم بالذكاء الاصطناعي (انظر "أفضل ممارسات أمن الذكاء الاصطناعي").
يمكن أن توفِّر قدرات الذكاء الاصطناعي العديد من المزايا في تعزيز دفاعات الأمن الإلكتروني. تتضمن أهم ميزات الأمن المدعوم بالذكاء الاصطناعي ما يلي:
على الرغم من وجود العديد من الميزات، إلا أن اعتماد أدوات الذكاء الاصطناعي الجديدة يمكن أن يوسع نطاق سطح الهجوم على المؤسسة، وفرض العديد من التهديدات الأمنية.
تتضمن بعض المخاطر الأمنية الأكثر شيوعًا التي يشكلها الذكاء الاصطناعي ما يلي:
تعتمد أنظمة الذكاء الاصطناعي على مجموعات البيانات التي قد تكون عرضة للعبث والاختراقات وغيرها من الهجمات. يمكن أن تخفف المؤسسات من هذه المخاطر من خلال حماية سلامة البيانات وسريتها وتوافرها طوال دورة حياة الذكاء الاصطناعي بأكملها، بدءًا من التطوير وحتى التدريب والنشر.
يمكن لمصادر التهديد استهداف نماذج الذكاء الاصطناعي للسرقة أو الهندسة العكسية أو التلاعب غير المصرح به. قد يعرض المهاجمون سلامة النموذج للخطر من خلال التلاعب في بنيته أو أوزانه أو معلماته—وهي العناصر الأساسية التي تحدد سلوكيات وأداء نموذج الذكاء الاصطناعي.
تتضمن الهجمات العدائية التلاعب ببيانات الإدخال لخداع أنظمة الذكاء الاصطناعي، ما يؤدي إلى تنبؤات أو تصنيفات غير صحيحة. على سبيل المثال، قد يُنتج المهاجمون أمثلة عدائية تستغل الثغرات الأمنية في خوارزميات الذكاء الاصطناعي للتدخل في عملية اتخاذ القرارات الخاصة بنماذج الذكاء الاصطناعي أو لتحقيق التحيز.
وبالمثل تستخدم عمليات حقن الأوامر مطالبات خبيثة لخداع أدوات الذكاء الاصطناعي لاتخاذ إجراءات ضارة، مثل تسريب البيانات أو حذف المستندات المهمة.
إذا لم تُعطِ الفرق الأمنية الأولوية للسلامة والأخلاقيات عند نشر أنظمة الذكاء الاصطناعي، فإنها تخاطر بارتكاب انتهاكات للخصوصية وتفاقم التحيزات والإيجابيات الزائفة. لا يمكن للمؤسسات ضمان العدالة والشفافية والمساءلة في عملية اتخاذ القرارات المتعلقة بالذكاء الاصطناعي إلا من خلال النشر الأخلاقي.
يعد الالتزام بالمتطلبات القانونية والتنظيمية أمرًا ضروريًا لضمان الاستخدام القانوني والأخلاقي لأنظمة الذكاء الاصطناعي . يجب أن تمتثل المؤسسات إلى اللوائح التنظيمية مثل اللائحة العامة لحماية البيانات (GDPR)، California Consumer Privacy Act (CCPA) وقانون الذكاء الاصطناعي للاتحاد الأوروبي أو المخاطرة بكشف البيانات الحساسة ومواجهة عقوبات قانونية كبيرة .
تنطوي هجمات التلاعب في الإدخال على تغيير بيانات الإدخال للتأثير على سلوك أو نتائج أنظمة الذكاء الاصطناعي. قد يتلاعب المهاجمون ببيانات الإدخال لتفادي الكشف، أو تجاوز التدابير الأمنية، أو التأثير على عمليات صنع القرار، ما قد يؤدي إلى نتائج متحيزة أو غير دقيقة.
على سبيل المثال، يمكن لعنصر التهديد أن يعمل على تقويض مخرجات نظام الذكاء الاصطناعي في هجمات تسميم البيانات عن طريق تغذيته ببيانات تدريب سيئة عمدًا.
تحدث هجمات سلسلة التوريد عندما تستهدف مصادر التهديدات أنظمة الذكاء الاصطناعي على مستوى سلسلة التوريد، بما في ذلك في مراحل التطوير، والنشر، والصيانة. على سبيل المثال، قد يستغل المهاجمون الثغرات الأمنية في عناصر، أو مكتبات أو وحدات برمجية تابعة لجهات خارجية مستخدمة في تطوير الذكاء الاصطناعي، ما يؤدي إلى اختراق أمن البيانات أو الوصول غير المصرح به.
يمكن أن تنحرف أو تتلف نماذج الذكاء الاصطناعي بمرور الوقت، ما يؤدي إلى تدهور الأداء أو الفاعلية. يمكن للخصوم أن يستغلوا الثغرات الأمنية في نموذج الذكاء الاصطناعي التالف أو المنحرف للتلاعب بالمخرجات. يمكن أن تراقب المؤسسات نماذج الذكاء الاصطناعي لرصد التغييرات في الأداء أو السلوك أو الدقة؛ للحفاظ على موثوقيتها وملاءمتها.
تتسم تطبيقات الذكاء الاصطناعي في الأمن الإلكتروني بالتنوع والتطور المستمر حيث أصبحت أدوات الذكاء الاصطناعي أكثر تقدمًا وسهولة في الوصول إليها.
تتضمن أكثر حالات استخدام أمن الذكاء الاصطناعي شيوعًا اليوم ما يلي:
حماية البيانات تتضمن حماية المعلومات الحساسة من فقدان البيانات وتلفها لحماية البيانات، وضمان توافرها وامتثالها للمتطلبات التنظيمية.
يمكن أن تساعد أدوات الذكاء الاصطناعي في تحسين حماية البيانات من خلال تصنيف البيانات الحساسة، ومراقبة حركة البيانات، ومنع الوصول غير المصرح به أو التسريب. يمكن للذكاء الاصطناعي أيضًا تحسين عمليات التشفير والترميز لحماية البيانات في حالة السكون وفي النقل.
بالإضافة إلى ذلك، يمكن أن يتكيف الذكاء الاصطناعي تلقائيًا مع مشهد التهديدات والمراقبة المستمرة للتهديدات على مدار الساعة، ما يسمح للمؤسسات باستباق التهديدات الإلكترونية الناشئة.
أمن نقطة النهاية يتضمن حماية نقطة النهاية، مثل أجهزة الكمبيوتر والخوادم والأجهزة المحمولة، من تهديدات الأمن الإلكتروني.
يمكن أن تحسِّن حلول الذكاء الاصطناعي من اكتشاف نقاط النهاية والاستجابة لها (EDR) من خلال المراقبة المستمرة لنقاط النهاية لرصد السلوكيات المشبوهة وحالات الخروج عن المألوف؛ للكشف عن التهديدات الأمنية في الوقت الفعلي.
يمكن أن تساعد خوارزميات التعلم الآلي أيضًا في تحديد تهديدات نقطة النهاية المتقدمة والتخفيف من آثارها، مثل برنامج ضار بدون ملفات وهجوم دون انتظار قبل أن تتسبب في ضرر.
يمكن أن يساعد نظام الذكاء الاصطناعي على حماية البيانات الحساسة عبر البيئات السحابية الهجينة من خلال تحديد البيانات الظلية تلقائيًا، ومراقبة الحالات الشاذة في الوصول إلى البيانات، وتنبيه متخصصي الأمن الإلكتروني بشأن التهديدات فور حدوثها.
تبحث منصات صيد التهديدات بشكل استباقي عن علامات النشاط الخبيث داخل شبكة المؤسسة.
بفضل التكامل مع الذكاء الاصطناعي، يمكن لهذه الأدوات أن تصبح أكثر تقدمًا وفعالية من خلال تحليل مجموعة كبيرة من البيانات، وتحديد علامات التطفل، والمساعدة على كشف التهديدات المتقدمة والاستجابة لها بشكل أسرع.
مع ازدياد شيوع الهجمات الإلكترونية وسرقة الهوية، تحتاج المؤسسات المالية إلى طرق لحماية عملائها وأصولها.
يساعد الذكاء الاصطناعي هذه المؤسسات عن طريق تحليل بيانات المعاملات تلقائيًا بحثًا عن الأنماط التي تُشير إلى الاحتيال. بالإضافة إلى ذلك، يمكن لخوارزميات التعلم الآلي التكيف مع التهديدات الجديدة والمتطورة في الوقت الفعلي، ما يسمح لمقدِّمي الخدمات المالية بتحسين قدراتهم على الكشف عن الغش بشكل مستمر والبقاء متقدِّمين على عناصر التهديد.
في أغلب الأحيان تكون أدوات أمن الذكاء الاصطناعي أكثر فعالية عند دمجها مع البنية التحتية الأمنية الحالية للمؤسسة.
على سبيل المثال، يُعَد التنسيق الأمني والأتمتة والاستجابة (SOAR) حلًا برمجيًا تستخدمه العديد من المؤسسات لتبسيط العمليات الأمنية. يمكن أن يتكامل الذكاء الاصطناعي مع منصات SOAR لأتمتة المهام الروتينية وسير العمل. يمكن أن يُتيح هذا التكامل استجابةً أسرع للحوادث، ويُتيح للمحللين الأمنيين التركيز على المشكلات الأكثر تعقيدًا.
تعمل أدوات إدارة الهوية والوصول (IAM) على إدارة كيفية وصول المستخدمين إلى الموارد الرقمية وما يمكنهم فعله بها. وهدفها هو إبعاد المتسللين مع ضمان حصول كل مستخدم على الأذونات التي يحتاجها بالضبط، لا أكثر.
يمكن أن تحسن حلول IAM المستندة إلى الذكاء الاصطناعي هذه العملية من خلال توفير ضوابط وصول دقيقة تعتمد على الأدوار والمسؤوليات والسلوك، ما يضمن وصول المستخدمين المصرح لهم فقط إلى البيانات الحساسة.
كما يمكن للذكاء الاصطناعي تحسين عمليات المصادقة باستخدام التعلم الآلي لتحليل أنماط سلوك المستخدم، وإتاحة تدابير المصادقة التكيفية التي تتغير بناءً على مستويات المخاطر لدى المستخدمين الأفراد.
لقد سهَّلت النماذج اللغوية الكبيرة مثل ChatGPT من تنفيذ هجمات التصيد الاحتيالي وجعلت التعرف عليها أصعب. ومع ذلك أصبح الذكاء الاصطناعي أداة لمكافحة التصيد الاحتيالي.
يمكن أن تساعد نماذج التعلم الآلي المؤسسات على تحليل البريد الإلكتروني والمراسلات الأخرى في البحث عن بوادر التصيد الاحتيالي، وتحسين دقة الكشف عنه، والحد من محاولات التصيد الاحتيالي الناجحة. يمكن أن تقدِّم أيضًا حلول أمن البريد الإلكتروني المدعومة بالذكاء الاصطناعي استعلامات تهديدات واستجابات مؤتمتة في الوقت الفعلي لاكتشاف هجمات التصيد الاحتيالي فور حدوثها.
إدارة الثغرات الأمنية هي الاكتشاف المستمر للثغرات الأمنية في البنية التحتية لتقنية المعلومات والبرمجيات الخاصة بالمؤسسة، وتحديد أولوياتها، والتخفيف منها، وحلها.
يمكن أن يعزز الذكاء الاصطناعي ماسحات الثغرات الأمنية التقليدية عن طريق تحديد أولويات الثغرات الأمنية آليًا بناءً على التأثير المحتمل واحتمالية استغلالها. وهذا يساعد المؤسسات على التصدي للمخاطر الأمنية الأهم أولاً.
كما يمكن للذكاء الاصطناعي أتمتة إدارة التصحيح؛ لتقليل التعرض للتهديدات الإلكترونية على الفور.
لتحقيق التوازن بين المخاطر الأمنية للذكاء الاصطناعي وميزاته، تقوم العديد من المؤسسات بصياغة استراتيجيات أمنية واضحة مدعومة بالذكاء الاصطناعي تحدد كيفية قيام الأطراف المعنية بتطوير أنظمة الذكاء الاصطناعي وتنفيذها وإدارتها.
وعلى الرغم من أن هذه الاستراتيجيات قد تختلف بالضرورة من شركة لأخرى، إلا أن أفضل الممارسات الشائعة الاستخدام تشمل ما يلي:
يمكن أن تساعد ممارسات إدارة البيانات وإدارة المخاطر على حماية المعلومات الحساسة المستخدمة في عمليات الذكاء الاصطناعي مع الحفاظ على فاعلية الذكاء الاصطناعي.
من خلال استخدام مجموعة البيانات التدريبية ذات الصلة والدقيقة، وتحديث نماذج الذكاء الاصطناعي بالبيانات الجديدة بانتظام، يمكن أن تساعد المؤسسات على ضمان تكيف نماذجها مع التهديدات المتطورة بمرور الوقت.
يمكن أن يساعد دمج أدوات الذكاء الاصطناعي مع البنية التحتية الحالية للأمن الإلكتروني مثل موجزات استعلامات التهديدات وأنظمة SIEM في زيادة الفعالية إلى أقصى حد مع تقليل الاضطرابات وفترة التعطل التي يمكن أن تصاحب نشر تدابير أمنية جديدة.
إن الحفاظ على الشفافية في عمليات الذكاء الاصطناعي من خلال توثيق الخوارزميات ومصادر البيانات والتواصل بشكل مفتوح مع الأطراف المعنية حول استخدام الذكاء الاصطناعي يمكن أن يساعد على تحديد التحيزات المحتملة وعدم العدالة والتخفيف منها.
بينما يمكن لأدوات الذكاء الاصطناعي تحسين الوضع الأمني، إلا أنها يمكن أن تستفيد أيضًا من تدابير الأمان الخاصة بها.
يمكن أن يساعد التشفير، وضوابط التحكم في الوصول، وأدوات مراقبة التهديدات في حماية أنظمة الذكاء الاصطناعي والبيانات الحساسة التي تستخدمها.
وتساعد المراقبة المستمرة لأنظمة الذكاء الاصطناعي لرصد الأداء والامتثال والدقة المؤسسات على تلبية المتطلبات التنظيمية وتحسين نماذج الذكاء الاصطناعي بمرور الوقت.