كيف تعمل تقنيات الذكاء الاصطناعي التوليدي على توسيع نطاق هجمات التهديدات الداخلية

مع تسارع اعتماد الذكاء الاصطناعي التوليدي (GenAI)، يتزايد أيضًا خطر التهديدات الداخلية. وهذا يضع مزيدًا من الضغط على الشركات لإعادة النظر في سياسات الأمن والسرية.

في غضون سنوات قليلة، أحدث الذكاء الاصطناعي (AI) تغييراً جذرياً في عالم الأعمال. وبات 61% من العاملين في وظائف المعرفة يستخدمون الآن أدوات الذكاء الاصطناعي التوليدي (GenAI) — ولا سيما ChatGPT من OpenAI — ضمن روتينهم اليومي. وفي الوقت نفسه، يستثمر قادة الأعمال — مدفوعين في كثير من الأحيان جزئيًا بالخوف من فوات الفرصة — مليارات الدولارات في أدوات مدعومة بالذكاء الاصطناعي التوليدي. ولا يقتصر الاستثمار على روبوتات المحادثة فحسب، بل يشمل أيضًا أدوات توليد الصور، وبرمجيات استنساخ الأصوات، وحتى تقنية فيديو التزييف العميق لإنشاء صور رمزية افتراضية.

ولا نزال بعيدين عن مرحلة يصبح فيها الذكاء الاصطناعي التوليدي غير قابل للتمييز عن البشر. وحتى إن حدث ذلك يومًا ما — أو عندما يحدث — فإن المخاطر الأخلاقية ومخاطر الأمن الإلكتروني المصاحبة له ستواصل التصاعد. فعندما يتعذر التحقق مما إذا كان شخصٌ ما أو شيءٌ ما حقيقيًا أم لا، تزداد احتمالات التلاعب بالناس دون وعي منهم عبر الآلات.

يركّز جانب كبير من النقاش حول الأمن في عصر الذكاء الاصطناعي التوليدي على تبعاته في الهندسة الاجتماعية وغيرها من التهديدات الخارجية. لكن على متخصصي أمن المعلومات ألّا يغفلوا كيف يمكن لهذه التقنية أن توسّع بشكل كبير نطاق هجمات التهديدات الداخلية أيضًا.

ومع الاندفاع نحو تبنّي أدوات الذكاء الاصطناعي التوليدي، وجدت شركات عديدة نفسها بالفعل أمام تبعات غير متوقعة. ففي العام الماضي، أفادت تقارير أن Samsung حظرت استخدام أدوات الذكاء الاصطناعي التوليدي في مكان العمل بعد الاشتباه في مشاركة موظفين بيانات حساسة ضمن محادثات مع ChatGPT من OpenAI.

وبشكل افتراضي، تقوم OpenAI بتسجيل جميع المحادثات وأرشفتها، وقد تُستخدم هذه البيانات لاحقًا في تدريب أجيال مستقبلية من النموذج اللغوي الكبير (LLM). ونتيجة لذلك، قد تعاود معلومات حساسة — مثل أسرار الشركة — الظهور لاحقًا ضمن ردود النموذج على موجِّه يكتبه أحد المستخدمين. وفي ديسمبر الماضي، كان باحثون يختبرون مدى قابلية ChatGPT لتسريب البيانات عندما اكتشفوا تقنية بسيطة لاستخراج بيانات تدريب النموذج اللغوي الكبير (LLM) (PDF)، بما يثبت إمكانية حدوث ذلك من حيث المبدأ. قد تكون OpenAI قد سدّت هذه الثغرة لاحقًا، لكن من غير المرجح أن تكون الأخيرة.

ومع تسارع استخدام أدوات الذكاء الاصطناعي التوليدي في الأعمال خارج الأطر المعتمدة، يصبح لزامًا على فرق تكنولوجيا المعلومات أن تتدخل لضبط التوازن بين دفع الابتكار والحد من مخاطر الأمن الإلكتروني. قد تعرف فرق الأمن مصطلح تقنية المعلومات الظلية، لكن التهديد الأحدث هو الذكاء الاصطناعي الظلي — أي استخدام الذكاء الاصطناعي خارج نطاق حوكمة المؤسسة. ولمنع حدوث ذلك، تحتاج فرق تكنولوجيا المعلومات إلى إعادة النظر في سياساتها واتخاذ كل خطوة ممكنة لتعزيز الاستخدام المسؤول لهذه الأدوات.

قد يبدو تطوير حل ذكاء اصطناعي خاص ومفصّل على حالة استخدام محددة خطوة مباشرة لمواجهة هذه التهديدات. وقد تختار بعض الشركات بناء نموذج من الصفر، أو، وهو الأكثر شيوعًا، الانطلاق من نماذج الأساس مفتوحة المصدر ثم تكييفها. لكن لا خيار يخلو من تبعات. فمع أن مخاطر النماذج مفتوحة المصدر غالبًا ما تكون أعلى، فإن مخاطر الأنظمة الخاصة أقل وضوحًا وأكثر تعقيدًا — ولا تقل خطورة عنها.

ومع انتشار الوظائف المدعومة بالذكاء الاصطناعي في تطبيقات برمجيات الأعمال، تتحول هذه الوظائف إلى هدف مغرٍ للجهات الضارّة — بما في ذلك من داخل المؤسسة. ومن بين السيناريوهات الشائعة تسميم البيانات، حيث يتلاعب المخترقون بالبيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي. كما أن التهديد الداخلي حاضر بقوة، خصوصًا عندما تكون البيانات واسعة الانتشار داخل المؤسسة — كما يحدث في محادثات خدمة العملاء، أو أوصاف المنتجات، أو إرشادات العلامة التجارية. وإذا كانت هذه البيانات تُستخدم لتدريب نموذج ذكاء اصطناعي خاص، فمن الضروري التأكد من سلامتها وعدم العبث بها، سواء عن عمد أو عن غير قصد.

وقد يحاول أفراد من الداخل ذوو نوايا ضارّة، ممن لديهم صلاحية الوصول إلى نماذج الذكاء الاصطناعي الخاصة، إجراء هندسة عكسية لها. وعلى سبيل المثال، قد يتمكن شخص يمتلك معرفة داخلية من الالتفاف على مسارات التدقيق، لأن الأنظمة الخاصة تعتمد غالبًا حلول تسجيل ومراقبة مُخصّصة قد لا ترقى إلى مستوى أمان الحلول القياسية واسعة الانتشار.

يمثل استغلال ثغرات نماذج الذكاء الاصطناعي خطرًا جسيمًا. فبينما يمكن للنماذج مفتوحة المصدر أن تتلقى تصحيحات بسرعة بفضل إسهامات المجتمع، لا ينطبق الأمر نفسه على العيوب الخفية التي قد تتضمنها النماذج الخاصة. وللحد من هذه المخاطر، من الضروري أن يعمل قادة تكنولوجيا المعلومات على تأمين سلسلة توريد برمجيات الذكاء الاصطناعي لديهم. فالشفافية والرقابة هما السبيلان لضمان ألا يتحول الابتكار في الذكاء الاصطناعي إلى مصدر مخاطر غير مقبولة على أعمالك.