Bonnes pratiques pour sécuriser vos déploiements d’IA

Les entreprises qui adoptent l’IA générative attendent de ces projets une multitude d’avantages, des gains d’efficacité et de productivité à l’amélioration de la rapidité de l’activité, en passant par une plus grande innovation en matière de produits et de services. Cependant, l’un des facteurs essentiels de cette innovation en matière d’IA est la confiance. Une IA digne de confiance repose sur la compréhension de son fonctionnement et de la manière dont elle prend des décisions.

  Selon une enquête menée auprès de cadres par l’Institute for Business Value d’IBM, 82 % des personnes interrogées affirment qu’une IA sécurisée et digne de confiance est essentielle à la réussite de leur entreprise, mais que seulement 24 % des projets d’IA générative sont sécurisés. Cela laisse un fossé considérable dans la sécurisation des projets d’IA connus. Si l’on ajoute à cela l’IA fantôme présente au sein des entreprises, le déficit de sécurité de l’IA se creuse un peu plus.

Les entreprises ont un tout nouveau portefeuille de projets en cours de conception qui tirent parti de l’IA générative. Pendant la phase de collecte et de traitement des données, vous devez non seulement recueillir d’immenses quantités de données pour alimenter votre modèle, mais aussi autoriser vos différents collaborateurs (data scientists, ingénieurs, développeurs, etc.) à y accéder. La centralisation de toutes ces données en un seul endroit et l’accès à ces données par de nombreuses personnes présentent un risque inhérent. Cela signifie que l’IA générative est un nouveau type de stockage de données capable de créer de nouvelles données à partir de données organisationnelles existantes. Que vous ayez entraîné le modèle, que vous l’ayez affiné ou que vous l’ayez connecté à une RAG (base de données vectorielle), ces données contiennent probablement des informations personnelles identifiables, des questions de confidentialité et d’autres informations sensibles. Cette montagne de données sensibles est une cible de choix et bien visible que les attaquants vont essayer d’atteindre.

Dans le cadre du développement de modèles, de nouvelles applications sont conçues d’une manière totalement nouvelle, avec de nouvelles vulnérabilités qui deviennent de nouveaux points d’entrée que les attaquants essaieront d’exploiter. Le développement commence souvent par le téléchargement et la réutilisation, par les équipes de science des données, de modèles de machine learning open source préentraînés provenant de référentiels de modèles en ligne tels que HuggingFace ou TensorFlow Hub. Les référentiels open source de partage de modèles sont nés d’une complexité inhérente à la science des données, d’une pénurie de praticiens et de la valeur qu’ils apportent aux entreprises en réduisant considérablement le temps et les efforts nécessaires à l’adoption de l’IA générative. Cependant, ces référentiels peuvent ne pas bénéficier de contrôles de sécurité complets, ce qui répercute les risques sur l’entreprise… et les acteurs malveillants comptent sur ça. En effet, cela leur permet d’injecter une porte dérobée ou un logiciel malveillant dans l’un de ces modèles, puis de charger le modèle infecté dans les référentiels de partage de modèles, affectant ainsi tous ceux qui le téléchargent. Étant donné les lacunes de sécurité et la qualité croissante de données sensibles généralement associées aux modèles de ML, les attaques ciblant ces modèles peuvent avoir des conséquences désastreuses.

Lors de l’inférence et de l’utilisation en direct, les attaquants peuvent manipuler les prompts pour contourner les garde-fous et influencer le comportement des modèles afin de générer des réponses inacceptables contenant des prompts dangereux, dont des informations biaisées et des informations fausses ou autrement toxiques, impactant la réputation. Les attaquants peuvent également manipuler le modèle et à analyser les paires entrée/sortie pour entraîner un modèle de substitution à imiter son comportement et « voler » facilement ses capacités afin de faire perdre à l’entreprise son avantage concurrentiel.

Les entreprises suivent des approches différentes pour sécuriser l’IA à mesure que les normes et les cadres de sécurisation de l’IA évoluent. Le cadre des exigences relatif à l’IA d’IBM s’articule autour de la sécurisation des principes clés du déploiement de l’IA : sécurisation des données, des modèles et de l’utilisation. En outre, vous devez sécuriser l’infrastructure sur laquelle les modèles d’IA sont construits et exécutés. Elles doivent également mettre en place une gouvernance de l’IA et contrôler l’équité, les biais et les dérives au fil du temps, le tout, de manière continue afin de suivre les changements ou les dérives du modèle.

• Sécuriser les données : les entreprises devront centraliser et rassembler des quantités massives de données pour tirer le meilleur parti de l’IA générative et maximiser sa valeur. Chaque fois que vous commencez à combiner et à centraliser vos plus beaux atouts au même endroit, vous vous exposez à des risques importants. Vous devez donc disposer d’un plan de sécurité des données pour identifier et protéger les données sensibles.
• Sécuriser le modèle : de nombreuses entreprises téléchargent des modèles à partir de sources ouvertes afin d’accélérer les efforts de développement. Les data scientists téléchargent ces modèles de boîtes noires sans aucune visibilité sur leur fonctionnement. Les attaquants ont le même accès à ces référentiels de modèles en ligne et peuvent déployer une porte dérobée ou un logiciel malveillant dans l’un de ces modèles, puis les charger à nouveau dans le référentiel comme point d’entrée pour toute personne téléchargeant le modèle infecté. Vous devez comprendre les vulnérabilités et les erreurs de configuration dans le déploiement.
• Sécuriser l’utilisation : les entreprises doivent garantir une utilisation sûre du déploiement de l’IA. Les acteurs de la menace peuvent exécuter une injection de prompt là où ils utilisent des prompts malveillants pour débrider des modèles, obtenir un accès non autorisé, voler des données sensibles ou introduire des biais dans les sorties. Les attaquants peuvent également créer des entrées pour collecter les sorties des modèles en accumulant un vaste ensemble de données de paires d’entrées-sorties pour entraîner un modèle de substitution à imiter le comportement du modèle cible et « voler » ses capacités. Vous devez comprendre l’utilisation du modèle et l’associer à des cadres d’évaluation pour garantir une utilisation sûre.

Tout cela doit être fait tout en maintenant la conformité réglementaire.

Alors que les entreprises font face aux menaces existantes et au coût croissant des violations de données, la sécurisation de l’IA deviendra une initiative d’envergure, et de nombreuses entreprises auront besoin d’aide. Pour aider les entreprises à utiliser une IA digne de confiance et sécurisée, IBM a lancé IBM Guardium AI Security. Basée sur des décennies d’expérience en sécurité des données avec IBM Guardium, cette nouvelle solution permet aux entreprises de sécuriser leur déploiement d’IA.

Cette solution vous permet de gérer les risques de sécurité et les vulnérabilités des données sensibles d’IA et des modèles d’IA. Elle vous aide aussi à identifier et à corriger les vulnérabilités du modèle d’IA, ainsi qu’à protéger les données sensibles. Surveillez en permanence les erreurs de configuration de l’IA, détectez les fuites de données et optimisez le contrôle d’accès grâce à un leader de confiance en matière de sécurité des données.

IBM Guardium Data Security Center est un composant de cette nouvelle offre : l’outil permet aux équipes chargées de la sécurité et de l’IA de collaborer au sein de l’entreprise grâce à des workflows intégrés, une visibilité commune sur les actifs de données et des politiques de conformité centralisées.

Sécuriser l’IA est un cheminement et nécessite la collaboration entre les équipes de différents services ; équipes de sécurité, équipes de gestion des risques et de conformité et équipes d’IA. De même, les entreprises doivent adopter une approche programmatique pour sécuriser leur déploiement de l’IA.

Découvrez comment Guardium AI Security peut aider votre entreprise et inscrivez-vous à notre webinaire pour en savoir plus.