Modèle de capacités de l’IA générative

Essentielles pour atteindre les objectifs stratégiques et les exigences opérationnelles, les capacités métier sont décrites dans le modèle de capacités de l’architecture d’IA générative. Il comprend six catégories principales, présentant les capacités uniques et complémentaires nécessaires à une mise en œuvre efficace de l’IA générative, avec une documentation complète disponible dans d’autres architectures.

• Le groupe GenAI Operations regroupe les capacités requises pour gérer, déployer et personnaliser les modèles d’IA générative à utiliser au sein d’une entreprise. Cette catégorie comprend les capacités d’entraînement et d’optimisation des modèles, de gestion du cycle de vie des modèles une fois déployés et de gestion des modèles et des jeux de données mis à la disposition des utilisateurs au sein de l’entreprise.

• Le groupe GenAI Application Development regroupe les capacités nécessaires pour ajuster les modèles de base généraux afin de les utiliser dans des solutions spécifiques aux entreprises et à des domaines, ainsi que pour développer des applications d’IA générative complètes. Cela inclut les capacités nécessaires pour créer et déployer des applications d’IA agentique, ainsi que pour tester et régler les prompts.

• Le groupe GenAI Governance est une suite de capacités nécessaires pour surveiller et gérer efficacement les modèles déployés en production. Il comprend des capacités permettant de contrôler les réponses précises et appropriées des modèles, des capacités de protection des modèles contre des entrées inappropriées et/ou malveillantes, ainsi que des capacités de gouvernance permettant de gérer les risques pesant sur l’entreprise et de contribuer au respect des exigences en matière de conformité réglementaire et de reporting.

• Le groupe GenAI Security Management se concentre sur les capacités nécessaires pour protéger les systèmes d’IA, en garantissant leur déploiement éthique et responsable. Cela comprend la sécurisation de l’ensemble de la pile d’IA, la protection à la fois des modèles et de leur utilisation, ainsi que les données sur lesquelles ils s’appuient.

Les autres groupes de capacités soutiennent les capacités de l’IA générative. Elles ne sont pas propres à l’IA générative, mais elles doivent être présentes pour la soutenir en tant que capacité d’entreprise. Ces groupes sont les suivants :

• Data Management est un groupe de capacités permettant de stocker, de gérer et de transformer les données sous des formes qui les rendent aptes au réglage et à l’entraînement de modèles d’IA générative. Cette catégorie comprend également les capacités de journalisation et d’évaluation des réponses des modèles à des fins d’audit, ainsi qu’en tant qu’entrée pour un réglage et un ajustement ultérieurs du modèle.
   

• Le groupe Supporting Capabilities est un ensemble de capacités d’application, d’intégration et d’opérations informatiques nécessaire pour déployer et gérer avec succès les solutions d’IA générative au sein d’une entreprise.
   

• Le groupe GenAI Resources capture les capacités matérielles et de plateforme nécessaires pour développer, régler, déployer et gérer efficacement des modèles et solutions d’IA générative.

Chaque catégorie de capacités est composée d’un ou plusieurs groupes de capacités. Cette section présente les groupes et les capacités essentiels à l’IA générative.

Le groupe de capacités Model Hub englobe les capacités nécessaires pour gérer les modèles importés ainsi que ceux réglés ou entraînés par l’entreprise. Ces capacités permettent aux entreprises de gérer les modèles et les jeux de données disponibles pour une utilisation au sein de l’entreprise, tout en limitant l’accès aux modèles et aux jeux de données à des utilisateurs ou groupes spécifiques au sein de l’entreprise. Les capacités Model Importing et Data Importing sont des capacités clés qui permettent aux entreprises de recevoir des modèles provenant du nombre croissant de référentiels de modèles publics tels que Hugging Face.

Le groupe de capacités Model Hosting permet de déployer des modèles généraux et réglés en tant que services API au sein d’une entreprise, d’optimiser l’utilisation des ressources, de permettre un affinement et un remplacement indépendants et de simplifier la gouvernance. La gestion des politiques d’accès aux modèles est un élément clé de ce groupe. Elle garantit que l’accès aux modèles est limité aux utilisateurs et aux groupes autorisés, empêchant ainsi toute utilisation non autorisée.

Le groupe Model Customization est un groupe de capacités qui permet à une entreprise de régler et d’entraîner des modèles d’IA générative pour des besoins commerciaux spécifiques. En général, cette capacité sera mise en œuvre à l’aide d’une plateforme cloud, car le modèle de paiement à l’utilisation du cloud est bien adapté aux besoins imprévisibles des ressources de réglage et d’entraînement.

Le groupe Model and Data Governance est un ensemble de capacités essentielles pour qu’une entreprise puisse utiliser des modèles d’IA générative à grande échelle. Plus précisément, ces capacités fournissent aux entreprises les informations dont elles ont besoin pour surveiller et gérer les risques liés aux modèles, comme l’introduction de biais dans les réponses, ainsi que pour répondre aux exigences réglementaires et de conformité en matière de transparence et d’équité des modèles.

Le groupe Model Monitoring est l’analogie opérationnelle de la gouvernance des modèles ; où la gouvernance des modèles traite s’occupe de la gestion des modèles et des risques à long terme, les capacités de surveillance des modèles permettent aux entreprises de surveiller et de gérer les opérations de modèles en temps réel. La surveillance des modèles comprend plusieurs capacités clés, notamment :

• Bias Detection : capacité à détecter et à signaler les réponses d’un modèle qui s’écartent des réponses établies/idéales et qui commencent à favoriser un ensemble de résultats par rapport à un autre.

• Hate, Abuse and Profanity (HAP) Detection : capacité à détecter et filtrer les contenus haineux, abusifs et grossiers à la fois dans les messages soumis par les utilisateurs et dans les réponses générées par le modèle. Ces fonctionnalités sont considérées comme « basiques » ; les entreprises choisissent souvent d’étendre la liste des sujets filtrés pour y inclure des sujets qui ne sont pas adaptés à leur activité, comme des sujets à caractère sexuel dans un bureau de prêt, ou pour s’adapter aux normes sociales d’un public cible.

• Prompt Monitoring and Security est une capacité émergente requise pour protéger les modèles déployés contre les attaques, telles que l’injection de prompt, conçues pour corrompre le modèle ou contourner les contrôles de modèle établis par l’entreprise.
  
  

GenAI Compliance Management est une catégorie de capacités qui vise à activer les contrôles nécessaires pour « sécuriser l’utilisation » de l’IA sur la pile applicative et « sécuriser les applications » elles-mêmes. Il convient de respecter les normes éthiques et les directives pour s’assurer que les systèmes d’IA respectent les valeurs et les droits humains.

• AI App Compliance :capacité à permettre le respect des « applications » d’IA aux directives, réglementations et normes établies. Elle fournit des capacités pour mettre en place des contrôles, parmi lesquelles AI App Posture Management & Compliance, Conduct Trustworthy AI System Testing.

• AI Model Compliance : capacité à permettre la gestion et le respect des modèles d’IA aux directives, réglementations et normes établies. Elle permet d’effectuer des contrôles clés, parmi lesquels Model Drift Tracking, Model Posture Management & Compliance.

• Legal and Compliance Management : cette capacité permet de s’assurer qu’une entreprise se tient au courant du paysage réglementaire (veille réglementaire) et respecte les exigences légales, les règles et les normes régissant le développement, le déploiement, la surveillance et l’utilisation de l’IA (par exemple, Ongoing Compliance & Regulatory Watch)
   

AI Application Security Management : cette catégorie de capacités vise à faciliter les contrôles nécessaires pour « sécuriser » l’utilisation de l’IA sur la pile d’applications et « sécuriser les applications » elles-mêmes. Il convient de respecter les normes éthiques et les directives pour s’assurer que les systèmes d’IA respectent les valeurs et les droits humains.

• AI App Threat Management. and Protection : identifier, évaluer et atténuer les risques et les vulnérabilités susceptibles d’affecter la sécurité, les fonctionnalités ou la fiabilité d’une application d’IA, tout en garantissant sa capacité à s’adapter, à récupérer et à continuer à fonctionner efficacement, même en cas d’événements inattendus, de défaillances ou d’interruptions. Elle permet également de garantir la robustesse, la sécurité et la fiabilité des systèmes d’IA tout au long de leur cycle de vie.

• AI App Interaction Safety and Security : mécanismes qui permettent de garantir que les interactions entre les systèmes d’IA et leurs utilisateurs, d’autres systèmes et l’environnement se déroulent de manière sûre et sécurisée. (par exemple, Input manipulation, Restrict Excessive Queries, Prevent Toxic Result).

• AI App Safety : capacités et pratiques permettant de garantir le fonctionnement sûr et fiable des systèmes d’IA. Elles englobent des stratégies visant à prévenir les conséquences imprévues, les erreurs et les dommages causés par les applications d’IA (par exemple, Document Trustworthy AI Effort, Fairness Assessment).
   

AI Model Security Management : cette catégorie de capacités concerne la mise en place des contrôles nécessaires pour « sécuriser la couche modèle » ainsi que la sécurisation de l’utilisation des modèles. Mettre en œuvre les bonnes pratiques pour la formation, la validation et l’évaluation des modèles afin d’améliorer les performances et la fiabilité.

• Prompt Safety & Security permet de s’assurer que les prompts d’entrée fournis aux modèles d’IA sont sûrs, non malveillants et alignés sur le comportement prévu du modèle et de protéger le modèle contre les accès non autorisés, les altérations ou les attaques. Permet aussi de vérifier que les prompts de réponse sont sûrs et sécurisés en termes de contenu qu’ils peuvent révéler par inadvertance comme des informations personnelles (PII) (par exemple, Prompt Injection Protection, Prevent Inference Attacks / Minimize Query Response, Prevent Toxic Results).

• AI Model Threat Detection : capacité d’identifier et d’atténuer les risques ou vulnérabilités potentiels qui pourraient compromettre l’intégrité, la sécurité ou la performance des modèles d’IA ainsi que l’interaction avec ces modèles (par exemple, Model Security Testing, Model Vulnerability Mitigation).

• AI Model Access Management : restreindre l’accès aux modèles d’IA générative, aux paramètres des modèles, aux données d’entraînement et aux API afin d’éviter les abus et les vecteurs d’attaque potentiels. Cette fonctionnalité permet de contrôler l’accès aux modèles exposés à des fins d’utilisation en entreprise, y compris pour les applications d’IA, mais aussi de sécuriser les registres de modèles internes et de limiter l’accès interne aux modèles de production. Ces contrôles d’accès doivent inclure des politiques contextuelles qui déterminent qui, quoi, quand et depuis où.
   

AI Data Security Management : cette catégorie de capacités permet aux contrôles de « sécuriser la couche de données ». Établir des lignes directrices claires pour la collecte, le stockage et l’utilisation des données afin de garantir la qualité des données et d’atténuer les biais. Bien que la sécurité des données ne soit pas propre à l’IA générative, nous nous concentrerons uniquement sur les domaines où l’IA générative nécessite une attention particulière du point de vue des données.

• Data Privacy and Confidentiality : capacité à protéger les informations sensibles, en veillant à ce qu’elles soient traitées de manière appropriée et restent privées et accessibles uniquement aux systèmes et aux utilisateurs autorisés (par exemple, Privacy Protections, Sensitive Data Security, Data Confidentiality)
   

Agentic AI est un ensemble de capacités requises pour créer et déployer des applications d’IA agentique. Il s’agit notamment de fonctionnalités de base telles que Routing and Orchestration, Tool Management et Tool Calling.

GenAI Tuning est un groupe de capacités nécessaires pour « personnaliser » un modèle génératif général en fonction des besoins de l’entreprise. Les modèles sont entraînés sur une large base de connaissances et n’auront aucune connaissance du jargon et des processus spécifiques du secteur. Ainsi, la plupart des entreprises devront utiliser des fonctionnalités telles que Prompt Engineering, Prompt Tuning et Model Fine-tuning pour créer un modèle qui comprend les termes et les processus de l’activité de l’entreprise.

Les capacités GenAI Application permettent aux entreprises de développer des applications d’IA générative avancées. Elles offrent notamment la possibilité de générer dynamiquement des fonctions pour répondre aux requêtes des utilisateurs ; la mémoire conversationnelle, qui permet aux applications d’IA générative de conserver et de référencer les interactions antérieures d’une manière conversationnelle ; et le routage des modèles, qui permet aux applications d’acheminer dynamiquement les requêtes vers le modèle le mieux adapté pour y répondre.