Qu’est-ce que la gestion des agents IA ?

Le concept a attiré l’attention à mesure que les systèmes d’intelligence artificielle sont devenus plus autonomes et intégrés aux opérations des entreprises. Les premiers systèmes d’IA effectuaient souvent des tâches spécifiques avec une supervision humaine directe. Les agents IA modernes peuvent exécuter des workflows en plusieurs étapes, interagir avec des systèmes externes et prendre des décisions avec une intervention limitée.

À mesure que les organisations déploient un nombre croissant d’agents dans différents départements et sur différentes plateformes, elles ont de plus en plus besoin de moyens centralisés pour gérer la sécurité des agents et le contrôle opérationnel. Gartner prévoit que d’ici 2028, 33 % des applications logicielles d’entreprise intégreront l’IA agentique, contre moins de 1 % en 2024.¹

La gestion des agents IA combine généralement des contrôles techniques et des politiques opérationnelles. Les contrôles techniques peuvent inclure des outils de surveillance, des systèmes d’autorisation et des journaux d’activité. Les politiques opérationnelles définissent souvent qui peut déployer des agents, quelles tâches les agents peuvent accomplir et comment la supervision humaine doit fonctionner. Ensemble, ces contrôles aident les entreprises à gérer les risques tout en permettant aux agents de fonctionner efficacement.

Les entreprises abordent souvent la gestion des agents IA comme une couche intermédiaire entre les modèles IA et les opérations métier. Cette couche de gestion permet de coordonner plusieurs agents, d’acheminer les tâches et de suivre les performances au fil du temps. Elle peut également aider les entreprises à standardiser la manière dont les agents accèdent aux systèmes internes ou aux applications externes.

De nombreuses organisations relient désormais cette couche à l’idée plus large d’un plan de contrôle des agents, qui assure une supervision centralisée de l’orchestration des agents, des autorisations, de la gestion des identités et des opérations du cycle de vie. Cette structure permet de faire évoluer les déploiements d’agents avec une meilleure visibilité et une plus grande cohérence opérationnelle.

Ce domaine reflète également un changement plus large dans la façon dont les entreprises envisagent l’adoption de l’IA. Les logiciels traditionnels suivent généralement des règles fixes que les développeurs définissent à l’avance. Les agents IA peuvent se comporter de manière moins prévisible, car ils répondent dynamiquement aux prompts, aux données et aux environnements changeants. Beaucoup de ces systèmes reposent sur de grands modèles de langage (LLM) et des technologies d’IA générative capables d’adapter les réponses à l’exécution. Cette flexibilité crée de nouvelles opportunités, mais elle introduit aussi des défis de gouvernance des agents IA que de nombreuses pratiques de gestion informatique existantes n’ont pas été conçues pour relever.

La gestion des agents IA devient essentielle pour développer les déploiements d’IA agentique. Sans supervision coordonnée, les déploiements peuvent devenir fragmentés, incompatibles avec les politiques de gouvernance et offrir une visibilité limitée sur l’activité des systèmes. Ce problème est parfois appelé « prolifération des agents IA », lorsqu’un grand nombre d’agents déconnectés deviennent difficiles à surveiller, à maintenir ou à gouverner efficacement. En réponse, les fournisseurs introduisent des plateformes dédiées qui intègrent l’orchestration, la gouvernance et l’observabilité au sein d’une couche de gestion unifiée.

Les agents IA transforment le fonctionnement des organisations. Les clients de Salesforce indiquent que les agents et assistants IA génèrent un fort retour sur investissement dans l’informatique, les ventes et le service client.² À mesure que les agents assument des responsabilités plus larges, les entreprises ont besoin de structures plus claires pour coordonner leurs activités et gérer leurs interactions avec les employés et les systèmes.

Le passage à l’IA agentique modifie également la manière dont les entreprises envisagent la supervision opérationnelle. Les systèmes logiciels traditionnels sont prévisibles et étroitement délimités. Les agents IA opèrent avec plus de flexibilité car ils peuvent interpréter des objectifs, formuler des recommandations et interagir avec plusieurs outils en temps réel. Cette flexibilité améliore l’efficacité tout en introduisant de la complexité. Les entreprises ont besoin de moyens centralisés pour surveiller le comportement, gérer les permissions et maintenir une visibilité sur de vastes réseaux d’agents.

De plus en plus d’entreprises optent pour des systèmes multi-agents. Différents départements peuvent déployer des agents spécialisés pour la finance, le support client, la sécurité ou l’analyse de données. Avec le temps, ces systèmes peuvent devenir fragmentés si chaque équipe gère les agents de manière indépendante. Une couche de gestion aide les organisations à créer des modèles de gouvernance cohérents, des normes opérationnelles partagées et une supervision centralisée entre les départements et les plateformes.

Les environnements multi-agents imposent de nouvelles responsabilités aux équipes informatiques, de sécurité, de conformité et de plateforme. Dans certaines entreprises, les groupes de gouvernance de l’IA s’élargissent pour inclure la supervision de l’orchestration des agents, de la gestion des identités et des opérations du cycle de vie. À mesure que l’adoption augmente, la gestion des agents IA fait partie de l’infrastructure plus large qui soutient les opérations des entreprises et les initiatives d’IA à long terme.

L’importance de la gestion des agents IA devrait augmenter à mesure que les entreprises intègrent plus profondément les agents dans les processus métier essentiels. La gestion des agents IA aidera les organisations à garder le contrôle sur des écosystèmes d’agents de plus en plus complexes tout en soutenant des efforts plus larges de transformation de l’entreprise.

Plusieurs facteurs favorisent l’adoption de la gestion par agent IA :

Problèmes liés aux déploiements fragmentés : sans supervision centralisée, les entreprises peuvent être confrontées à des agents déconnectés, une gouvernance incohérente et une responsabilité limitée entre les équipes.

Demande de visibilité accrue : les entreprises ont de plus en plus besoin de comprendre comment les agents se comportent, à quels systèmes ils accèdent et comment les décisions sont prises à l’exécution.

Expansion des environnements multi-agents : de nombreuses entreprises déploient des agents spécialisés pour différentes fonctions ou différents départements. Les plateformes de gestion permettent de coordonner ces agents au sein d’un cadre opérationnel partagé.

Complexité opérationnelle croissante : les agents IA peuvent interagir avec différents systèmes, outils et workflows simultanément. Les entreprises ont besoin d’une coordination centralisée à mesure que ces environnements deviennent plus interconnectés.

Intégration avec les systèmes d’entreprise : les agents IA sont de plus en plus connectés aux plateformes cloud, aux interfaces de programmation d’applications (API) et aux applications métier internes. Cette intégration accroît le besoin de couches de gestion opérationnelle.

Besoin d’une gouvernance centralisée : les entreprises souhaitent des politiques plus cohérentes en matière d’autorisations, d’approbations et de supervision opérationnelle à mesure que les déploiements d’agents se développent.Passage de l’expérimentation à l’échelle opérationnelle : de nombreuses entreprises dépassent les projets pilotes d’IA isolés et élaborent des stratégies à long terme pour gérer les écosystèmes d’agents. La disponibilité croissante d’outils d’IA, de plateformes no-code et de modèles réutilisables rend également le déploiement d’agents IA plus accessible aux équipes commerciales.

Les cas d’utilisation de la gestion de l’IA varient selon le secteur et la taille de l’entreprise. La plupart des entreprises adoptent la gestion des agents IA lorsque les agents commencent à interagir avec plusieurs systèmes, workflows ou équipes. Les cas d’utilisation réels des agents IA incluent :

Les agents IA sont de plus en plus utilisés dans le BPA pour coordonner les workflows entre les équipes financières, d’approvisionnement et d’exploitation. Certaines entreprises étendent également ces workflows aux environnements de la chaîne d’approvisionnement, où des agents IA aident à suivre l’activité des stocks et à signaler les perturbations. Par exemple, un agent d’IA peut traiter des notes de frais, détecter des activités inhabituelles et acheminer les demandes de remboursement importantes vers une étape d’examen supplémentaire.

De nombreuses entreprises utilisent des agents IA pour traiter les demandes d’assistance, acheminer les tickets et récupérer des informations dans les systèmes internes. La gestion des agents IA aide les entreprises à surveiller la manière dont les agents interagissent avec les clients et à appliquer des règles concernant les approbations ou les escalades. Ces systèmes sont de plus en plus utilisés pour améliorer l’expérience numérique des clients tout en assurant une surveillance humaine des interactions sensibles. Par exemple, un agent d’assistance peut traiter seul les questions de facturation courantes, mais transférer les questions plus délicates à un représentant humain.

Les entreprises déploient souvent des agents qui recherchent dans les documents internes, résument les informations et prennent en charge les workflows de recherche des employés. La gestion des agents IA permet de contrôler l’accès aux informations sensibles et de suivre la manière dont les agents récupèrent ou partagent des données. Par exemple, un agent de recherche juridique peut accéder à des référentiels de documents approuvés tout en restant limité dans l’accès aux dossiers RH confidentiels.

Les agents IA peuvent automatiser la surveillance de l’infrastructure, la réponse aux incidents et les tâches de maintenance des systèmes. Dans ces environnements, les couches de gestion aident les entreprises à suivre les actions des agents et à maintenir une visibilité opérationnelle sur les plateformes cloud ou les systèmes internes. Par exemple, un agent IA pourrait identifier une activité serveur inhabituelle et créer automatiquement un ticket d’incident tout en alertant les équipes de sécurité.

Certaines entreprises déploient plusieurs agents spécialisés qui collaborent dans des workflows plus larges. La gestion des agents IA permet de coordonner les responsabilités entre ces agents tout en conservant une visibilité sur l’ensemble du processus. Par exemple, un agent peut collecter les données des clients, un autre peut analyser l’historique du compte et un troisième peut générer des recommandations pour une équipe commerciale.

Des secteurs comme la santé, les services financiers et l’assurance exigent souvent une gouvernance et une auditabilité renforcées autour des systèmes d’IA. La gestion des agents IA aide les entreprises à documenter l’activité des agents et à appliquer des contrôles opérationnels qui soutiennent les exigences de conformité. Par exemple, une organisation de santé peut utiliser des outils de gestion pour suivre les systèmes auxquels un agent de soutien clinique a accédé pendant le workflow d’un patient.

Les équipes de sécurité peuvent utiliser des agents IA pour analyser les alertes, enquêter sur les anomalies ou aider à la détection des menaces. Comme ces agents interagissent souvent avec des systèmes sensibles, les organisations appliquent généralement des contrôles de surveillance et de gouvernance plus stricts. Par exemple, un agent de sécurité peut recueillir des informations à partir de plusieurs outils de surveillance avant de recommander une réponse à faire approuver par un humain.

Les équipes de développement utilisent de plus en plus des agents IA pour aider aux tâches de codage, de test et de documentation. Les plateformes de gestion permettent de coordonner la manière dont ces agents accèdent aux référentiels, interagissent avec les outils de développement et suivent les politiques de l’entreprise. Par exemple, une organisation pourrait permettre aux agents de codage de suggérer des modifications tout en restreignant les déploiements directs en production sans contrôle humain.

La gestion des agents IA est plus complexe que les opérations traditionnelles d’IA car les agents IA sont plus dynamiques que les systèmes d’IA antérieurs. Les systèmes d’IA traditionnels sont conçus pour des tâches étroites telles que la classification, la prédiction ou la génération de contenu. Le workflow autour de ces systèmes reste souvent largement fixe.

Les agents IA fonctionnent différemment car ils peuvent interpréter les objectifs, générer des décisions et interagir avec des outils externes lors de l’exécution. Ce changement crée de nouvelles exigences opérationnelles que les pratiques standard de gestion de l’IA n’ont pas été conçues pour gérer.

Parmi les différences les plus importantes, on trouve :

• Structure de déploiement : les déploiements d’IA traditionnels sont souvent isolés dans des applications ou des départements uniques. Les agents IA sont de plus en plus déployés dans des environnements multi-agents interconnectés.
  
  
• Champ d’application de la gouvernance : la gouvernance conventionnelle de l’IA porte principalement sur les risques liés aux modèles et le traitement des données. La gestion des agents pose d’autres problèmes liés à l’autonomie et à l’application des politiques.
  
  
• Priorité de la gestion : les opérations d’IA traditionnelles se concentrent généralement sur les modèles et les pipelines de données. La gestion des agents IA se concentre sur la coordination du comportement des agents dans les workflows et les systèmes connectés.
  
  
• Exigences de surveillance : la surveillance traditionnelle mesure souvent la précision ou le temps de fonctionnement du modèle. La gestion des agents IA nécessite également une visibilité sur les actions, les autorisations et les chemins de prise de décision.
  
  
• Flexibilité opérationnelle : les anciens systèmes d’IA fonctionnaient généralement dans des limites prédéfinies. Les agents IA peuvent adapter leurs actions en fonction du contexte ou de modifications des entrées. Dans de nombreux environnements, les agents sont conçus pour mieux connaître le contexte. Cette capacité leur permet de réagir dynamiquement lorsque les workflows et les schémas de flux de données évoluent lors de l’exécution.

La gestion des agents IA inclut les capacités opérationnelles et de gouvernance utilisées par les entreprises pour déployer, coordonner et superviser les agents IA à grande échelle. Bien que les plateformes puissent différer dans leur approche, la plupart des stratégies d’entreprise se concentrent sur un ensemble similaire de composants de base. En voici quelques exemples :

Les capacités de gouvernance définissent les règles et les limites qui guident le comportement des agents. Ces contrôles peuvent inclure des workflows d’approbation, des politiques d’utilisation, des restrictions opérationnelles et des exigences de conformité applicables à l’ensemble des entreprises.

De nombreuses entreprises incluent des mécanismes de revue humaine dans les workflows des agents, en particulier pour les tâches à haut risque ou critiques. La supervision humaine peut impliquer des approbations, des processus d’escalade ou une intervention manuelle lorsque les agents sont confrontés à des incertitudes ou à des résultats inattendus.

Les agents IA interagissent souvent avec les systèmes d’entreprise, les API et les sources de données sensibles. La gestion des identités et des accès aide les entreprises à contrôler l’accès des agents, les actions et la gestion des autorisations au fil du temps.

Les agents IA dépendent souvent d’outils externes, de logiciels d’entreprise et de services cloud pour accomplir des tâches. La gestion de l’intégration aide à coordonner ces connexions tout en maintenant la cohérence opérationnelle entre les plateformes et les environnements. De nombreuses entreprises s’appuient également sur une passerelle IA, des outils de gestion d’API et des cadres de connecteurs standardisés pour gérer les interactions entre les agents IA et les fournisseurs externes.

La gestion des agents IA inclut également les processus de déploiement, de mise à jour, de test et de mise hors service des agents. La gestion du cycle de vie aide les entreprises à maintenir la cohérence entre les environnements tout en soutenant le contrôle de versions et la stabilité opérationnelle. Certaines organisations alignent ces activités sur les pratiques plus générales du cycle de développement des agents (ADLC) afin de gérer les systèmes d’IA tout au long de leur cycle de vie opérationnel.

L’observabilité fournit une visibilité sur le comportement des agents pendant l’exécution. Les entreprises utilisent des systèmes de surveillance pour suivre les actions, examiner les parcours décisionnels, identifier les défaillances et analyser comment les agents interagissent avec les utilisateurs ou les systèmes connectés. Les tableaux de bord opérationnels et les indicateurs de performance aident les équipes à suivre l’activité des agents au fil du temps.

L’orchestration coordonne la manière dont les agents exécutent des tâches, interagissent avec les systèmes et collaborent avec d’autres agents. Dans les environnements multi-agents, les couches d’orchestration peuvent acheminer les demandes, attribuer les responsabilités et gérer les flux de travail entre différents outils ou applications.

À mesure que les organisations déploient un plus grand nombre d’agents IA, nombre d’entre elles adoptent des plans de contrôle des agents afin d’assurer une coordination centralisée et une supervision opérationnelle. Le plan de contrôle d’un agent est la couche de gestion qui relie l’orchestration, la gouvernance et le contrôle dans les écosystèmes d’agents. Plutôt que de gérer les agents individuellement, les entreprises peuvent utiliser un plan de contrôle pour superviser le fonctionnement des agents dans les workflows et les systèmes.

Les plans de contrôle des agents prennent généralement en charge plusieurs fonctions clés :

• Orchestration centralisée : les plans de contrôle coordonnent la manière dont les agents exécutent les tâches, partagent les informations et interagissent avec d’autres systèmes ou agents.
  
  
• Gouvernance et application des politiques : les entreprises peuvent appliquer des politiques opérationnelles, des restrictions d’accès et des exigences d’approbation à plusieurs agents depuis une couche centralisée.
  
  
• Observabilité et surveillance : les plans de contrôle offrent une visibilité sur le comportement en cours d’exécution, les interactions entre les systèmes et l’activité des agents dans les différents environnements.
  
  
• Gestion des identités et des autorisations: de nombreux plans de contrôle aident les entreprises à gérer l’authentification, l’accès au système et les autorisations basées sur les rôles pour les agents.
  
  
• Coordination du cycle de vie : certaines plateformes prennent également en charge la gestion du déploiement, le suivi des versions et la maintenance opérationnelle dans les écosystèmes d’agents.

L’importance croissante accordée aux plans de contrôle des agents reflète la complexité croissante des environnements d’IA en entreprise. Alors que les organisations évoluent vers des systèmes multi-agents interconnectés, les couches de gestion centralisées deviennent de plus en plus importantes pour maintenir la visibilité, la coordination et la cohérence opérationnelle.

La gestion des agents IA aide les organisations à coordonner, gouverner et faire évoluer les agents IA plus efficacement dans les environnements d’entreprise. Les avantages spécifiques incluent :

• Meilleure coordination des workflows : les capacités d’orchestration favorisent la collaboration entre les agents, les systèmes d’entreprise et les processus métier. Cette coordination peut contribuer à rationaliser les opérations, à optimiser l’utilisation des ressources et à créer une plus grande valeur commerciale grâce aux déploiements d’IA.
  
  
• Une plus grande responsabilisation : les journaux d’audit, les systèmes d’approbation et la surveillance de l’exécution fournissent des traces plus claires de la manière dont les agents prennent des décisions et exécutent des actions.
  
  
• Amélioration de la visibilité opérationnelle : les outils de surveillance et d’observabilité aident les entreprises à suivre le comportement des agents, les interactions entre systèmes et l’activité des workflows dans les différents environnements.
  
  
• Des déploiements plus évolutifs : les cadres de gestion standardisés permettent aux entreprises d’étendre plus facilement l’utilisation des agents dans les différents services sans créer d’environnements fragmentés. Ces cadres aident également les entreprises à gérer les workloads croissants des agents tout en favorisant l’évolutivité à long terme dans les opérations de l’entreprise.
  
  
• Réduction de la fragmentation opérationnelle : une couche de gestion unifiée peut aider les organisations à éviter des déploiements déconnectés et des pratiques de gouvernance incohérentes.
  
  
• Gestion simplifiée du cycle de vie : les processus de déploiement et de maintenance centralisés aident les entreprises à gérer plus efficacement les mises à jour, les tests et le contrôle des versions.
  
  
• Gouvernance renforcée : des politiques centralisées et des structures de supervision aident les entreprises à appliquer des normes opérationnelles cohérentes entre plusieurs agents et équipes.

Bien que la gestion des agents par IA offre d’importants avantages opérationnels, les entreprises font également face à des défis importants lorsqu’elles déploient des agents à grande échelle. De nombreux risques découlent de la nature dynamique et autonome des systèmes d’IA agentique.

• Prolifération des agents: à mesure que davantage d’équipes commencent à déployer des agents de manière indépendante, les organisations peuvent rapidement perdre de vue le nombre d’agents en fonctionnement dans l’entreprise ou les systèmes auxquels ces agents peuvent accéder. De nombreuses entreprises relèvent ce défi en introduisant des couches d’orchestration centralisées et des normes de gouvernance partagées qui créent une vision opérationnelle plus unifiée.
  
  
• Préoccupations de conformité et de responsabilité : les entreprises peuvent rencontrer des difficultés à documenter comment les agents ont pris des décisions ou mené des actions, en particulier dans les secteurs réglementés. Une documentation limitée et une faible auditabilité peuvent créer des défis pour les équipes de conformité et les efforts de contrôle interne. Les pistes d’audit, les systèmes de reporting et les politiques de gouvernance centralisées peuvent contribuer à renforcer la responsabilité dans les opérations des agents.
  
  
• Gouvernance incohérente : les agents IA sont souvent introduits à des vitesses différentes selon les unités commerciales. Sans supervision centralisée, les équipes peuvent suivre différents processus d’approbation, pratiques de sécurité ou politiques opérationnelles. Ces incohérences peuvent être source de confusion et de problèmes de conformité. Les cadres de gouvernance standardisés peuvent aider les entreprises à appliquer des contrôles plus cohérents à travers les déploiements.
• Observabilité limitée : de nombreuses organisations n’ont toujours pas de visibilité claire sur le comportement des agents en cours d’exécution. Lorsque les agents interagissent avec plusieurs systèmes ou prennent des décisions autonomes, il peut devenir difficile de retracer les actions ou de comprendre pourquoi certains résultats se sont produits. Les outils de surveillance de l’exécution, l’enregistrement des activités et les capacités d’audit deviennent de plus en plus importants pour améliorer la transparence opérationnelle.
  
  
• Imprévisibilité opérationnelle : contrairement aux systèmes logiciels traditionnels, les agents IA réagissent de manière dynamique à l’évolution des entrées, des prompts et des conditions d’exécution. Cette flexibilité peut améliorer l’adaptabilité, mais elle rend aussi le comportement moins prévisible dans certaines situations. De nombreuses organisations réduisent ce risque en incorporant des processus de test, des mécanismes d’examen humain et des garde-fous opérationnels dans les flux de travail des agents.
  
  
• Risques de sécurité et d’accès : les agents IA interagissent souvent avec des systèmes sensibles et des sources de données, ce qui peut créer de nouveaux défis concernant les autorisations et la gestion des identités. Les entreprises utilisent de plus en plus de cadres de gestion des identités, de contrôles d’accès basés sur les rôles et de workflows d’approbation pour réduire ces risques.
  
  
• Complexité de workflow : les environnements multi-agents peuvent devenir difficiles à coordonner car les agents interagissent entre les plateformes, les applications et les services externes. Un simple déploiement peut évoluer vers des environnements hautement interconnectés. À mesure que la complexité augmente, les plateformes d’orchestration et les pratiques d’intégration standardisées peuvent aider les organisations à maintenir une coordination plus cohérente. Au fur et à mesure que les déploiements s’étendent, les entreprises peuvent également avoir besoin d’une surveillance étroite de l’utilisation de l’infrastructure et de la tarification des modèles.