Surveillance des agents, informations et indicateurs de sécurité dans watsonx.governance

Les responsables des risques et de la conformité, les équipes de sécurité et les propriétaires d’IA posent souvent ces deux questions : « Puis-je voir exactement ce que font mes agents d’IA en production ? » « Puis-je obtenir une vue unifiée de ma gouvernance et de ma posture de sécurité en matière d’IA ? »

Avec watsonx.governance, la réponse à ces deux questions est désormais « oui ».

1. Surveillance des agents et informations : donner aux entreprises une visibilité sur le comportement, les actions et les décisions de l'IA agentique en production.
2. Indicateurs de sécurité dans la console de gouvernance : intégrez les informations de sécurité de Guardium AI Security directement dans vos workflows de gouvernance.

Ensemble, ces fonctionnalités offrent une solution complète afin de garantir la confiance dans l’IA (politiques, protection et performances) sans avoir à consulter des feuilles de calcul ou à passer d’un onglet à l’autre.

Les entreprises se tournent vers les agents d’IA comme nouvel horizon de la productivité. Contrairement aux modèles traditionnels qui se contentent de générer des résultats, les agents peuvent effectuer des actions, en enchaînant les tâches et en exploitant plusieurs systèmes. Ainsi, les workflows répétitifs sont automatisés, la prise de décision est accélérée et les équipes peuvent se concentrer sur des tâches à plus forte valeur ajoutée.

Cependant, cette promesse s’accompagne de nouveaux risques. Les agents fonctionnent avec plus d’autonomie, ce qui limite la visibilité sur la manière dont les décisions sont prises et la capacité à s’assurer qu’ils se comportent comme prévu. Aujourd’hui, la surveillance est souvent lente, manuelle et fragmentée, ce qui prive les développeurs des outils dont ils ont besoin pour faire confiance à leurs systèmes, les suivre ou les ajuster. Et sans infrastructure de gouvernance évolutive, les entreprises ont du mal à évaluer, contrôler et faire évoluer en toute confiance l’IA agentique.

Pour relever ce défi, dans nos prochaines versions, watsonx.governance introduira Agent Monitoring and Insights dans watsonx.governance. Cette nouvelle capacité surveille les applications agentiques en production. En assurant le suivi des décisions, des comportements et des performances en temps réel, Agent Insights émet des alertes lorsque les indicateurs dépassent les seuils. Cela permet de bénéficier d’une gestion proactive, d’un dépannage plus rapide et d’une plus grande confiance dans les résultats générés par les agents.

• Évaluations « in the loop » : mise à jour des indicateurs pour évaluer avec précision les performances des agents d’IA (qualité et comportement). Cela permet de gagner en temps et en efficacité en visualisant tous les indicateurs de performance agrégés au niveau de la conversation, de l’interaction et de l’outil en un seul endroit, dressant ainsi un tableau complet des performances des agents.
• Amélioration de la qualité et de la précision : au premier trimestre 2026, nous introduirons des informations exploitables grâce à l’analyse des causes profondes. Les équipes pourront ainsi mesurer ce qui fonctionne, comparer les performances au fil du temps, et optimiser et affiner en permanence leur IA et leurs agents.
• Suivi des expérimentations en temps réel : évaluez et comparez plusieurs exécutions de vos applications agentiques, avec l’ensemble des modifications, des indicateurs et des résultats étant regroupés en un seul endroit. Cela permet non seulement d’accélérer le délai de mise en production, en structurant et en améliorant la visibilité du processus de développement des agents avec toutes les modifications, les indicateurs et les résultats, mais aussi d’améliorer l’efficacité et d’éliminer le bruit, en se concentrant uniquement sur les indicateurs les plus importants pour votre projet grâce à des classements personnalisés adaptés aux indicateurs de réussite de votre projet, ce qui garantit des décisions plus rapides et des performances optimisées des agents.
• Rapports : tableaux de bord intégrés et alertes automatisées lorsque les agents d’IA sortent du cadre de leur fonctionnement prévu. Les équipes peuvent ainsi tester, adopter et faire évoluer les agents plus rapidement. Vous bénéficiez d’une gestion proactive grâce au tableau de bord Agent Insights Dashboard et pouvez suivre les tendances de performance au fil du temps. Les risques sont également atténués en temps réel, ce qui renforce la confiance en vous garantissant de recevoir une notification immédiate si un agent commet une erreur ou fait l’objet d’une hallucination, ce qui permet d’intervenir et de corriger le problème rapidement.

• Les équipes chargées des risques et de la conformité ont l’assurance que les agents d’IA restent dans le cadre approuvé et que les décisions sont vérifiables.
• Les équipes chargées des opérations d’IA/ML et les développeurs résolvent les problèmes plus rapidement, améliorent l’efficacité et garantissent des résultats fiables.
• Les chefs d’entreprise ont davantage confiance dans la possibilité de développer de manière responsable des programmes d’IA agentique afin d’obtenir un retour sur investissement maximal.

Un agent d’IA automatisant les achats peut tenter d’approuver un contrat avec un fournisseur en dehors de son champ d’application. Grâce à la surveillance, cette action est signalée en temps réel, ce qui permet aux équipes d’enquêter, d’ajuster les politiques ou d’affiner l’agent avant qu’il ne provoque des problèmes en aval.

La gouvernance et la sécurité de l'IA ont trop souvent été traitées comme des flux de travail parallèles. Cela change avec la nouvelle intégration de Guardium IA Security dans la console watsonx.governance. Les responsables de la gestion des risques et de la conformité peuvent vérifier le niveau de sécurité en temps réel, directement là où ils approuvent et gèrent les cas d'utilisation.

• Panneau de sécurité par cas d’utilisation : chaque cas d’utilisation de l’IA génère une fiche de sécurité concise, avec résultats des analyses de vulnérabilité et des tests d’intrusion, détections en temps réel (par exemple tentatives d’injection de prompts) et tendances sur 7/30 jours.
• Tableau de bord de sécurité au niveau du programme : vue agrégée de tous les cas d’utilisation, résultats ouverts par gravité, activité des attaques au fil du temps et statut de résolution.
• Feuille de route pour l’extension de la couverture : les indicateurs du premier jour se concentrent sur les vulnérabilités, les tests d’intrusion et les détections ; les erreurs de configuration et d’autres signaux seront bientôt disponibles.

• Les équipes chargées des risques et de la conformité accélèrent les examens grâce à des données de sécurité en direct qui offrent une visibilité en temps réel sur les vulnérabilités critiques.
• Les équipes de sécurité qui utilisent Guardium pour une découverte et une protection approfondies peuvent facilement partager les indicateurs clés avec les parties prenantes de la gouvernance de l’IA. Les propriétaires d’IA voient les indicateurs exploitables liés à leurs cas d’utilisation, ce qui leur offre une vue complète des failles et des risques de sécurité qui doivent être corrigés.

Un agent d’IA qui gère les tickets informatiques est enregistré et classé par niveau de risque dans la gouvernance. Guardium le teste en permanence pour détecter tout abus ou fuite. Désormais, les résultats de gravité élevée, les dates des tests d’intrusion et les tentatives bloquées apparaissent directement à côté de l’enregistrement des risques, ce qui permet d’accélérer les approbations en disposant d’un contexte complet.

Ces deux nouvelles fonctionnalités sont guidées par le même principe : votre programme d’IA doit fonctionner sur une source d’information unique et unifiée. La surveillance des agents évoluera grâce à un catalogue d’agents gouverné, des contrôles affinés et une observabilité plus riche afin de garantir que les agents d’IA restent fiables, responsables et alignés.

Les indicateurs de sécurité continueront à s’étendre au-delà des vulnérabilités et des détections pour inclure les erreurs de configuration et des intégrations Guardium plus approfondies.

Leur combinaison permettra d’intégrer la sécurité et la gouvernance dans un flux unifié afin que les entreprises puissent gérer et faire évoluer l’IA avec rapidité, sécurité et confiance.

Si vous utilisez déjà watsonx.governance, surveillez la sortie et préparez-vous à activer ces fonctionnalités sur vos cas d’utilisation d’IA les plus critiques dès qu’elles seront disponibles.

 Votre équipe IBM peut vous aider à trouver la bonne voie et à vous préparer à construire une IA gouvernée, sécurisée et digne de confiance avec ces futures capacités.

Faites évoluer une IA de confiance avec watsonx.governance