Agentenüberwachung und Erkenntnisse plus Sicherheitsmetriken in watsonx.governance

Risiko- und Compliance-Verantwortliche, Sicherheitsteams und KI-Eigentümer stellen sich häufig diese beiden Fragen: „Kann ich genau sehen, was meine KI-Agenten in der Produktion tun?“ und „Kann ich einen einheitlichen Überblick über meine KI-Governance und meinen KI-Sicherheitsstatus erhalten?“

Mit watsonx.governance lautet die Antwort auf beide Fragen jetzt Ja.

1. Agentenüberwachung und Erkenntnisse: Geben Sie Unternehmen Einblick in das Verhalten, die Aktionen und die Entscheidungen der agentischen KI in der Produktion.
2. Metriken in der Governance-Konsole: Integrieren Sie Guardium KI Security-Erkenntnisse direkt in Ihre Workflows.

Zusammen bieten diese Funktionen eine umfassende Lösung für KI-Vertrauen – Richtlinien, Schutz und Leistung – ohne die Suche nach Tabellenkalkulationen oder Tab-Hopping.

Unternehmen setzen auf KI-Agenten als nächste Produktivitätsstufe. Im Gegensatz zu herkömmlichen Modellen, die einfach nur Ausgaben generieren, können Agenten Maßnahmen ergreifen, indem sie Aufgaben verketten und auf mehrere Systeme zugreifen. Dies öffnet die Tür zur Automatisierung sich wiederholender Workflows, beschleunigt die Entscheidungsfindung und gibt Teams die Möglichkeit, sich auf höherwertige Aufgaben zu konzentrieren.

Doch mit diesem Versprechen gehen auch neue Risiken einher. Agenten arbeiten autonomer, was es schwieriger macht, zu sehen, wie Entscheidungen getroffen werden, und sicherzustellen, dass sie sich wie beabsichtigt verhalten. Die Überwachung ist heute oft langsam, manuell und fragmentiert, sodass Entwickler nicht die Werkzeuge haben, die sie brauchen, um ihren Systemen zu vertrauen, sie zu verfolgen oder eine Feinabstimmung durchzuführen. Und ohne eine skalierbare Governance-Infrastruktur haben Unternehmen Schwierigkeiten, agentische KI zu bewerten, zu kontrollieren und sicher zu skalieren.

Um dieser Herausforderung zu begegnen, wird watsonx.governance in den kommenden Versionen Agent Monitoring und Erkenntnisse in watsonx.governance einführen. Diese neue Funktion überwacht Agent-Anwendungen in der Produktion. Agent Insights verfolgt Entscheidungen, Verhaltensweisen und Leistung in Echtzeit und gibt Warnmeldungen aus, wenn Metriken Schwellenwerte überschreiten. Dies ermöglicht ein proaktives Management, eine schnellere Fehlerbehebung und ein höheres Vertrauen in agentengesteuerte Ergebnisse.

• In-the-Loop-Bewertungen: Aktualisierte Metriken zur genauen Bewertung der Leistung (Qualität und Verhalten) von KI-Agenten. Dies spart Zeit und steigert die Effizienz, indem alle Leistung und Metriken auf Konversations-, Interaktions- und Tool-Ebene an einem Ort aggregiert angezeigt werden und so ein vollständiges Bild der Agentenleistung entsteht. 
• Qualität und Präzision steigern: Im ersten Quartal 2026 stellen wir umsetzbare Erkenntnisse mittels Ursachenanalyse bereit. Dadurch können Teams messen, was funktioniert, die Leistung im Zeitverlauf vergleichen und ihre KI und Agenten kontinuierlich optimieren und abstimmen.
• Experimentierverfolgung in Echtzeit: Evaluieren und vergleichen Sie mehrere Durchläufe Ihrer Anwendungen, mit allen Änderungen, Metriken und Ausgaben an einem Ort. Dies beschleunigt nicht nur die Produktionszeit – indem es Struktur und Transparenz für den Agentenentwicklungsprozess mit allen Änderungen, Kennzahlen und Ergebnissen schafft –, sondern verbessert auch die Effizienz, indem es durch die Fokussierung auf die für Ihr Projekt wichtigsten Kennzahlen anhand von auf die Erfolgskennzahlen Ihres Projekts zugeschnittenen Rankings Störfaktoren eliminiert und so schnellere Entscheidungen und eine optimierte Agentenleistung gewährleistet.
• Berichte: Integrierte Dashboards und automatische Warnungen, wenn KI-Agenten die beabsichtigten Betriebsgrenzen überschreiten, damit Teams Agenten schneller testen, einführen und skalieren können. Dies gewährleistet ein proaktives Management, das mit dem Agent Insights Dashboard vorangetrieben wird und Leistungstrends im Zeitverlauf verfolgt. Es mindert auch das Risiko in Echtzeit und schafft Vertrauen, indem es sicherstellt, dass Sie sofort benachrichtigt werden, wenn ein Agent einen Fehler macht oder halluziniert, was ein rechtzeitiges Eingreifen und Korrigieren ermöglicht.

• Risiko und Compliance erhalten die Gewissheit, dass Bearbeiter den genehmigten Rahmen einhalten und Entscheidungen überprüfbar sind.
• KI/ML-Betrieb und Entwickler beheben Fehler schneller, verbessern die Effizienz und sorgen für zuverlässige Ergebnisse.
• Unternehmensleiter erhalten mehr Vertrauen, agentische KI-Programme verantwortungsvoll zu skalieren, um einen maximalen ROI zu erzielen.

Ein KI-Agent, der die Beschaffung automatisiert, könnte versuchen, einen Lieferantenvertrag außerhalb seines Geltungsbereichs zu genehmigen. Wenn die Überwachung aktiviert ist, wird diese Aktion in Echtzeit angezeigt, sodass die Teams den Agenten untersuchen, die Richtlinien anpassen oder den Agenten verfeinern können, bevor es zu nachgelagerten Problemen kommt.

KI-Governance und KI-Sicherheit wurden allzu oft als parallele Arbeitsabläufe behandelt. Das ändert sich mit der neuen Integration von Guardium KI Security in die watsonx.governance-Konsole. Risiko- und Compliance-Verantwortliche können den Live-Sicherheitsstatus direkt dort einsehen, wo sie Anwendungsfälle genehmigen und verwalten.

• Sicherheitspanel pro Anwendungsfall: Jeder KI-Anwendungsfall zeigt eine übersichtliche Sicherheitskarte an: die Ergebnisse von Schwachstellenscans und Pen-Tests, Echtzeit-Erkennungen (z. B. Prompt-Injection-Versuche) und 7/30-Tage-Trends.
• Sicherheits-Dashboard auf Programmebene: Aggregierte Ansicht der Anwendungsfälle, offene Ergebnisse nach Schweregrad, Angriffsaktivität im Laufe der Zeit und Status der Sanierung.
• Roadmap zur Erweiterung der Abdeckung: Die Metriken des ersten Tages konzentrieren sich auf Schwachstellen, Pen-Tests und Entdeckungen, wobei Fehlkonfigurationen und weitere Signale bald folgen werden.

• Risiko und Compliance beschleunigen die Prüfungen mit Live-Sicherheitsdaten, die entscheidende Schwachstellen in Echtzeit aufdecken.
• Sicherheitsteams, die Guardium für eine umfassende Erkennung und einen Schutz einsetzen, können wichtige Metriken problemlos mit KI-Governance-Stakeholdern teilen. KI-Besitzer sehen umsetzbare Metriken, die mit ihren Anwendungsfällen verknüpft sind und einen vollständigen Überblick über Sicherheitslücken und Risiken bieten, die behoben werden müssen.

Ein KI-Agent, der IT-Tickets verwaltet, ist registriert und in der Governance nach Risiken eingestuft. Guardium testet sie kontinuierlich auf Missbrauch oder Datenlecks. Jetzt werden Befunde mit hohem Schweregrad, Penetrationsdaten und blockierte Versuche direkt neben dem Risikodatensatz angezeigt, sodass Genehmigungen durch vollständigen Kontext schneller erfolgen.

Beide neuen Funktionen basieren auf dem gleichen Prinzip: Ihr KI-Programm sollte auf einer einheitlichen Informationsquelle laufen. Die Agentenüberwachung wird sich mit einem verwalteten Agentenkatalog, Feinabstimmungskontrollen und einer umfassenderen Observability weiterentwickeln, um sicherzustellen, dass KI-Agenten zuverlässig, verantwortlich und aufeinander abgestimmt bleiben.

Die Metriken werden fortfahren, sich über Schwachstellen und Erkennungen hinaus auch auf Fehlkonfigurationen und tiefere Guardium-Integrationen ausweiten.

Gemeinsam bringen sie Sicherheit und Governance in einen einheitlichen Fluss, sodass Unternehmen KI mit Geschwindigkeit, Sicherheit und Zuversicht steuern und skalieren können.

Wenn Sie watsonx.governance bereits verwenden, Halten Sie Ausschau nach der neuen Version und seien Sie bereit, diese Funktionen für Ihre kritischsten KI-Anwendungsfall zu aktivieren, sobald sie verfügbar sind.

 Ihr IBM Team kann Ihnen dabei helfen, den richtigen Weg zu finden und sich darauf vorzubereiten, mit diesen kommenden Funktionen eine kontrollierte, sichere und vertrauenswürdige KI aufzubauen.

Zuverlässige KI mit watsonx.governance skalieren