Steuern, verwalten und überwachen Sie Ihre KI über ein einziges Toolkit, um die Entwicklung verantwortungsvoller, transparenter und erklärbarer KI zu beschleunigen
Generative KI hat das Potenzial, die Produktivität zu steigern und wirtschaftliche Werte in Billionenhöhe freizusetzen. Diese Modelle bringen jedoch neue Komplexitäten und Risiken mit sich. Unabhängig davon, ob es sich um Modelle der generativen KI oder traditionelle ML-Modelle handelt, ist für jedes Modell eine entsprechende Governance erforderlich.
IBM® watsonx.governance Das Toolkit für KI-Governance bietet Benutzern Modellauswahl und Flexibilität. Dieses Toolkit kann:
Zur effektiven Steuerung der generativen KI eines Unternehmens müssen die neu verstärkten Risiken, die von Modellen, Benutzern, Datensätzen und Vorschriften ausgehen, überwacht und gesenkt werden. Watsonx.governance bietet dafür 3 Schlüsselfunktionen.
Watsonx.governance verwendet Factsheets, um Modellfakten automatisch zu protokollieren und zu überwachen. Bei IBM bezeichnen wir sie als „Inhaltsdeklaration" für Modelle, da sie ein Repository aller relevanten Modellinformationen enthalten. Diese Dokumente ermöglichen im gesamten Modell-Lifecycle einen umfassenden Einblick in Performance und Risikomanagement und fungieren als Aufzeichnung der Entwicklungsaktivität sowie von Performance-Metriken. Nutzer können sie herunterladen oder als Anhang an Stakeholder oder zur Unterstützung von Audits versenden.
Bewertungsmetriken stehen für eine Reihe von Anwendungsfällen zur Verfügung, darunter die Textzusammenfassung und -klassifizierung, Übersetzung, Inhaltserstellung, Retrieval Augmented Generation (RAG) sowie Question and Answer. Die Prompt-Performance kann während des gesamten KI-Lifecycle überprüft werden, um sicherzustellen, dass sie richtig funktioniert und keine potenziell schädlichen oder unangemessenen Inhalte generiert. Mithilfe von Factsheets werden diese Bewertungsmetriken dokumentiert.
Bewertungsmetriken werden überwacht, um Probleme im Zusammenhang mit Ergebnisabweichungen (Model Drift), Qualität und Zuverlässigkeit zu vermeiden. Voreingestellte Schwellenwerte überwachen die Ein- und Ausgaben für das generative KI-Modell und informieren Sie, sobald toxische Sprache, Hassrede, Beleidigungen und Schimpfwörter in den Ein- und Ausgaben des Modells erkannt wurden. Watsonx.governance überwacht die Datengröße, Latenz sowie Änderungen im Durchsatz.
Die Aussagen von IBM zu ihren Plänen, ihrer Ausrichtung und Absicht können ohne Vorankündigung und nach alleinigem Ermessen von IBM geändert oder zurückgezogen werden. Siehe Preisgestaltung für weitere Einzelheiten. Sofern unter „Preise für Software“ nicht anders angegeben, beziehen sich alle Merkmale, Funktionalitäten und möglichen Updates ausschließlich auf SaaS. IBM gibt keine Zusicherung, dass SaaS und die Software-Features und Funktionalitäten identisch sind.