単一のツールキットを使用してAIを直接運用、管理、監視し、責任ある、透明で説明可能なAIを加速します。
生成AIは、生産性を向上させ、莫大な経済効果を生み出す可能性を秘めています。しかし、そのモデルにはこれまでにない複雑さとリスクが伴います。生成AIモデルを使用するか、従来型のMLモデルを使用するかに関係なく、すべてのモデルにはガバナンスが必要です。
AIガバナンスのためのIBM® watsonx.governanceツールキットは、モデルの選択肢と柔軟性を提供します。このツールキットでは以下が可能です。
企業の生成AIを効果的に管理するためには、モデル、ユーザー、データ・セット、規制に伴って新たに増大するリスクを監視し、軽減することが不可欠です。watsonx.governanceは、これを実現するために3つの主要な機能を備えています。
watsonx.governanceは、ファクトシートを使用してモデルの情報を自動的に記録し、監視します。IBMでは、モデルに関するすべての関連情報のリポジトリーが含まれたファクトシートを、モデルの「栄養成分表示」と呼んでいます。ファクトシートは、モデルのライフサイクル全体にわたる、パフォーマンスとリスク管理の包括的な可視化を促進し、開発活動とパフォーマンス・メトリックの記録として機能します。ユーザーはファクトシートをダウンロードしたり、関係者に添付ファイルとして送信したり、監査をサポートすることができます。
評価の指標は、テキストの要約、テキストの分類、翻訳、コンテンツ生成、検索拡張生成（RAG）、Q&Aなど、さまざまなユースケースに対応しています。AIライフサイクル全体を通じてプロンプトのパフォーマンスをチェックできるため、高精度のパフォーマンスを確保し、潜在的に有害または不適切なコンテンツの生成を防ぐことができます。ファクトシートを使用して、これらの評価の指標を文書化します。
パフォーマンス・メトリックを監視し、ドリフト、品質、安全性に関する問題を回避します。事前に設定されたしきい値に基づいて、生成AIモデルの入出力を監視し、有害な言葉、ヘイト・スピーチ、罵倒や冒とく的な言葉が検出された場合にアラートを発します。watsonx.governanceはデータのサイズ、遅延、スループットの変化を監視します。