现已推出 – 用于在一个集成式平台上管理生成式 AI (gen AI) 和机器学习 (ML) 模型的工具包
Gen AI 有可能提高工作效率并释放数万亿美元的经济价值，但这些模型带来了新的复杂性和风险。无论您使用的 gen AI 模型还是传统 ML 模型，每个模型都需要治理。
IBM® watsonx.governance AI 治理工具包为用户提供了模型选项和灵活性。此工具包可用于管理基于 IBM® watsonx.ai 以及 Amazon Bedrock、Microsoft Azure 和 OpenAI 等第三方平台构建的 gen AI 模型。借助 watsonx.governance，您还可以管理第三方工具中构建的 ML 模型。客户可以为这两种模型种类选择云部署或本地部署。
为了有效管理企业的 gen AI，有必要监控并降低近期因模型、用户、数据集和法规而加大的风险。为此，watsonx.governance 提供了 3 个关键功能。
watsonx.governance 通过情况说明书自动记录并监控模型事实。IBM 将其称为模型的“标签”，因为它们具备一个包含模型所有相关信息的存储库。这些文档支持在模型的整个生命周期中提供全面的性能和风险管理视图，并用作开发活动和性能指标的记录。用户可以下载情况说明书，或者将其作为附件发送给利益相关者或提供审计支持。
评估指标可用于一系列用例，包括文本摘要、文本分类、语言翻译、内容生成、检索增强生成 (RAG) 和问答。企业可在整个 AI 生命周期中检查提示性能，以确保精确性能，并防止生成可能有害或不适当的内容。情况说明书用于记录这些评估指标。
对性能指标进行监控，以避免出现漂移、质量和安全相关的问题。预设阈值可监控 gen AI 模型的输入和输出，并在模型输入和输出中检测到恶毒语言、仇恨言论、辱骂性语言和亵渎性语言时发出警报。watsonx.governance 可监控数据大小、延迟和吞吐量变化。
脚注
IBM 可自行决定更改或撤销有关公司计划、方向和意图的声明，恕不另行通知。请参阅定价，了解详细信息。除非软件定价中另有规定，否则所有特性、功能和潜在更新仅限 SaaS。IBM 不保证 SaaS 和软件具备相同的特性和功能。