人工智能治理应用案例
为推动负责任、透明且可解释的人工智能工作流程，您的企业需要一套集成系统来追踪、监控和重新训练人工智能模型。 Cloud Pak for Data 提供流程和技术，使您的企业能够监控、维护、自动化管理以及治理生产环境中的机器学习和人工智能模型。
观看此视频，了解实施人工智能治理解决方案的具体应用场景。
本视频提供了一种可视化学习方法，用于掌握本文档中的概念和任务。
挑戰
通过实施人工智能治理用例，您可为企业解决以下挑战：
- 确保模型治理与合规性
- 组织需要追踪并记录模型的详细历史，以确保合规性并向所有利益相关方提供可见性。
- 管理风险并确保人工智能的负责任发展
- 组织需要对生产环境中的模型进行监控，以确保模型具有有效性和准确性，同时避免引入偏见或偏离预期目标。
- 实现模型生命周期
- 组织需要实施可重复的过程，以高效地对模型进行再训练并部署到生产环境中。
示例：黄金银行面临的挑战
跟随黄金银行的脚步，见证其如何实施人工智能治理流程，确保全新在线申请流程既合规又可解释。 金银银行的业务分析师需要审查模型信息以确保合规性，认证模型从开发到生产的进展，并生成报告以供共享或归档。
进程
要为您的企业实施人工智能治理，您的组织可以遵循以下流程：
Cloud Pak for Data 中的 Watson Studio、 Watson Machine Learning、 Watson OpenScale、 IBM Knowledge Catalog、 IBM、 Orchestration Pipelines、 AI Factsheets 以及 IBM OpenPages 等服务，提供了贵组织实施 AI 治理解决方案所需的所有工具和流程。
1. 轨道模型
您的团队能够从请求到生产全程追踪机器学习模型，并评估这些模型是否符合贵组织的法规与要求。
| 你可以使用什么 | 可以执行的操作 | 最佳使用时间 |
|---|---|---|
| 资料单页 | 在目录中的模型库存中 IBM Knowledge Catalog ，为新模型创建用例。 查看所有已注册资产的生命周期状态，并深入查看已注册到模型用例的模型或部署的详细信息表。 查看模型的一般详细信息、训练信息和指标，以及输入和输出模式。 查看部署的一般详细信息、评估详细信息、质量指标、公平性详细信息和漂移详细信息。 |
您需要向数据科学团队申请一个新模型。 您需要确保模型符合规范且运行符合预期。 您需要根据追踪数据判断是否需要更新模型。 您需要对模型运行报告以共享或保存详细信息。 |
| IBM OpenPages | 识别、管理、监控并报告风险与合规情况。 | 您需要一种整合的方法来收集和报告模型事实。 |
示例：黄金银行的模型追踪
金银银行的业务分析师要求建立一个"抵押贷款审批模型"。 随后，他们能够追踪该模型在人工智能生命周期的所有阶段，包括数据科学家构建和训练模型，以及 ModelOps 工程师部署和评估模型。 数据表记录模型历史的详细信息，并生成反映其性能的指标。
2. 监控已部署的模型
部署模型后，必须对其进行监管和监视，以确保它们是可解释的和透明的。 数据科学家必须能够解释模型如何得出特定预测结果，从而判断这些预测是否存在隐性或显性偏见。 此外，最好监测模型生命周期中的模型性能和数据一致性问题。
| 你可以使用什么 | 可以执行的操作 | 最佳使用时间 |
|---|---|---|
| Watson OpenScale | 监控模型在多特征维度上的公平性问题。 持续监测模型性能及数据一致性随时间的变化。通过权重 因子解释模型得出特定预测结果的逻辑路径。 维护并报告组织内模型的治理与生命周期管理。 |
您拥有受保护的特征或可能有助于预测公平性的特征。 您希望追踪模型性能和数据随时间的变化一致性。 您希望了解模型给出特定预测的原因。 |
示例：黄金银行的模型监控
金银行的数据科学家使用 Watson OpenScale 该工具监控已部署的"抵押贷款审批模型"，以确保其准确性并公平对待所有金银行的抵押贷款申请人。 他们运行一台笔记本电脑来为模型设置显示器，然后通过用户界面 Watson OpenScale 调整配置。 数据科学家通过质量 Watson OpenScale 监控器和公平性监控器的指标，评估模型预测结果的准确性，并判断其是否产生任何偏颇的预测结果。 他们还能了解模型如何做出决策，以便向抵押贷款申请人解释决策过程。
3. 自动化人工智能生命周期
您的团队可以借助 Orchestration Pipelines 实现 MLOps 和 AI 生命周期的自动化与简化。
| 你可以使用什么 | 可以执行的操作 | 最佳使用时间 |
|---|---|---|
| Orchestration Pipelines | 使用管道创建可重复且可调度的流程，实现从数据摄取到模型训练、测试和部署的机器学习管道自动化。 | 您希望自动化机器学习运维流程中的部分或全部步骤。 |
示例：黄金银行的自动化机器学习生命周期
金银银行的数据科学家可利用数据管道自动化实现完整的AI治理生命周期及流程，从而简化模型重新训练过程。
人工智能治理教程
| 教程 | 描述 | 教程专业知识 |
|---|---|---|
| 构建和部署模型教程 | 训练模型，将其提升至部署空间，并部署该模型。 | 运行一个笔记本。 |
| 模型测试与验证教程 | 评估模型的准确性、公平性和可解释性。 | 运行笔记本，并在用户界面中查看结果。 |