主页 Case Studies IBM CIO Cloud AI 使用 IBM Cloud 改善 AI 工作负载
IBM 首席信息官组织借助 watsonx 优化 AI 模型
了解有关 IBM Cloud 的更多信息 了解有关 Red Hat OpenShift 的更多信息
驾驶考试车道鸟瞰图,周围散落着汽车和集装箱
满足 AI 应用需求面临的挑战

IBM 混合云平台面临一项复杂的挑战:既要托管新的人工智能 (AI) 应用,还要托管近 2,000 个构成 IBM 业务运营的现有内部工作负载。1 在混合云平台上托管 AI 应用时,需要考虑以下要求:

  • AI 应用必须符合公司的知识产权 (IP) 要求。

  • 开发人员工具需要简单易用,并在用于创建利用生成式 AI 内容的应用时提高工作效率。

  • 必须在整个摄取和使用过程中安全管理敏感数据。

  • 托管环境必须在硬件资源、开发和运营方面具有成本效益。

  • 一些 AI 工作负载量需要在本地托管,并且需要支持本地硬件上的相同 AI 环境。

最初,IBM 首席信息官 (CIO) 组织托管了矢量数据库和生成式 AI 模型,这些模型使用预配置的高成本图形处理单元 (GPU)。尽管此选项有效,但并不是最佳选择。在高峰时段,开发和生产团队之间的资源竞争导致需要购买额外的 GPU,而这些 GPU 在非高峰时段处于闲置状态。

此外,这种复杂的环境要求运营团队投入额外的时间管理 AI 集群。这涉及采购资源、修补和管理弹性。


1IBM 混合云应用数据于 2024 年 9 月 30 日通过 Superset IBM Application Portfolio Management (APM) ServiceNow 仪表板获取。

IBM CIO 需要基于我们的数据规模化交付 AI 工作负载,并对完整性和透明度做出坚定承诺。在混合云的基础上,借助 IBM 云组件,我们进行了扩展以满足企业需求。 Matt Lyteson CIO 技术平台转型副总裁 IBM
利用 IBM Cloud 上的 watsonx 优化 AI 工作负载管理

简化 CIO 组织环境的必要性显而易见。因此,AI 模型和数据管理、开发和生产工作负载被转移到 IBM® watsonx 即服务(在 IBM® Cloud 上)。

现在,应用团队所需的工具和资源均由 watsonx 提供支持,以支持 AI 模型的开发和训练。甚至用于应用推理的 AI 模型的部署也由 watsonx 集成环境处理。

CIO 混合云平台团队发现,IBM Cloud 环境在支持生产和开发 AI 工作负载方面非常有效。 Ben Pritchett 平台架构师,CIO AI、自动化和数据平台 IBM
成功过渡到 IBM Cloud:高效的数据管理和 AI 服务

与 IBM Cloud 上的 IBM® watsonx.dataIBM® watsonx.ai 的整合使 CIO 组织能够高效管理特定于域的数据和 AI 服务。

它还提供一系列对企业非常重要的优势:

  • 基于用量的定价模型以所用资源为基础。

  • GPU 使用量的激增通过 IBM Cloud 上的 watsonx 即服务的弹性进行处理,运营团队无需再管理 GPU 资源。

  • 开发所需的工具。

  • 安全部署模型。

  • watsonx 环境可在 Red Hat OpenShift 上使用,具有灵活性,包括在本地部署工作量。

  • 与 watsonx.governance 结合使用时,在某些情况下,IBM 已为涵盖的模型生成的输出提供知识产权赔偿,包括 IBM 开发的模型以及 watsonx.ai 提供的一些第三方基础模型

通过将 AI 集成到系统和流程中,AI 应用正在彻底改变 IBM 的运营方式。像 AskIBM 这样的应用正在投入生产,它是一款 AI 驱动的数字助理,可以自动执行日常业务任务。通过利用 IBM Cloud 平台产品/服务,CIO 组织有能力根据特定需求扩展解决方案。

IBM 徽标
关于 IBM 首席信息官 (CIO) 组织

IBM 首席信息官 (CIO) 组织主导着 IBM 的内部 IT 策略,同时负责 IBM 员工、客户和合作伙伴用于日常工作的 IT 解决方案的交付、保护、现代化和支持。CIO 组织的策略包括创建一个自适应 IT 平台,可支持整个企业更轻松地访问 IT 工具、应用程序和系统,加速解决问题,并充当 IBM 的创新引擎,促进业务增长。

CIO 组织利用 IBM Cloud 上的 watsonx 优化 AI 工作负载管理

CIO 组织成功将 AI 数据管理、开发和生产工作负载迁移到 IBM Cloud 上的 watsonx,以帮助提高对特定于域的数据和 AI 服务的管理效率。

了解 IBM watsonx.ai 的更多信息 详细了解 IBM watsonx.data
法律信息

© Copyright IBM Corporation 2024。IBM、IBM 徽标、Granite、IBM Cloud、IBM watsonx、watsonx.ai和 watsonx.data 是 IBM Corp. 在美国和/或其他国家或地区的商标或注册商标。本文档自发布之日起生效,并可能随时由 IBM 进行修改。IBM 并不一定在开展业务的所有国家或地区提供所有产品或服务。

Red Hat 和 OpenShift 是 Red Hat, Inc. 或其子公司在美国和其他国家/地区的商标或注册商标。

插图中的客户示例展示了客户使用 IBM 产品的方式,以及他们可能已取得的结果。实际性能、成本、节省情况或其他结果可能因具体运营环境不同而异。