实施生成式 AI 似乎是一个先有鸡还是先有蛋的难题。在 IBM 商业价值研究院 最近的一项调查中，64% 的 CEO 表示他们需要先对应用程序进行现代化，然后才能使用生成式 AI。但与此同时，生成式 AI 能够通过代码逆向工程、代码生成、从一种语言到另一种语言的代码转换、定义现代化工作流程和其他自动化流程，来转变应用程序现代化流程。以下是 CTO 和 CIO 评估其科技和数据资产、评估机会和规划前进道路的方法。
CIO 和 CTO 需要：
过去十年来，IBM 倡导混合云战略，以支持可扩展的由 AI 驱动的创新、生产力和效率提升。从我们的角度来看，关于架构的争论已经尘埃落定。已掌握混合云的组织在整个组织内实施生成式 AI 方面具有得天独厚的优势。。混合云使他们能够利用强大的开源大型语言模型 (LLM)，使用公共数据和计算资源来培训自己的模型，并在确保专有见解保密的同时，安全地对模型进行微调。除了为客户和员工体验、人力资源以及客户服务功能带来巨大价值外，基于混合云的生成式 AI 还为 CIO 和 CTO 提供了非凡的灵活性，使他们能够自动化 IT 运营并实现应用程序现代化，从而有可能消除技术债务，实现真正的持续现代化。
即使对于那些已致力于混合云的 CIO 和 CTO 来说，组织在现代化进程中仍然面临着障碍。首先，技术领导者需要估算现代化对整个组织的全面财务影响（与不进行现代化改造的成本相对比）。他们需要将现代化作为一项业务举措来推动，而非仅仅是一个 IT 项目。领导者还必须通过优先发展人才来解决专业知识差距问题，并让企业文化接纳现代化作为一项具有前瞻性的战略商业投资，而非仅仅是一种运营技术的手段。
接下来，领导者需要了解生成式 AI 为现代化带来的商业价值，以明确他们应该在哪里进行投资。根据我们 IBM Consulting 团队的经验，刚刚开始现代化之旅的组织在理解人工智能驱动的自动化的优势和价值时，需要透视 “可能的艺术”。在发展历程中处于更高级地位的组织正在寻求对其行业用例的明确性，并寻求帮助以应对独特的机会。
在 IT 运营中，生成式 AI 用例包括对系统进行自动分类，以遵守服务水平目标；管理、沟通、提供帮助以及解决查询和工单；事件和异常检测和管理。它可以通过构建和执行 Runbook 并帮助用户过渡到新的知识库和软件来提高 IT 自动化。它还可以为平台工程提供帮助，例如通过生成 DevOps 管道和中间件自动化脚本。
关于作为现代化基础的 IT 运营，可以说的还有很多。在这里，我们将重点讨论可以应用生成式 AI 的四种工作流。
CTO/CIO 应该考虑在这些功能中使用生成式 AI 来快速取胜。寻找相对离散且风险较低的机会来深入了解概念验证实施。从小规模着手，进行测试，然后逐步扩展。
事先选择合适的基础模型可以帮助您的企业实现更准确、更高效的结果。
transformers 的架构倾向于追求规模：更大的模型会产生更好的结果。因此，在生成式 AI 领域，存在一场竞赛，即构建越来越大的基础模型，以应用于越来越广泛的场景。但是，尽管最大的模型功能强大，但数十亿参数的繁重模型可能并不总是企业的最佳选择。已针对具体任务进行微调的较小模型通常优于未针对该任务进行微调的大型模型。如果底层基础适合企业使用，则这些模型可以在通用 LLM 上运行，只需进行微调即可。例如，IBM 的 130 亿个参数的 Granite 基础模型（在即将发布的 watsonx.ai 版本中提供）比最大的 LLM（包含数千亿个参数）小得多，但在总结、问答和分类等具体业务任务上表现良好，而且效率也要高得多。
适合特定用途的基础模型还使组织能够通过生成代码片段和应用程序组件以及自动化应用程序测试，来实现自动化并加速现代化进程。利用 watsonx.ai 中内置的代码模型，IBM watsonx Code Assistant 还可用于转换代码，例如 将 COBOL 转换到 Java。在 watsonx Code Assistant 中，不同经验水平的开发人员都能以通俗易懂的语言表达请求，并获得 AI 生成的建议，或根据现有的源代码生成代码。watsonx.ai 还包括对 StarCoder LLM 的访问权限，该模型使用来自 GitHub 的开放许可数据进行训练。开发人员可以充分利用 StarCoder 加速代码生成，并提高应用程序现代化和 IT 现代化的生产力。
除了规模之外，在选择基础模型时，CTO 还应考虑模型支持的自然语言和编程语言以及模型所需的微调程度。
在生成式 AI 领域，投资回报率 (ROI) 的计算方法并不成熟或标准化，通常也没有可比较的基准。对于企业应用而言，微调、提示工程和运行计算密集型工作量都需要大量投资。
在选择和部署模型时，需要考虑四个关键因素，这些因素因领域、行业和用例而异。第一个成本因素是定价或许可方法。评估的依据是公共云和托管云上的 API 使用情况，以及混合云和私有云上的托管和计算成本。第二个成本因素是开发工作量，混合云和私有云的开发工作量更大，且与第三个因素（企业数据安全）密切相关。最后，要考虑知识产权和安全风险的潜在影响，这两方面的影响在混合型和私有型两端都有所减轻。
在评估投资回报率时，数据可用性和治理因素也是需要考虑的因素。通过 watsonx 的 AI 产品组合，IBM 在提供针对业务用户需求的基础模型方面取得了长足的进步：watsonx.data 中提供的适合特定用途的数据存储，建立在开放的湖仓一体架构之上，使企业在其工作量所在的任何地方对模型进行个性化设置。在 watsonx.governance 中的工具还将帮助组织在整个业务中高效地推动负责任、透明和可解释的工作流。
随着生成式 AI 的能力和用途的加速发展，为投资回报率方程中的收益部分量化具体数值可能是一项挑战。但对于 CIO 和 CTO 而言，从组织通过传统 AI 创造商业价值的众多方式出发，作为起点，并据此推断其生成式 AI 测试用例和快速胜利项目中的潜在价值，这是有意义的。
无论是作为正式的 ESG 计划的一部分，还是作为企业使命的一部分，可持续发展不仅仅是一种良好的道德规范——它越来越被视为更佳的商业实践。致力于有效可持续发展的公司可以通过提高股东回报、收入增长和盈利能力来提升商业价值。因此，CTO 在考虑采用生成式 AI 时，将可持续发展纳入考量是明智之举。
训练、微调和运行 AI 模型可能会产生巨大的碳足迹。正因如此，IBM 通过提供可信、可移植且节能的基础模型，帮助企业定制生成式 AI。制作更小的模型并更有效地利用计算机资源可以大大降低费用和碳排放量。IBM Research 还在开发更高效的模型训练科技，例如LiGo 算法，该算法可以回收小模型并将其构建为更大的模型，从而节省高达 70% 的时间、成本和碳输出。
最后，有效实施生成式 AI 取决于熟练且充满热情的人人才。因此，人力资源部门应该成为组织战略的中心。首先，对人力资源专业人员自身进行技能提升培训，他们可能已经在使用 AI 驱动的招聘工具。接下来，制定一项正式的管理计划，以沟通生成式 AI 测试和采用的进展情况并提供反馈。