「生成AIによる経済学」を制して、競合を勝ち抜く

生成AIは過去のどのテクノロジーとも異なっています。瞬く間にビジネスと社会を揺るがす存在になりつつあり、リーダーはこれまでの想定や計画、戦略の見直しを迫られています。

こうした変化にCEOが対処するための一助として、IBM Institute for Business Valueは生成AIの調査に基づくガイドをシリーズ化し、テーマごとに公表しています。内容はデータ・セキュリティーからテクノロジー投資戦略、顧客体験にまで及びます。

今回は第二十二弾として「コンピューティング・コスト」をお届けします。

コンピューティング・コストについて考えるのはIT部門の役目のように思われるかもしれません。実際、つい2年前（訳注：2022年）ならそのとおりだったかもしれません。しかし、生成AIによって、それは経営層の問題へと格上げされようとしています。というのも、適切に管理されなければ、生成AIの運用に必要な膨大なコンピューティング・リソースが、予想外のコスト急増を引き起こし、イノベーションやビジネス変革の妨げになる可能性があるからです。

反面、こうしたコスト上昇の原因が分かれば、CEOはより多くの情報に基づいた投資判断を下すことができるようになり、イノベーションや変革をよりコスト効率よく実現するための戦略的な優先順位付けが可能になります。

例えば、生成AIに必要な専用のクラウド能力を確保するため、企業は多額の設備投資や運用投資を行う必要があります。しかし、そうしたコストについて考えるとき、コンピューティング能力やサーバー能力だけを意識していればよいわけではありません。ストレージ、データセンター、ネットワーク設備やサービス、また生成AIシステムの稼働に必要な総エネルギー量も考慮する必要があります。

これらがすべて合わされば、予想以上に出費が跳ね上がる可能性があります。これらのコストを管理にたけたCEOは、最新テクノロジーを駆使して、高性能マシンのようにビジネス・パフォーマンスを妨げる要因を取り除き、競争相手に先んじることができます。言い換えれば、コンピューティング・コストの優位性は、競争上の優位性に直結するのです。生成AIにかかる費用を予算に組み込むのに苦労する組織がある一方、コストを効果的に管理する組織は、財政上の障壁を克服しつつ、未来に向けて大きく前進することができるのです。

IBVが考える、すべてのリーダーが知っておくべき3つのこと： 

そして、すべてのリーダーが今すぐ実行すべき3つのこと：

リーダーが知るべきこと1ー 「スケーリング + 生成AI」

せっかく練り上げた生成AI計画が、コストにより頓挫することがある

生成AIは、コンピューティング・コストを急上昇させています。2023年から2025年にかけ、コンピューティング全体の平均コストは89%増加すると予想されています。この増加分の中で特に大きな割合を占めるのは生成AIになると回答した経営層は70%でした。

結果、多くの組織が投資のペースを落としつつあります。今回の調査で回答した経営層の全員が、コンピューティング・コストに関する懸念から、1件以上の生成AI施策を中止または延期したと答えました。平均してプロジェクトの15%が保留となり、規模が拡大できなかった生成AI施策の割合は21%に上りました。

生成AIを活用するためには、AIモデルのトレーニングや微調整、さらにはデータの保管や処理能力の拡充が必要になります。そのため、コンピューティング・コストは増大します。これらの大部分はクラウドコンピューティングを介して行われます。生成AIを展開するためのクラウドのコストは、今やAIモデル自体に関わるコストの2倍です。この差は、クラウドが生成AIを構築し、運用する場となるにつれて広がりつつあります。これはジレンマです。適切な監視がなければ、生成AIを拡張するために必要なクラウドサービスが最大のコスト障害となり、生成AIの規模拡大を妨げるからです。

このジレンマを打破するためには、CEOは生成AIプログラムに対して明確なコスト目標を設定し、コスト・ガバナンス体制を確立する必要があります。またパートナー企業と協力して、コストの削減方法を探り、コストを最適化させる効率的なアーキテクチャーに投資する必要があります。

例えばハイブリッドクラウド・アーキテクチャーを採用すれば、組織はデータやアプリケーションに生成AIを直接連携させて、ビジネス価値を生み出せるようになります。また、共通のコントロール・プレーンやFinOps機能を備えたハイブリッドクラウド・プラットフォームを利用することで、コストを最小化した環境で、データやワークロード、アプリケーションなどの運用に必要な可視性を獲得できます。しかしこれほどの潜在的な可能性があるにもかかわらず、クラウド・プラットフォームやコンテナ・オーケストレーション技術を十分に活用して、コンピューティング・コストを削減した組織は26%に過ぎません。

生成AIがコストをより複雑なものとしている状況において、CEOは支出を詳細に分析し、より効果的に管理する必要があります。注意深く管理しなければ、データ・ラベリングからモデルのカスタマイズに至るまで、新しいAIコストによって、予算はたちまち膨れ上がることになるでしょう。今後、生成AIを活用して収益性を向上させるためには、モデル最適化のベスト・プラクティスを理解し、コンピューティング・パワーを適正に配置することが不可欠となります。

リーダーが実行すべきこと１ー 「スケーリング + 生成AI」

コンピューティング・コストを把握する

生成AI支出を押し上げる要因を特定し、プロジェクトの規模が拡大する前に先手を打ちます。許容できるコストのガイドラインを明確に設定し、プロジェクト計画のできるだけ早い段階でコンピューティングのニーズを評価しておくことで、将来、コストが予期せぬほど高額になることを防ぎます。

• コスト要因を特定します。ハードウェア、クラウドサービス、モデルの選択とトレーニング、データの収集とクリーニング、統合、保守などのさまざまな要因が生成AIコストにどのように影響するのかを理解します。同時に試験運用から大規模なプロジェクトへ移行するのに伴い、これらの要因がどのように変化するのかを把握します。コスト管理の明確なパラメーターを設定し、生成AIに関するあらゆる意思決定の指針とします。それぞれの段階でコンピューティング・コストを評価、監視、管理するためのツールを社内に展開します。
   
• 既存のコンピューティング・リソースを再調整します。コンピューティングのニーズを前もって予測するため、ライフサイクル全体のコストを評価します。よりコスト効率の高いインフラ、目的に合ったモデル、ワークロードの最適化ツールに投資し、規模を拡大してもコストを現実的な範囲に保つよう管理し続けます。パートナー企業と協力して、トレーニングや微調整、開発などにかかるコストを削減します。
   
• FinOpsとクラウドの最適化を通じて、生成AIコストを削減します。ハイブリッドクラウド・プラットフォームをコンピューティング・コストのコントロール・タワーとします。Kubernetes* をデプロイして、コンテナ* * 内でワークロードやサービスを管理し、効率的で一貫した生成AIアプリケーションを展開します。データ・ストレージやモデルの再トレーニングおよび微調整、さらにはセキュリティーやコンプライアンスに至るまで、生成AIの利用に伴うコストを監視し、企業業績に予期せぬダメージを与えないようにします。
  
  * Kubernetesとは、デプロイやスケーリングを自動化し、コンテナ化したアプリケーションを管理するための、オープンソースのコンテナ・オーケストレーション・システムのこと 
  * * アプリケーションの実行に必要なOSのライブラリーやランタイムをアプリケーションとともにパッケージ化したもの
   

リーダーが知るべきこと２ー 「ハイブリッドクラウド + 生成AI」

Hybrid by designにより、生成AIのスケーリング・コストは抑えられる

すべての生成AIアプリケーションが同じように作られているわけではありません。それぞれのユースケースには、独自のコンピューティング、データ、プライバシーなどの要件があります。ハイブリッドクラウドが瞬く間に主流のアーキテクチャーとなった理由は、まさにそこにあります。組織にとってハイブリッドクラウドは、どのワークロードにおいても抜群のコスト効果を実現するインフラであり、企業の財政を強度に圧迫することなく、大規模に生成AIの目標を達成することを支援します。

全体として経営層の72%が今後、生成AIのスケーリングとコンピューティング・コストの管理に、ハイブリッドクラウドが欠かせなくなるだろうと認識しています。パイロット運用から本格的な生成AIプロジェクトに移行した組織では、この回答の比率が85%に上昇します。とはいえ、ハイブリッドクラウドの可能性を余すことなく引き出すためには、そのアーキテクチャー原則をプラットフォーム、セキュリティー、AI、クラウド、データへの取り組み全体に広げる必要があります。

このような「Hybrid by design*（ハイブリッド・バイ・デザイン）」型のアーキテクチャーは、オンプレミスのようなリアルタイム処理能力に対する強力なエンジンとともに、迅速なスケーリングやデータ・アクセスを可能にするクラウドの俊敏性（アジリティー）を併せ持ちます。また、明確に定義されたビジネス成果に向け、巧みな設計と意図的な統合により、個々のテクノロジーを連携させます。

だからこそ、一貫したHybrid by design型のアプローチは、生成AI施策の拡大を目指す組織に確実な恩恵をもたらします。現在、53%の組織がコンピューティング・コストを一元的に管理しており、この割合は2026年までに73%に上昇することが見込まれています。こうした中、コストを監視、最適化、管理するために必要なコンピューティング・リソースを、一元的に把握できるHybrid by designは、重要な役割を果たすと期待されています。

* ビジネス優先事項を達成するための戦略的な設計に基づくアプローチによる、ハイブリッドクラウド・アーキテクチャー・フレームワーク（ 詳細はこちら ）

リーダーが実行すべきこと２ー 「ハイブリッドクラウド + 生成AI」

生成AIとハイブリッドクラウドを統合した戦略を築く

具体的なビジネス目標を達成するために、生成AIとハイブリッドクラウドの統合力を活用します。Hybrid by designとワークロードのコンテナ化* により、最適化とオーケストレーションを行い、コンピューティング・コストを抑制し、運用を合理化します。

• 組織の「中枢」を確立します。生成AIの規模を拡大する過程において、コンピューティング・リソースへのニーズがどこでどのように増大するのかを把握します。各タスクに必要なコンピューティング・パワーの量を見極め、リソースを効率よく配分します。ハイブリッドクラウドのアーキテクチャー原則を、テクノロジー資産全体に適用します。
   
• 忍び寄るコスト増加を抑え込みます。モジュール性と柔軟性を考慮して設計します。AIの各ユースケースや施策にとって、最適かつ最もコスト効果の高い環境を選択できるようアーキテクチャー原則に従います。
   
• 成功の基準を明確にします。コンピューティング・コスト管理を一元化し、明確に定義されたビジネス目標に基づいて全社的なガイドラインを策定します。組織内で責任の所在を明確にし、パフォーマンス評価指標を備えたガバナンス体制を整えます。
  
  * アプリケーションをパッケージ化し、それぞれの入れ物である「コンテナ」に隔離する仮想化技術

リーダーが知るべきこと３ー 「最適化 + 生成AI」

生成AIはコンピューティング予算の可能性を広げる

生成AIは、コンピューティング・コストをひっ迫させることもあれば、改善することもあります。実際に経営層の73%が、生成AIはコンピューティング・リソースの利用効率を高めると考え、すでに実践しています。

例えば、67%の組織が効率的な新しいモデルやアルゴリズム、アプリケーションの開発を加速させるため、生成AIを活用しています。これらのリソースの開発に必要な時間と労力の削減、効率的なソリューションの展開を実現しました。

さらに65%の組織が、生成AIを活用してタスクを自動化することで、必要なコンピューティング・リソースを削減しています。これは、従来の自動化とはどう異なるのでしょうか。答えの1つは、生成AIモデルは並行してデータを処理するように設計できるため、複数の処理ユニットを活用して、自動化されたタスクを完了するのに必要な処理時間とコンピューティング・リソースを削減できることです。

もう1つの生成AIの利点は、メインフレームのコスト効率を高めることです。メインフレームは管理コストが高く、使いづらいといった評価がある一方、最良の選択肢として採用されるケースが数多くあります。例えば、銀行や保険会社、航空会社などは、危機が発生したときにも事業を継続させるために、メインフレームに依存しています。システムがトラブルに見舞われた場合でも、ワークロードを移行し、抜群のスピードで取引を処理することが可能です。メインフレームは、現在でも頼りにされる存在なのです。

生成AIはメインフレームが持つスピードと強靱性を、さらに一段階レベルアップさせます。生成AIは、自動化、予測分析、自己調整機能などを通じて、メインフレームの活用方法を改善しつつ、システムの利用効率を最適化することができます。そればかりか、データセンターの設計を最適化することで、エネルギー消費量とコストを削減し、組織全体の効率性を向上させることが可能です。こうした目的で生成AIを使用する組織の割合は、2023年には25%でしたが、24年末までに70%に上昇することが見込まれています。

リーダーが実行すべきこと３ー 「最適化 + 生成AI」

「光速」（圧倒的なスピード）をより低コストで実現する

コンピューティング・コストを削減し、リアルタイムに適応する能力を向上させるために、インテリジェントな意思決定を支援するツールを管理職に提供します。ワークフローを自動化し、AIモデルを最適化することで、コストを削減し、イノベーションを推進する、新たな効率性の時代を切り拓きます。

• 生成AIをIT運用の中核に据えます。自動化スクリプトを作成し、オペレーションを文書化し、コンプライアンスの関連業務を効率化する生成AIツールを、IT担当の管理職に提供します。問題の探知と解決の自動化、予測的なキャパシティー管理、リアルタイムのパフォーマンス監視などにより、メインフレーム管理を一新します。
   
• 最適化と自動化で、効率化を推進します。合成データ* の生成、コード生成と最適化の自動化、動的なリソース配分などに生成AIを活用し、コンピューティング・コストを削減します。
   
• 変化するマーケットにリアルタイムに適応します。生成AIを活用して、需要、市場動向、競合他社の価格設定をリアルタイムに分析し、価格戦略の最適化や収益の最大化、価格関連の損失防止を図ります。予算要件を予測し、予算配分を最適化し、無駄を防止するため、過去の支出パターンを評価します。
  
  * 合成データ（synthetic data）とは、現実世界で収集したデータを元に、計算アルゴリズムやシミュレーションにより人工的に生成したデータのこと
   

本ページに記載されているインサイト（洞察）は、IBM Institute for Business Valueがオックスフォード・エコノミクス（Oxford Economics）社の協力を得て実施した2度の独自調査に基づいています。最初の調査は2024年6月から7月にかけ、コンピューティング・コストと生成AIに対する意見を、米国企業の経営層207人に尋ねました。2件目の調査は持続可能なIT業務に関するもので、2023年12月から2024年4月にかけ、1,110人の経営層を対象に行われました。ウォールストリート・ジャーナル紙のインサイトも参照しています。