アプリケーションのモダナイゼーションに生成AIを導入する前にCIOとCTOが考慮すべきこと

生成AIの導入は、鶏が先か卵が先かという難問のように思えるかもしれません。IBM Institute for Business Valueが実施した最近の調査では、CEOの64％が、生成AIを使用する前にアプリケーションをモダナイズする必要があると回答しています。同時に、生成AIには、コードのリバース・エンジニアリング、コード生成、ある言語から別の言語へのコード変換、モダナイゼーション・ワークフローの定義、その他の自動化プロセスを通じて、アプリケーションのモダナイゼーション・プロセスを変革する力があります。CTOとCIOが自社のテクノロジーとデータ資産を評価し、機会を見極め、今後の道筋を描く方法を説明します。

CIOとCTOは次のことを行う必要があります。

• 生成AIを効果的に導入するための基盤戦略として、組織のハイブリッドクラウドの習熟度を評価すること
• 組織的な障害と導入および現状維持のコストを評価すること
• 汎用の大規模モデルを使用する場合と、小規模なモデルをチューニングする場合のコストとメリットを比較検討すること
• データの可用性、ガバナンス、セキュリティー、サステナビリティーに関連する要素とコストを評価すること
• 人事部と連携して、人材を生成AI戦略の中心に据えること

IBMは過去10年にわたり、スケーラブルなAI主導のイノベーション、生産性、効率性を支えるハイブリッドクラウド戦略を推進してきました。IBMでは、アーキテクチャーに関する議論は終わったと考えています。ハイブリッドクラウドを習得した組織は、組織全体に生成AIを導入するのに適した立場にあります。ハイブリッドクラウドにより、強力なオープンソースの大規模言語モデル（LLM）を活用し、公開データとコンピューティング・リソースを使用して独自のモデルをトレーニングし、独自の洞察を非公開のままモデルを安全にファイン・チューニングすることができます。ハイブリッドクラウド上の生成AIは、顧客と従業員のエクスペリエンス、人事部およびカスタマー・サービス部に多大な価値を付加するとともに、CIOとCTOにIT運用の自動化と迅速なアプリケーションのモダナイゼーションを可能にし、技術的負債を解消して真に継続的なモダナイゼーションを可能にします。

ハイブリッドクラウドに取り組んでいるCIOやCTOにとっても、モダナイゼーションに対する組織的な障害は残っています。まず、テクノロジー・リーダーは、組織全体におけるモダナイゼーションの全体的な財務的影響（およびモダナイゼーションを行わない場合のコスト）を見積もる必要があります。企業は、ITプロジェクトではなく、ビジネス・イニシアチブとしてモダナイゼーションを推進しなければなりません。リーダーは、人材育成を優先することで専門知識のギャップに対処し、運用技術の取り組みではなく、戦略的かつ将来を見据えたビジネス投資としてモダナイゼーションに対する文化的支持を得ることも重要です。

次に、リーダーは、生成AIがモダナイゼーションにもたらすビジネス価値を理解し、どこに投資すべきかを理解する必要があります。IBMコンサルティング・チームの経験では、モダナイゼーションの取り組みを始めたばかりの組織では、AI駆動型の自動化のメリットと価値を理解するために、「可能性の追求」についての視点が必要です。取り組みが進んでいる組織は、業界におけるユースケースの明確化と、独自の機会に対処するための支援を求めています。

IT運用における生成AIのユースケースには、サービス・レベル目標を順守するためのシステムの自動トリアージュ、問い合わせとチケットの管理、通信、サポートの提供、解決、イベントと異常の検知と管理が含まれます。ランブックを構築および実行し、ユーザーが新しいナレッジ・ベースやソフトウェアに移行できるようにすることで、IT自動化を改善できます。また、DevOpsパイプラインやミドルウェア自動化スクリプトを生成するなど、プラットフォーム・エンジニアリングにも役立ちます。

モダナイゼーションの基盤としてのIT運用については、さらに多くのことが言えます。ここでは、生成AIを適用できる4つのワークフローについて重点的に説明します。

• トランスフォーメーション計画：生成AIは、要約、計画作成、Terraformなどのリファレンス・アーキテクチャーの生成を通じて、モダナイゼーション・ワークフローを明確化するのに役立ちます。
• コード・リバース・エンジニアリング：生成AIは、コードを分析してビジネス・ルールとドメイン・モデルを抽出し、アプリケーションをモノリシック・アーキテクチャーからマイクロサービスに移行するための推奨事項を生成し、リファクタリングとコンテナ化の機会を特定してリファクタリングされたコードを生成することで、リバース・エンジニアリングを容易にします。
• コード生成：コード生成は、ITリーダーが開発者の余力に関連する課題を克服し、限られた人材プールのスキルを最適化するのに役立ちます。非常に反復的な手動タスクは、短いスニペットから完全な機能まで、クラウドネイティブ・コード生成によって処理できます。UIデザイン、インフラストラクチャー、コンテナ・プラットフォーム構成（Red Hat OpenShiftなど）、サーバーレス・フレームワーク（Knativeなど）用のコードを生成できます。
• コード変換：コード変換は、ミッションクリティカルなレガシー・アプリケーションを保持および更新するために不可欠です。生成AIにより、例えばCOBOLからJava、SOAPからRESTなど、他の言語や環境へのプロセスの自動化が可能になります。

CTO/CIOは、これらの機能内で生成AIを使用することで得られる迅速な成果を検討する必要があります。概念実証の導入を検討するには、比較的重要度が低く、かつ低リスクの機会を探してください。小さく始めて、テストし、拡張します。

事前に適切な基盤モデルを選択すると、企業にとってより正確で効率的な成果を実現できます。

Transformerアーキテクチャーではサイズが優先されます。モデルが大きいほど、より良い結果が得られます。そのため、生成AIでは、さらに幅広いアプリケーション向けに、さらに大きな基盤モデルを構築するための競争が繰り広げられています。しかし、最大規模のモデルは強力ですが、数十億個のパラメーターを持つ重いモデルが必ずしも企業にとって最適な選択肢であるとは限りません。多くの場合、タスクに合わせてファイン・チューニングされた小規模なモデルは、そのタスクに合わせてファイン・チューニングされていない大規模モデルよりも優れたパフォーマンスを発揮します。これらのモデルは、基盤がエンタープライズでの使用に適している場合、わずかな調整を加えるだけで汎用LLM上で実行できます。例えば、IBMの130億個のパラメーターを持つGranite基盤モデルは、watsonx.aiの次期リリースで利用可能になりますが、これは最大のLLM（数千億個のパラメーターを含む）よりもはるかに小さいですが、要約、質問応答、分類などのビジネス固有のタスクで優れたパフォーマンスを発揮し、はるかに効率的です。

目的に合った基盤モデルにより、組織は、コード・スニペットとアプリケーション・コンポーネントを生成し、アプリケーション・テストを自動化することで、モダナイゼーションを自動化および加速することもできます。watsonx.aiに組み込まれたコード・モデルをベースにしたIBM watsonx Code Assistantを使用して、例えばCOBOLからJavaへといったコードを変換することもできます。watsonx Code Assistantでは、あらゆる経験レベルの開発者が、リクエストを平易な言葉で表現し、AIが生成した推奨事項を取得したり、既存のソース・コードに基づいてコードを生成したりできます。watsonx.aiには、GitHubのオープン・ライセンス・データでトレーニングされたStarCoder LLMへのアクセスも含まれます。開発者はStarCoderを活用してコード生成を加速し、アプリケーションやITのモダナイゼーションの生産性を向上させることができます。

規模以外にも、基盤モデルを選択する際には、CTOはモデルがサポートする自然言語とプログラミング言語、およびモデルに必要なファイン・チューニングの量も考慮する必要があります。

生成AIでは、ROIの計算方法が成熟していないため標準化されておらず、比較ベンチマークも利用できないことがよくあります。エンタープライズ・アプリケーションの場合、ファイン・チューニング、迅速なエンジニアリング、計算集約型のワークロードの実行には多大な投資が必要です。

モデルを選択してデプロイする際には、ドメイン、業界、ユースケースに応じて異なる4つの重要な要素を考慮する必要があります。最初のコスト要因は、価格設定またはライセンス方法です。これは、パブリッククラウドとマネージドクラウドでのAPI使用量、およびハイブリッドクラウドとプライベートクラウドでのホスティングおよびコンピューティング・コストによって評価されます。2番目のコスト要因は開発労力であり、ハイブリッドクラウドとプライベートクラウドではその労力が高くなり、3番目の要因であるエンタープライズ・データ・セキュリティーと密接に関係しています。最後に、IPとセキュリティー・リスクの潜在的な影響を考慮します。これらは、ハイブリッドとプライベートのスケールの端に近づくにつれて軽減されます。

ROIを評価する際には、データの可用性とガバナンス要因も考慮する必要があります。IBMは、AI製品のwatsonxポートフォリオを通じて、ビジネスユーザーのニーズに合わせた基盤モデルの提供において大きな進歩を遂げています。オープン・レイクハウス・アーキテクチャーに組み込まれたwatsonx.dataで提供される目的に適したデータ・ストアにより、企業はワークロードがどこにあってもモデルをパーソナライズできます。watsonx.governanceツールは、組織がビジネス全体で責任ある、透明性があり、説明可能なワークフローを効率的に推進するのにも役立ちます。

生成AIの機能と用途が加速するにつれて、ROI方程式のメリット側に数字を当てはめることが困難になる可能性があります。しかし、CIOやCTOが出発点として、組織が従来のAIからビジネス価値を生み出してきたさまざまな方法を調査し、生成AIのテスト・ケースや迅速な成果から潜在的な価値を推定することは理にかなっています。

正式なESGプログラムの一部であろうと、企業の使命であろうと、サステナビリティーは単なる倫理観以上のもので、より良いビジネスとしてますます認識されるようになっています。熱心に効果的なサステナビリティーの取り組みを行っている企業は、株主利益、収益成長、収益性の向上によりビジネス価値を高めることができます。したがって、CTOが生成AIの導入の計算にサステナビリティーを考慮することは賢明です。

AIモデルのトレーニング、チューニング、実行は、膨大な二酸化炭素排出量を残す可能性があります。そのため、IBMは信頼性が高く、移植性が高く、エネルギー効率に優れた基盤モデルを使用して、企業向けに生成AIをカスタマイズできるよう支援しています。モデルを小型化し、コンピューター・リソースをより効率的に使用することで、費用と二酸化炭素排出量を大幅に削減できます。IBM Researchは、小さなモデルをリサイクルしてより大きなモデルに構築し、時間、コスト、炭素排出量を最大70％削減するLiGoアルゴリズムなどの、より効率的なモデル・トレーニング・テクノロジーも開発しています。

最後に、生成AIを効果的に導入するには、熟練した熱心な人材が必要です。したがって、人事部門は組織の戦略の中心に位置付けられるべきです。まず、既にAIを活用した採用ツールを使用している可能性が高いHR担当者自身のスキルを再教育することから始めます。次に、生成AIのテストと導入が進行中であることを伝え、フィードバックを提供するための正式な管理イニシアチブを開発します。