エージェント・ライフサイクル管理とは

ALMは、エージェントの設計方法、アクセス可能なデータやツール、エージェントの動作の評価方法、および更新や廃止の方法を組織が体系的に定義するための仕組みを提供します。

ビジネス環境では、エージェント・ライフサイクル管理は、AIオペレーション、SDLC、DevSecOps、およびMLOpsを含む、使い慣れたソフトウェアおよびセキュリティのプラクティスを基盤としています。しかし、AIエージェントは大規模言語モデル（LLM）を使用し、ツールを呼び出し、コンテキストを維持し、複数のステップから成るタスクを計画し、アクションを自動化できるため、より多くの制御が必要になります。従来のアプリケーションとは異なり、エージェントは、同じインプットに対して異なるアウトプットを生成したり、ユーザーの意図、利用可能なコンテキスト、または接続されているシステムに応じて異なるステップを選択したりすることがあります。

人工知能（AI）エージェントは、利用可能なツールを使用してワークフローを設計し、自律的にタスクを実行するシステムです。AIエージェントは、コンテキストを認識し、目標や制約について推論を行い、ツールやサービスを利用してタスクを完了します。AIエージェントは、1つ以上の大規模言語モデルを使用して、ユーザーの意図を解釈し、次のステップを計画し、情報を取得し、APIを呼び出し、システムを更新し、応答を生成できます。

AIエージェントは適応型システムであるため、継続的な監視が必要です。AIエージェントは推論を行い、行動し、ツールを使用し、その動作を変化させることができるため、組織はコードだけでなく、それ以上のものを管理する必要があります。組織は、プロンプト、モデル、データソース、統合、アクセス権限、監査証跡、および運用上のセーフガードを含む、エージェント・システム全体を管理する必要があります。

ビジネスでは、AIエージェントはITサポート、カスタマー・サービス、財務、コンプライアンス、人事、ソフトウェア開発、オペレーション、およびナレッジ・ワークで活用されています。基本的なチャットボットとは異なり、エージェントは、レコードの取得、チケットの作成、システムの更新、レポートの生成、承認依頼などのアクションを実行できる場合がよくあります。AIエージェントの中には、自律型エージェントや自律型システムと呼ばれるものもありますが、エンタープライズ環境では、ほとんどのエージェント・システムは、制御された自律性、定義されたアクセス権限、およびリスクの高いアクションに対する人による監督を前提として設計されています。

モデル管理は、モデルのバージョン、パフォーマンス、デプロイメント、および監視など、AIモデル自体に重点を置いています。エージェント・ライフサイクル管理は、これよりも広範囲を対象としています。エージェント・ライフサイクル管理では、モデルを中心として、プロンプト、ツール、メモリー、データソース、システム統合、アクセス制御、監査証跡、評価、インシデント対応、および廃止を含む、エージェントシステム全体を管理します。

言い換えれば、モデル管理では、モデルが期待どおりに動作しているかどうかを問いかけます。一方、エージェント・ライフサイクル管理では、モデル、アクセス権限、アクション、およびビジネス・コンテキストを含むエージェント全体が、安全かつ信頼性を保ち、意図どおりに動作しているかどうかを問いかけます。

AIエージェントが、限定的なパイロット導入から、より大規模なエンタープライズ・デプロイメントへと移行しつつあるため、エージェント・ライフサイクル管理の重要性は高まっています。そのような状況では、非公式な監督体制を維持することが難しくなります。組織には、どのエージェントが存在し、誰がその責任者で、何にアクセスでき、どのようなパフォーマンスを発揮しているのか、そして、いつ更新または廃止すべきかを一貫した方法で把握する仕組みが必要です。

調査によると、エージェントの導入は、多くのガバナンス・プログラムよりも速いペースで進んでいます。IBMの2026年テクノロジー・リーダー調査では、調査対象となったCIOおよびCTOは、2027年までにデプロイされるAIエージェントが38%増加すると予測している一方で、その規模に十分対応できる準備が整っていると回答したのは11%にとどまりました。また、この調査では、調査対象組織の77%が、AIの導入は現在のガバナンス能力をすでに上回るペースで進んでいると回答しています。同様に、2026年に実施されたITおよびビジネス・リーダーを対象とした調査では、エージェント型AIのリスクを管理するための成熟したガバナンス・モデルを導入していると回答した企業は、わずか21%でした。¹

こうしたギャップが重要なのは、AIエージェントが静的なソフトウェア・ツールではないためです。従来のソフトウェアは通常、定義されたルールに従います。ユーザーが特定のアクションを実行すると、アプリケーションは予測可能な方法で応答します。AIエージェントは異なります。AIエージェントは、同じインプットに対して異なるアウトプットを生成する場合があります。また、ユーザーのリクエスト、利用可能なコンテキスト、事前のやり取り、または接続されているツールに応じて、異なるステップを選択することもあります。

このため、次のような管理が必要になります。

• セキュリティー：エージェントは、業務システム、データ、API、またはサービスアカウントへのアクセスを必要とする場合があります。適切なアクセス制御が行われていないと、エージェントが過剰な権限を持つ非人間アイデンティティーとなる可能性があります。
• 信頼性：エージェントは、誤りを犯したり、ハルシネーションを起こしたり、誤ったツールを呼び出したり、統合先の変更時に正常に動作しなくなったりする可能性があります。
• ガバナンス：組織は、どのエージェントが利用されているか、誰がその責任者であるか、何にアクセスできるか、そして社内ポリシーや規制要件を満たしているかどうかを把握する必要があります。
• 追跡可能性：チームは、エージェントが何を実行し、どのツールを使用し、どのデータにアクセスし、どのような理由で判断またはアクションが行われたのかを示す監査証跡を必要とします。
• 運用レジリエンス：エージェントが予期しない動作をした場合、チームはエージェントを一時停止し、アクセス権限を取り消し、変更をロールバックし、問題を調査して、サービスを復旧できる必要があります。

ALMは、エージェント・ライフサイクル全体に構造を適用することで、これらのニーズに対応します。ALMは、承認、テスト、デプロイ、監視、更新、および廃止のための反復可能なプロセスを、エージェントのライフサイクル全体にわたって構築することで、企業が場当たり的なレビューから脱却するのに役立ちます。また、シャドーAI、過剰なアクセス権限、オブザーバビリティーの不足、プロンプトの変更、モデルバージョンの変更、レイテンシー、データ漏えい、および一貫性のない動作などのリスクを組織が管理するのにも役立ちます。す。

実践的なALMモデルは、次の主要なフェーズで構成できます。

ライフサイクルは、エージェントで解決すべきビジネス上の課題を特定し、エージェントが適切なアプローチであるかどうかを判断することから始まります。課題によっては、従来のオートメーション、検索、ルールベースのワークフロー、または単純なプロンプトの方が適している場合もあります。

計画段階では、チームはエージェントの目的、ユーザー、ビジネス・オーナー、成功メトリクス、およびリスクプロファイルを定義します。また、適切な自律性のレベルも決定します。例えば、社内文書を要約するエージェントは、顧客レコードを更新したり、財務ワークフローを開始したりするエージェントほど厳格な制御を必要としません。

一般的な計画作業には、次のようなものがあります。

• ビジネス成果の定義
• 正確性、タスク完了率、レイテンシー、コスト、およびユーザー満足度などのKPIの設定
• データ・ソースおよびシステム統合の特定
• 権限の境界と人による承認ポイントの設定
• コンプライアンス要件の評価
• リリース前のエージェントの評価方法の決定

この段階では、チームはエージェント・システムを構成するコンポーネントを設計し、構成します。これには、エージェントが使用するモデル、その動作を導くプロンプト、呼び出すことのできるツール、取得できるデータ、および実行できるワークフローが含まれます。

一般的なエージェント構成には、次のようなものがあります。

• プロンプト・テンプレートとシステム指示
• モデルの選択とモデルのバージョン追跡
• ツール定義とAPIスキーマ
• メモリーおよびコンテキスト管理ポリシー
• 検索拡張生成またはナレッジ・ベースとの接続
• アクセス制御とID構成
• ロギング、トレース、テレメトリーの計測
• 人によるレビューへのエスカレーション・パス

プロンプト、ツール、モデル、ポリシーは、非公式な設定の詳細ではなく、ライフサイクルを通じて管理される要素として扱うことが重要な原則です。これらの要素のいずれかを変更すると、動作に影響を及ぼす可能性があるため、バージョン管理を行い、レビューを実施し、文書化する必要があります。

エンタープライズで利用する場合、エージェントには、承認された目的を果たすために必要なツールへのアクセス権とデータへのアクセス権のみを付与する必要があります。人間の管理者は、ロールベースのアクセス制御、サービス・アカウントのガバナンス、必要に応じたジャストインタイム・アクセスなどの制御を使用して、エージェントを管理する必要があります。

AIエージェントのテストでは、ソフトウェアが正常に動作するかどうかを確認するだけでは不十分です。チームは、エージェントがさまざまなタスク、入力、ユーザー、およびシステム条件にわたって期待どおりに動作するかどうかも評価する必要があります。

この段階には、次の内容が含まれる場合があります。

• ツールと統合の機能テスト
• プロンプトと応答の評価
• 回帰テスト
• プロンプト・インジェクションとデータ漏えいに対するセキュリティ－・テスト
• ハルシネーションとグラウンデッドネスの確認
• ポリシー準拠のテスト
• ヒューマン・イン・ザ・ループの承認テスト
• 負荷テスト
• A/Bテスト
• チャンピオン・チャレンジャー比較
• 高リスクのユースケースに対するレッドチーミング

エージェントが必要なチェックに合格すると、管理された環境にデプロイできます。デプロイメントには、エージェントをユーザーまたはシステムが利用できるようにすること、ランタイム環境をプロビジョニングすること、およびエージェントの動作に必要なID、権限、および統合を有効にすることが含まれます。

一般的なプラクティスには、CI/CDパイプラインを介したリリース、開発・テスト・本番環境の分離、モデルとプロンプトのバージョン固定、段階的なロールアウト、機能フラグ、ロールバック計画、シークレット管理、およびランタイム・アクセス制御が含まれます。一部のエージェントでは、特にコードを実行したり、機密データを処理したり、外部ツールを使用したりする場合に、サンドボックスが必要になることもあります。

エージェントはAPIやエンタープライズ・アプリケーションを介して動作する可能性があるため、プロビジョニングは特に重要です。認証情報、サービス・アカウント、および権限は、エージェントに承認されたロールの範囲内に制限する必要があります。機密性の高い操作では、承認、レート制限、または緊急停止スイッチが必要になる場合があります。

デプロイ後も、ALMはオブザーバビリティー、評価、および改善を通じて継続されます。チームは、次のような技術的な健全性と動作品質の両方を監視します。

• インプット、アウトプット、会話トレース
• ツール呼び出しとツールの応答
• レイテンシーとスループット
• エラー率と障害タイプ
• トークン使用量とコスト
• タスク成功率
• ユーザー・フィードバック
• ポリシー違反
• ハルシネーションまたはグラウンデッドネスの指標
• エスカレーション率と承認率
• セキュリティー・イベントと異常なアクセス・パターン

監視によってパフォーマンスの低下、予期しない動作、またはビジネス・ニーズの変化が確認された場合、チームはプロンプトの改良、モデルの更新、取得元の調整、権限の変更、またはワークフローの変更を行うことができます。これらの変更は、テスト、評価、承認、および文書化といった、最初のリリースと同じライフサイクル管理に従う必要があります。

最終的には、エージェントを廃止する必要が生じる場合もあります。廃止には、エンドポイントの無効化、認証情報の取り消し、サービス・アカウントの削除、必要なログの保持、証跡のアーカイブ、ユーザーへの通知、およびカタログの更新を含める必要があります。

エージェントのライフサイクル管理は、開発、セキュリティ、監視、およびガバナンスの各機能を組み合わせて実現されます。これらのツールを組み合わせることで、組織はエージェントを構築し、アクセス可能な対象を制御し、その動作を把握し、長期にわたって管理できるようになります。

開発ツールは、エージェントがどのように推論し、計画を立て、タスクを完了するかをチームが設計するのに役立ちます。これらのツールは、プロンプトテンプレート、メモリ、ツール呼び出し、ワークフローオーケストレーション、および人による承認ステップをサポートできます。エンタープライズ環境では、これらのツールは多くの場合、ソフトウェア・デリバリー・プロセスに接続されているため、エージェントの変更を制御されたCI/CDパイプラインを通じてレビュー、テスト、およびリリースできます。

エージェントは、コードだけに依存するわけではありません。プロンプト、モデル・バージョン、ツール・スキーマ、データ・ソース、または構成が変更されると、エージェントの動作も変化する可能性があります。バージョン管理は、プロンプト、モデル、ツール、知識ソース、データ・セット、リリース履歴の追跡に役立ちます。

エージェントは、多くの場合、チケット管理システム、CRMプラットフォーム、データベース、ドキュメント・リポジトリー、およびワークフロー・ツールに接続します。これらの統合には、明確なスキーマ、権限、および監査証跡を備える必要があります。Model Context Protocol（MCP）などの標準は、エージェントがツール、リソース、およびプロンプトをどのように検出して呼び出すかを定義することで、ツールへのアクセスの一貫性を高めるのに役立ちます。ゲートウェイは、認証、認可、ルーティング、レート制限、承認、ログ記録、および緊急停止を一元管理できます。

エージェントはエンタープライズ・システム内で動作する可能性があるため、管理されたIDが必要です。主要な機能には、ロールベースのアクセス制御、最小権限の原則に基づく権限、ジャストインタイム・アクセス、シークレット管理、サービス・アカウントのガバナンス、承認ワークフロー、および定期的なアクセス・レビューが含まれます。その目的は、各エージェントが承認された目的を果たすために必要なものだけにアクセスできるようにすることです。

評価ツールは、デプロイメント前後の両方で、エージェントが意図したとおりに動作するかどうかを測定します。これには、リグレッション・テスト、A/Bテスト、プロンプト・インジェクション・テスト、ハルシネーションとグラウンデッドネスの確認、ポリシー準拠の確認、人によるレビュー、およびレッド・チーミングが含まれる場合があります。テストでは、最終的なアウトプットだけでなく、ツール呼び出しやルーティングの判断などの中間的なステップも評価する必要があります。

オブザーバビリティー・ツールは、インプット、アウトプット、トレース、ツール呼び出し、レイテンシー、エラー、トークン使用量、コスト、ポリシー違反、エスカレーション、およびセキュリティ－・イベントを収集します。これらのデータは、トラブルシューティング、監査証跡、およびインシデント対応を支援します。アラート、ランブック、ロールバック手順、サーキット・ブレーカー、およびキル・スイッチなどの運用制御は、チームが問題を封じ込め、サービスを復旧するのに役立ちます。ちます。

AIガバナンスツールは、承認済みエージェント、所有者、リスク・レベル、モデル・バージョン、プロンプト、ツール、権限、評価、承認、および廃止状況のインベントリを維持します。組織が小規模なパイロット導入から大規模なエージェント群へと移行するにつれて、カタログ化の重要性はますます高まります。

エージェント・ライフサイクル管理は、組織がAIエージェントをより一貫性を持って管理し、可視性と制御性を向上させるのに役立ちます。主なメリットは次のとおりです。

• 可視性の向上：エージェントのインベントリーによって、どのエージェントが存在し、誰が所有し、何を行い、どのシステムにアクセスし、どのバージョンがアクティブであるかを把握できます。
• セキュリティーの強化：アクセス制御、ロールベースのアクセス制御、最小権限の原則、およびジャストインタイム・アクセスは、過剰な権限が付与されたサービス・アカウントや管理されていない非人間アイデンティティーによるリスクの軽減に役立ちます。
• トレーサビリティーの向上：監査証跡とリネージの記録により、チームはエージェントが何を行ったか、どのツールを使用したか、およびバージョン間で何が変更されたかを把握できます。
• リリースの信頼性向上：リグレッション・テスト、評価ゲート、およびCI/CDパイプラインによる制御は、プロンプト、モデル、データ、またはツールの変更によって予期しない動作が発生するリスクの軽減に役立ちます。
• インシデント対応の迅速化：監視、ロールバック計画、キルスイッチ、およびランブックは、エージェントの障害発生時、ドリフト発生時、または予期しない動作が発生した場合に、チームが対応するのに役立ちます。
• ビジネスとの整合性の向上：評価メトリクスによって、エージェントのパフォーマンスを、解決率、封じ込め率、処理時間、顧客満足度、成果あたりのコストなどの成果と関連付けることができます。

エージェントのライフサイクル管理によって、AIエージェントのリスクがなくなるわけではありません。ライフサイクル管理は、それらのリスクを管理するための枠組みを提供します。課題には、次のようなものがあります。

• 動作のばらつき：LLMは、類似したインプットに対して異なるアウトプットを生成することがあるため、テストや根本原因分析が難しくなります。
• ハルシネーション：エージェントは、根拠のない回答を生成したり、誤ったコンテキストを使用したりすることがあります。グラウンデッドネスの確認と人によるレビューは、このリスクの軽減に役立ちますが、完全になくすことはできません。
• 攻撃対象領域の拡大：ツールにアクセスできるエージェントは実際のシステムに影響を及ぼす可能性があるため、プロンプト・インジェクション、APIの不正使用、メモリ－・ポイズニング、権限昇格、および不正な操作などのリスクが生じます。
• レイテンシーとコスト：エージェントは、複数回のモデル呼び出し、検索ステップ、およびツール呼び出しを使用する場合があるため、応答時間と運用コストが増加する可能性があります。
• ガバナンスのオーバーヘッド：カタログ、承認、評価、監査証跡、およびバージョン履歴には、チーム間で継続的な調整が必要です。
• シャドーAI：従業員が正式なプロセスを経ずに未承認のエージェントを作成または使用すると、検出と管理がより困難になる可能性があります。

AIエージェントは、カスタマー・サービス、ITサポート、人事、財務、法務、コンプライアンス、ソフトウェア開発、オペレーション、およびナレッジ管理など、さまざまな分野で活用されています。エージェントのライフサイクル管理は、これらのエージェントが単純なQ&Aを超えて、ツールを使用したり、管理対象データにアクセスしたり、ビジネスワークフローでアクションを実行したりする場合に最も重要になります。

これらのユースケースを評価するための有効な方法は、「エージェントは何にアクセスし、何を変更し、何をトリガーする可能性があるか」と問いかけることです。エージェントが機密データ、規制対象のプロセス、または本番システムとやり取りするほど、ライフサイクル管理はより重要になります。

リスクの低いユースケースでは、基本的な監視とバージョン管理で十分な場合があります。リスクの高いユースケースでは、組織は通常、定義済みのKPI、ロールベースのアクセス制御、人による承認フロー、評価のしきい値、監査証跡、オブザーバビリティー、インシデント対応計画、および廃止プロセスを必要とします。

実際にはどのようなものなのでしょうか。企業が、リレーションシップ・マネージャーによる顧客とのミーティングの準備を支援するAIエージェントをデプロイするとします。開発時には、AIチームが、エージェントで使用が承認されたデータソース、アクセス権限、エスカレーションルール、および時間の節約、応答精度、ユーザー満足度などの成功メトリクスを定義します。リリース前には、エージェントをサンプルの顧客シナリオでテストし、コンプライアンス・リスクの観点からレビューします。エージェントは、アウトプット、レイテンシー、利用パターン、および例外を追跡するモニタリング・ツールに接続されます。

デプロイメント後、企業はエージェントを一度限りのプロジェクトではなく、管理対象のデジタル資産として扱います。プロダクト・オーナーはパフォーマンス・ダッシュボードを確認し、コンプライアンス・チームは高リスクのやり取りを監査し、データサイエンティストはポリシー、製品、または顧客ニーズの変化に応じてエージェントを再学習または調整します。ユーザーから分かりにくいレコメンデーションについて報告があった場合、チームはプロンプト、検索ソース、およびガードレールを更新します。時間の経過とともに、企業は新しい機能を追加し、使用されなくなったワークフローを廃止し、各バージョンを文書化します。このライフサイクル・アプローチは、説明責任、セキュリティー、パフォーマンス、およびビジネスとの整合性を維持しながら、組織がエージェント型AIを拡張するのに役立ちます。

この仮想的な例は、エージェントのライフサイクル管理の開始から終了までのプロセスを示しています。実際の業界の例には、次のようなものがあります。

IBMの社内人事エージェントAskHRは、人によるエスカレーション経路を備えたエンタープライズ規模のオートメーションを、エージェントのライフサイクル管理によってどのように支援できるかを示しています。IBM® watsonx Orchestrateによって強化されたAskHRは、80を超える人事タスクをサポートし、年間210万件を超える従業員との対話を処理しています。Workday、SAP、およびConcurなどのシステムと連携しているため、従業員は給与明細や休暇申請について問い合わせることができ、管理者は異動や組織変更などのワークフローを開始できます。ます。

ALMの観点から見ると、これらの機能には、権限の境界、統合の制御、監査性、およびルーティングロジックが必要です。AskHRは、一般的な質問に対して94%の封じ込め率を達成し、2016年以降に発行されるサポート・チケットを75%削減するとともに、4年間で人事運用コストを40%削減することに貢献しました。

医療分野では、ALMはPHIと規制対象のワークフローを扱うエージェントの管理に役立ちます。米国のある大手医療保険会社は、HIPAAに準拠した環境で、加入者向けサービスのためのエージェント型チャットボットと音声アシスタント機能を導入しました。過去のコールセンター・データの利用が制限されていたため、チームはエージェントの動作を安全に評価するためのグラウンド・トゥルース・データを作成または合成しました。

ライフサイクル・プロセスには、解決率、封じ込め率、レイテンシー、および安全性に関するKPI、バージョン管理されたプロンプトと統合、最小権限の原則に基づくツールアクセス、構造化された評価、コンプライアンス・チェック、セキュリティ－・テスト、レッド・チーミング、および統合されたオブザーバビリティーが含まれていました。監視では、レイテンシーやエラーなどの技術的なメトリクスと、封じ込め率、解決率、および満足度などのビジネス・メトリクスの両方を追跡しました。

Dynamiqは、IBM Business Partnerとして、IBM watsonx.dataを使用したAI搭載の法務エージェントを構築しました。IBM Granite基盤モデルとIBM watsonx Orchestrateを活用して、法務チームによる契約書、コンプライアンスレポート、および規制文書の検索、比較、および分析を支援しました。このエージェントは、セマンティックな契約書検索、比較分析、および条項レベルでのコンプライアンススコアリングをサポートしました。また、関連する文言の検索、規制上の懸念事項の特定、ポリシーからの逸脱の検出、および承認のための文書の振り分けを支援しました。

ALMの観点から見ると、このユースケースでは、管理されたデータ取り込み、検索の制御、業務システムとの統合、法務レビューのためのエスカレーション経路、およびモデルとタスクの整合性が必要でした。Dynamiqは、パフォーマンス、レイテンシー、およびコストのバランスを取るために、日常的なコンプライアンス・タスクには小規模なGraniteモデルも使用しました。