戦略目標と運用要件を達成するために不可欠なエンタープライズ機能については、生成AIアーキテクチャー機能モデルに概説されています。これには6つの主要カテゴリーが含まれており、効果的な生成AI実装に必要な独自かつサポート的な機能を紹介しており、他のアーキテクチャーで利用できる包括的なドキュメンテーションも提供されています。
- GenAI Operationsは、企業内で使用する生成AIモデルを管理、デプロイ、カスタマイズするために必要な機能です。このカテゴリーには、モデルのトレーニングとチューニング、デプロイされたモデルのライフサイクルの管理、企業内のユーザーが利用できるモデルとデータセットの管理の機能が含まれます。
- GenAI Application Developmentは、企業やドメイン固有のソリューションで使用するために一般的な基盤モデルをチューニングし、フル機能の生成AIアプリケーションを開発するために必要な機能です。これには、エージェント型AIアプリケーションの作成と導入、プロンプトのテストと調整に必要な機能が含まれます。
- 生成AIガバナンスは、本番環境にデプロイされたモデルを効果的に監視および管理するために必要な機能一式です。これには、モデルの正確かつ適切な応答の継続を監視する機能、不適切または悪意のあるインプットからモデルを保護する機能、企業のリスクを管理し、規制遵守と報告要件の両方を支援するガバナンス機能が含まれます。
- 生成AIセキュリティー管理は、AIシステムを保護するために必要な機能に焦点を当て、倫理的かつ責任あるデプロイメントを保証します。これには、AIスタック全体を保護し、モデルとその使用方法、およびそれらが依存するデータの両方を保護することが含まれます。
残りの機能グループは、生成AIのサポート機能です。これらの機能は生成AIに固有のものではありませんが、エンタープライズ機能としてそれをサポートするために存在する必要があります。これらのグループは以下のとおりです。
Data Managementは、データを保存、管理、変換して、生成AIモデルのチューニングとトレーニングに適した形式にする機能群です。このカテゴリーには、監査目的で、またさらなるモデルの調整や改良へのインプットとして、モデルの応答を記録して評価する機能も含まれています。
サポート機能とは、企業で生成AIソリューションを正常にデプロイおよび管理するために必要な、アプリケーション、統合、IT運用の機能の包括的なグループです。
GenAI Resourcesには、生成AIモデルとソリューションを効率的かつ効果的に開発、チューニング、デプロイ、管理するために必要なハードウェアとプラットフォーム機能が含まれています。
各機能カテゴリーは、1つ以上の機能グループで構成されます。このセクションでは、生成AIに欠かせないグループと機能に焦点を当てます。
Model Hub機能グループは、インポートされたモデルと、企業によって調整またはトレーニングされたモデルを管理するために必要な機能をカプセル化します。これらの機能により、企業は社内で使用するモデルとデータセットを管理したり、モデルとデータセットへのアクセスを企業内の特定のユーザーまたはグループに制限したりできます。モデルのインポートとデータのインポートは、企業がHugging Faceなどの増え続ける公開モデル・リポジトリーからのモデルの導入を制限するための重要な機能です。
Model Hostingは、一般モデルと調整されたモデルをAPI対応サービスとして企業にデプロイする機能を提供します。また、リソースの利用率を最適化し、独立した改良と交換を可能にし、ガバナンスを簡素化します。その鍵となるのがModel Access Policy Managementであり、モデルへのアクセスを許可されたユーザーとグループのみに制限し、不正な使用を防ぎます。
Model Customizationは、企業が特定のビジネス・ニーズに合わせて生成AIモデルを調整およびトレーニングできるようにする機能群です。通常、この機能はクラウド・プラットフォームを使用して実現されます。これは、クラウドの従量課金モデルが、チューニングとトレーニングのリソース需要の「バースト的」な性質に適しているためです。
Model and Data Governanceは、企業が生成AIモデルを大規模に活用するためのクリティカルな機能セットです。具体的には、これらの機能により、企業がモデル応答に偏りが生じるなどのモデルリスクの監視と管理に必要な洞察が得られ、モデルの透明性と公平性に関する規制およびコンプライアンス要件への対応にも役立ちます。
Model Monitoringは、Model Governanceに代わる運用上の類似存在です。Model Governanceが長期的なモデルおよびリスク管理を扱うのに対し、Model Monitoringの機能により、企業はモデルオペレーションをリアルタイムで監視および管理できます。Model Monitoringは、次のようないくつかの主要な機能で構成されています。
- Bias Detectionは、モデルの応答が確立された/理想的な応答から逸脱し、一連の結果が別の結果よりも優先され始めたときを検出してフラグを立てる機能です。
- Hate, Abuse and Profanity (HAP) Detectionは、ユーザーが送信するプロンプトとモデルが生成する応答の両方に潜むヘイト、虐待、冒とく的な表現を検知してフィルタリングする機能です。これらは「基本」機能と見なされます。企業は多くの場合、そのビジネスには当てはまらないトピック、例えば、融資オフィスで性的なトピックの提案を含めたり、ターゲット・オーディエンスの社会規範に対応したりするために、フィルタリングされたトピックのリストを拡張することを選択します。
- Prompt Monitoring and Securityは、モデルを破損させたり、企業によって確立されたモデル制御を回避したりするように設計されたプロンプト・インジェクションなどの攻撃からデプロイされたモデルを保護するために必要な新しい機能です。
GenAI Compliance Managementは、アプリケーション・スタックを通じてAIの「使用を保護」し、アプリケーション自体を「保護」するために必要な制御を有効にする機能のカテゴリーです。AIシステムが人間の価値と権利を尊重することを保証するために、倫理基準とガイドラインを順守します。
- AIアプリ・コンプライアンス。AIの「アプリケーション」を、確立されたガイドライン、規制、標準に準拠できるようにする機能。AIアプリケーションの態勢管理とコンプライアンス、信頼できるAIシステム・テストの実施などのコントロールを可能にする機能を提供します。
- AIモデル・コンプライアンスは、AIモデルを管理し、確立されたガイドライン、規制、標準に準拠させる機能です。これにより、モデル・ドリフトの追跡などの主要なコントロールが可能になります。モデル体制管理とコンプライアンス。
- 法務およびコンプライアンス管理。組織が規制状況を常に把握し（規制監視）、AIの開発、導入、監視、使用を管理する法的要件、規則、基準を遵守していることを確認します（例：継続的なコンプライアンスと規制の監視）
AIアプリケーション・セキュリティー管理。このカテゴリーの機能は、アプリケーション・スタックを通じてAIの「使用を保護」し、アプリケーション自体を「保護」するために必要なコントロールを可能にすることを目的としています。AIシステムが人間の価値と権利を尊重することを保証するために、倫理基準とガイドラインを順守します。
- AIアプリの脅威管理。保護は、AIアプリのセキュリティー、機能、信頼性に影響を与える可能性のある潜在的なリスクと脆弱性を特定・評価・軽減する能力であり、予期せぬイベント、障害、または中断がある場合でも効果的に機能を適応、回復、継続させる機能を確保する能力を指します。また、AIシステムのライフサイクル全体を通じて堅牢性、セキュリティー、信頼性を確保することもできます。
- AIアプリのインタラクションの安全性とセキュリティーは、AIシステムとそのユーザー、他のシステム、および環境間のインタラクションが安全かつ確実に行われるようにするメカニズムです（例：入力操作、過剰なクエリーの制限、有害な結果の防止）。
- AIアプリの安全性。AIシステムの安全かつ信頼性の高い運用を保証する機能と実践。これには、AIアプリケーション（例：Document Trustworthy AI Effort、Fairness Assessment）によって引き起こされる意図しない結果、エラー、および危害を防止するための戦略が含まれます。
AIモデル・セキュリティー管理。このカテゴリーの機能は、「モデルの保護」レイヤーに必要なコントロールを有効にすること、およびモデルの使用を保護することを目的としています。性能と信頼性を高めるトレーニング、検証、評価を行うモデルのベスト・プラクティスを実装します。
- プロンプトの安全性とセキュリティーは、AIモデルに提供される入力プロンプトが安全で悪意のないものであり、モデルの意図された動作と一致していることを保証し、不正アクセス、改ざん、攻撃からモデルを保護する機能です。同様に、例えばPIIを不正に表示する可能性があるコンテンツかどうかという点で回答プロンプトが内容の面で安全かつ確実であるか（例：プロンプト・インジェクション保護、推論攻撃の防止／クエリー応答の最小化、有害な成果の防止）を確認します。
- AIモデル脅威検知は、AIモデルとそれらのモデルとの相互作用の完全性、セキュリティー、性能を損なう可能性のある潜在的なリスクや脆弱性を特定し、軽減する機能（例：モデル・セキュリティー・テスト、モデル脆弱性軽減）です。
- AIモデル・アクセス管理。潜在的な悪用や攻撃ベクトルを防ぐために、生成AIモデル、モデルパラメーター、トレーニング・データ、APIへのアクセスを制限します。この機能により、AIアプリケーションを含む企業利用のために公開されているモデルのアクセス制御が確立されます。内部モデル・レジストリーを保護し、実稼働モデルへの内部アクセスを制限します。このようなアクセス制御には、誰が、何を、いつ、どこからでも考慮するコンテキスト・ポリシーを含める必要があります。
AIデータ・セキュリティー管理。このカテゴリーの機能により、コントロールは「データ層の保護」を実現します。データ品質を確保しバイアスを軽減するために、データの収集、ストレージ、使用に関する明確なガイドラインを確立します。データ・セキュリティーは生成AIに特有のものではありませんが、ここではデータの観点から生成AIが特に注意を必要とする領域にのみ焦点を当てます。
- データ・プライバシーと機密性は、機密情報を保護し、適切に取り扱われ、非公開状態を維持し、許可されたシステムおよびユーザーのみがアクセスできるようにする能力（例：プライバシー保護、機密データ・セキュリティー、データ機密性）です。
エージェント型AIは、エージェント型AIアプリケーションの作成と導入に必要な機能群です。これには、ルーティングやオーケストレーション、ツール管理やツール呼び出しなどのコア機能が含まれます。
生成AIチューニングは、一般的な生成モデルを企業のニーズに合わせて「カスタマイズ」するために必要な機能グループです。モデルは幅広い知識に基づいてトレーニングされるため、特定の業界用語やプロセスの知識が不足します。したがって、ほとんどの企業は、プロンプト・エンジニアリング、プロンプト・チューニング、モデルのファインチューニングなどの機能を利用して、企業のビジネスの用語とプロセスを理解するモデルを作成する必要があります。
生成AIアプリケーション機能により、企業は高度な生成AIアプリケーションを開発できます。機能としては、ユーザーのクエリーに応答する関数を動的に生成する機能、対話型メモリー（生成AIアプリケーションが以前のやり取りを対話形式で保持・参照できるようにする）、モデル・ルーティング（アプリケーションがクエリーを、応答に最適なモデルに動的にルーティングできるようにする）などが挙げられます。