AIゲートウェイ

Instana AIコネクションを通じて、 watsonx.ai やその他の外部LLMサービスへの接続をサポートしており、これにより生成AIのユースケースを実現します。 AI接続を設定することで、 Instana の生成AI機能を支える接続やLLMを管理し、社内ポリシー、パフォーマンス要件、およびデータガバナンス基準を満たすようにすることができます。 ご自身の環境内のすべてのAI接続について、作成、監視、設定、および保守を行うことができます。

デプロイメント・オプション

SaaS

SaaS 環境では、 Instana がデフォルトのAI接続を提供しており、追加の設定を行うことなく watsonx.ai に自動的に接続してLLMを利用できます。 また、独自の watsonx.ai ランタイムに接続するためのAIゲートウェイを作成することもできます。

自己ホスティング

セルフホスト環境（Standard エディションまたは Custom エディション）では、独自の watsonx.ai ランタイムまたは vLLM-based の推論サービスに接続できます。

機能フラグの有効化

自社ホスト型の Instana 環境でAIゲートウェイの機能を利用するには、AIゲートウェイの機能フラグを有効にする必要があります。

セルフホスト型 Standard Edition でAIゲートウェイの機能フラグを設定するには、「 Standard Edition のオプション機能の有効化」 を参照してください。

セルフホスト型カスタムエディション（ Kubernetes または Red Hat OpenShift Container Platform ） で AI ゲートウェイの機能フラグを設定するには、「 カスタムエディションでのオプション機能の有効化」 を参照してください。

対応しているLLMサービス

以下のLLMサービスに対して、AI接続を作成することができます：

  • watsonx.ai (IBM Cloud)
  • watsonx.ai （ OpenShift でセルフホストされており、データには Cloud Pak を使用しています（ Instana バージョン 1.0.313 以降））
  • vLLM-compatible 推論サービス（ Red Hat AI Inferencing Server（RHAIIS）を含む）（パブリックプレビュー）

対応しているLLM

生成AI機能は、以下の大規模言語モデル（LLM）によってサポートされています。

注:
SaaS のデプロイメントの場合、 Instana は、米国ダラスにある IBM Cloud の watsonx.ai リージョナルサービスに接続します。 AI機能の利用について懸念がある場合は、ユーザー権限を通じてアクセス権を制御するか、AI接続を無効にすることで、AI機能が動作しないようにすることができます。 詳細については、「 Gen AIの機能」 をご覧ください。

生成AIの機能

Instana でサポートされている、LLM ゲートウェイとの連携用に設定可能な生成AI機能は以下の通りです：

  • AI アシスタント
  • インシデントの要約
  • インシデント調査
  • Kubernetes AIアシスタント
  • 手動アクション生成
  • スクリプト生成
  • SLOアシスタント
  • GenAI 評価

サポートされている生成AI機能の詳細については、「 生成AIの可観測性」 を参照してください。

ユーザー許可の管理

Instana のUIで、すべてのGen AI機能にアクセスするには、以下のユーザー権限が必要です：

  • AIゲートウェイへのアクセス：AIゲートウェイのUIへの読み取り専用アクセスを有効にします
  • AI接続の作成、設定、削除：AIゲートウェイのUIへのフルアクセスを有効にします
  • すべての汎用AI機能を利用： Instana のUIから、AIを活用した機能を利用できるようになります

詳細については、「 ユーザーアクセスの管理」 を参照してください。

Instana をLLMゲートウェイに接続する

LLMゲートウェイをセットアップおよび設定するには、以下の手順を実行してください。

  1. 接続を設定します。

    1. ナビゲーションペインで「 AIゲートウェイ」 をクリックします。 「AI 接続」 ペインが表示されます。
    2. 「LLMゲートウェイの作成」 をクリックします。 「 LLMゲートウェイの作成 」ウィザードが表示されます。
    3. 「接続の設定」 を選択します。
    4. [ 接続設定] で、AI 接続にアクセスするために使用される以下のサービスのいずれかを選択してください：
      • IBM watsonx : watsonx を設定する場合は、以下の詳細情報を入力してください：
        • watsonx API key : watsonx サービスへのアクセスを認証するための「 API 」キー。
        • watsonx project : プロジェクト名。
        • watsonx URL : watsonx サービス用の URL。
      • vLLM ：外部の vLLM-based （仮想大規模言語モデル）サービスを設定する場合は、以下の詳細情報を入力してください：
        • エンドポイント URL ： vLLM サービスがホストされている URL。
        • エンドポイントの API キー（任意） ：エンドポイントに安全にアクセスするための認証キー。
    5. 設定を確認するには、「 接続テスト」 をクリックしてください。
      • IBM watsonx について：接続に失敗した場合は、 API キー、プロジェクト ID、および URL が正しく、かつ有効であることを確認してください。 テストが成功したことで、 Instana が watsonx サービスと通信できることが確認されました。
      • vLLMの場合 ：接続に失敗した場合は、エンドポイント URL にアクセスできること、および API のキーが正しいことを確認してください。 テストが成功したことで、 Instana が vLLM サービスと通信できることが確認されました。
    6. 次へ をクリックします。

  2. 機能とAIモデルを選択してください。

    1. 「 機能とAIモデルの選択 」セクションで、以下の機能のいずれかを選択してください：
      • AI アシスタント
      • 手動アクション生成
      • インシデントの要約
      • インシデント調査
      • スクリプト生成
      • SLOアシスタント
      • GenAI 評価
    2. AIモデルを選択してください：
      • Granite ：汎用モデル
      • ミストラル（ミディアム）：バランスの取れた性能
      • ミストラル（ラージ）：複雑なタスクに対応する大容量モデル
      • Openai/gpt-oss-120b: 分析や洞察が必要な業務において。 （SLOアシスタントには openai/gpt-oss-120b モデルが必要です）
    3. 「次へ」をクリックして続行します。

  3. モデルを設定します。

    1. モデルの挙動を微調整するには、以下のパラメータを設定してください：
      • トークン制限（単位：千） ：リクエストあたりの最大トークン数（例： 100）。
      • 最大レイテンシ ：最大応答時間（例：秒 1 ）。
      • 繰り返しに対するペナルティ ：フレーズの繰り返しを抑制します（例： 1）。
      • 温度 ：ランダム性を制御します（例：～ 0.21 ）。
      • top_k : サンプリングするトークンの数（例： 50）。
      • top_p : 累積確率の閾値（例： 0.5）。
    2. 「次へ」 をクリックして次に進むか、「 戻る」 をクリックして修正してください。

  4. ゲートウェイの詳細を入力してください。

    1. 名前 ：ゲートウェイに一意の名前を入力してください。
    2. 説明 ：ゲートウェイの説明を入力してください。

  5. 「作成」 をクリックして設定を完了してください。

AIの接続状況の確認

設定済みのAI接続を確認するには、ナビゲーションペインの「 AI Gateway」 をクリックします。 「 AI Connections 」テーブルが開き、設定済みのすべての接続とそのステータスが表示されます。 個々の接続を有効または無効にしたり、その設定詳細を確認したりすることができます。

パラメーター 説明
名前 ゲートウェイ設定の名前。 各ゲートウェイは、特定のジェネレーティブAIのユースケースに対応しています。
機能 ゲートウェイがサポートする AI function の機能（例：スクリプト生成、アクション生成、インシデントの要約など）。
タイプ ゲートウェイがシステムのデフォルト設定か、ユーザー定義かを示します。
使用サービス ゲートウェイを支えるLLMサービス（例： IBM、 watsonx ）。
AI モデル 推論に使用されるLLMモデル（例： Granite、Mistral）。
状況 ゲートウェイがアクティブ（有効）か、非アクティブ（無効）かを示します。
エンドポイントURL ゲートウェイがAIサービスと通信を行うための URL エンドポイント。

ゲートウェイの有効化と無効化

LLMゲートウェイを有効または無効にすることで、 Instana 環境で利用可能なAI機能を制御できます。 LLMゲートウェイが無効化されると、関連するAI機能は利用できなくなります。

LLMゲートウェイを無効にするには：

  1. 「 Instana 」のUIで、「 AIゲートウェイ」 をクリックします。
  2. 「 AI接続」 テーブルで、無効にしたいゲートウェイを探してください。
  3. ステータスの切り替えボタンをクリックして、「 無効 」に変更してください。
LLMゲートウェイが無効になっている場合、関連するAI機能にアクセスしようとすると、次のエラーメッセージが表示されます：
The gateway for capability {capability_name} is disabled. Contact your administrator.

ここで、 {capability_name} は、AIアシスタント、インシデントの要約、スクリプト生成などの機能を表します。

LLMゲートウェイを有効にするには：

  1. 「 Instana 」のUIで、「 AIゲートウェイ」 をクリックします。
  2. 「 AI接続」 テーブルで、有効にしたいゲートウェイを探してください。
  3. ステータスの切り替えボタンをクリックして、「 有効 」に変更してください。

この機能を有効にすると、権限を持つユーザーは直ちにAI機能を利用できるようになります。

既存のゲートウェイのテスト

LLMゲートウェイを作成した後、接続テストを行って正常に動作することを確認できます。

既存のゲートウェイをテストするには、以下の手順を実行してください

  1. Instana のUIにあるナビゲーションメニューから、「 AIゲートウェイ」 を選択します。
  2. 「 AI接続」 テーブルで、テストしたいゲートウェイの「 テスト」 をクリックします。 このテスト結果により、接続が正常に機能しているかどうかがわかります。