AIゲートウェイを介したAIモデルの追加

オンラインで編集する

AI Gatewayを使用すれば、さまざまなプロバイダーのAIモデルを watsonx Orchestrate に統合することができます。 この機能は柔軟性を高め、複数のモデル間でルーティングのポリシーを作成できるため、負荷分散やフォールバックなどのユースケースが容易になる。

以下のプロバイダーのモデルを接続できます：

  • アンソロピック

  • AWS Bedrock

  • Azure AI

  • Azure OpenAI

  • Google

  • ミストラル

  • Ollama

  • OpenAI

  • OpenRouter

  • watsonx.ai

サードパーティ製モデルをエージェントのAIモデルとして使用するには、Agent Development Kit (ADK) を使用して設定してください。 この設定は、 IBM （ watsonx Orchestrate ）のテナントにのみ適用されます。 サードパーティ製モデルの管理および接続手順については、 「AIゲートウェイを使用したカスタムLLMの管理 」を参照してください。

重要:

サードパーティ製のモデルは、それぞれのライセンス条件に基づいて運用されており、利用制限やその他の義務が課される場合があります。 外部モデルを使用する前に、該当するライセンス条項を確認してください。 利用規約をお読みください。

次のタスク

  • モデルの設定が完了したら、 watsonx Orchestrate でエージェントを作成または編集し、 AI モデルのドロップダウンリストからそのモデルを選択してください。