カスタム・基盤モデルのデプロイメントの管理

カスタム・基盤モデルをデプロイした後、デプロイメントを管理および更新できます。

デプロイメント・スペース UI または プログラムから、デプロイされた基盤モデルを管理および更新することができます。

デプロイメント・スペースからのカスタム・基盤モデル・デプロイメントの管理

デプロイメント・スペース内のカスタム・モデル・デプロイメントのアクセス、更新、スケーリング、削除、およびパフォーマンスのモニターを行うことができます。

デプロイメント・スペースからのデプロイメント詳細へのアクセス

デプロイメントの詳細を確認または更新するには、以下の手順を実行します。

  1. デプロイメント・スペースの 「デプロイメント」 タブで、デプロイメント名をクリックします。
  2. 「デプロイメントの詳細」 タブをクリックして、カスタム基盤モデル・デプロイメントに関連する情報にアクセスします。
注: 組織がいずれかのユース・ケースを使用して資産を追跡および管理している場合、追跡対象資産のデプロイメント情報は、関連付けられたユース・ケースのファセットに記録されます。

デプロイメント・スペースからデプロイメント詳細を更新する

カスタム・基盤モデル・デプロイメントの詳細 (名前、サービス提供名、説明、ハードウェア仕様など) を更新できます。 詳しくは、 デプロイメントの更新を参照してください。

デプロイメント・スペースでのデプロイメントのスケーリング

展開用に作成されるコピーの数を増やすことで、展開を拡張できます。 詳しくは、 デプロイメントのスケーリングを参照してください。

デプロイメント・スペースからのデプロイメントの削除

不要になったカスタム・基盤モデル・デプロイメントを削除して、リソースを解放することができます。 詳しくは、 デプロイメントの削除を参照してください。

注。

基盤モデルモデルを定期的に使用するワークフローでは、デプロイするたびにモデルに同じサービング名を割り当てることを検討してください。 こうすることで、モデルを削除して再デプロイした後も、コード内で同じエンドポイントを使い続けることができます。

デプロイメント・スペースからのデプロイメント・パフォーマンスのモニター

Watson OpenScale インスタンスをプロビジョンし、公平性、品質、ドリフト、および説明性のモニターを構成することで、カスタム基盤モデル・デプロイメントを評価して、パフォーマンスを測定し、モデル予測を理解することができます。 詳細については、以下を参照してください デプロイメント評価。

プログラムによるカスタム・基盤モデル・デプロイメントの管理

カスタム・モデル・デプロイメントのアクセス、更新、スケーリング、削除、およびパフォーマンスのモニターをプログラムで行うことができます。

プログラムによるデプロイメントの更新

デプロイメントをプログラマチックに更新または削除するには、まず デプロイ済みモデルのリストを取得 して、デプロイメントの正しいメタデータを見つけます。

デプロイ済みモデルのリストの取得

指定されたプロジェクト ID のデプロイメントのリストを取得します。 カスタム・基盤モデルを指すすべてのデプロイメントをフィルタリングするには、 type=custom_foundation_model 照会パラメーターを使用します。 以下のコード例を参照してください。

curl -X GET "https://<cluster_url>/ml/v4/deployments?version=2024-01-29&project_id=<your project ID>&type=custom_foundation_model" \
-H "Authorization: Bearer $TOKEN"

デプロイされたモデルで更新できるフィールド:

  • name
  • description
  • tags
  • serving_name
  • asset
  • hardware_spec
  • /online/parameters
  • /online/parameters/serving_name
  • /online/parameters/foundation_model （標準の推論ランタイムを使用するモデルのみ）

利用可能なモデルパラメータに関する情報は、を参照してください 基盤モデルモデルのプロパティとパラメータ。

注。
  • 時系列モデルはパラメータを一切必要としません。 カスタム時系列モデルを更新する際は、パラメータを指定しないでください。 カスタム時系列モデルを更新する際にパラメータを指定しても、それらは反映されません。
  • カスタム推論ランタイムを使用するモデルは、パラメータの更新を受け付けません。

例:

curl -X PATCH "https://<cluster_url>/ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" \
-H "Authorization: Bearer $TOKEN" \
-H "content-type: application/json" \
--data '[{
 "op": "replace",
 "path": "/name",
 "value": "<updated deployment name>"
}]'

プログラムによるデプロイメントの削除

カスタム・基盤モデルのデプロイメントを削除する場合は、以下のコードを使用します。

curl -vk -X DELETE "https://<cluster_url>/ml/v4/deployments/<your deployment ID>?version=2024-01-29&project_id=<your project ID>" -H "Authorization: Bearer $TOKEN"

デプロイメント・スペースからのデプロイメント・パフォーマンスのモニター

Watson OpenScale インスタンスをプロビジョンし、公平性、品質、ドリフト、および説明性のモニターを構成することで、カスタム基盤モデル・デプロイメントを評価して、パフォーマンスを測定し、モデル予測を理解することができます。 詳細については、以下を参照してください デプロイメント評価。

プログラムによるデプロイメントのスケーリング

プログラムによるデプロイメントのスケーリングを参照してください。

次のステップ

カスタム基盤モデルを推論する