UIから調整済みモデルを展開する
watsonx UIから調整済みモデルをデプロイできます。 プロジェクトに保存されているチューニング実験資産を展開するか、 Tuning Studio からチューニング済みモデルを展開します。
あるいは、APIを使用して、 IBM が提供するチューニング済みのベース基盤モデルまたはカスタム基盤モデルをデプロイすることもできます。 詳細は、 コードを使用したチューニング済みモデルのデプロイを参照してください。
- 必要な権限
- 調整済みモデルを展開するには、プロジェクトで管理者または編集者の役割が必要です。
手順
Tuning Studio を使用してチューニング実験を作成すると、結果として得られたチューニング済みモデルを直接デプロイできます。
プロジェクト内のチューニング資産として保存された調整済みモデルを展開するには、次の手順を完了してください：
プロジェクトの 資産 タブから、 実験資産タイプをクリックします。
デプロイしたいモデルのチューニング実験を開くにはクリックしてください。
リスト 調整済みモデル から完了したチューニング実験を見つけ、クリックしてください 新規デプロイメント。
調整済みモデルに名前を付けなさい。
チューニング実験の名前は、変更しない場合、調整済みモデル名として使用されます。 名前の後ろに括弧で囲まれた数字が付いており、 デプロイメント回数を数えるものです。 この数値は1から始まり、このチューニング実験をデプロイするたびに1ずつ増加します。
オプション ：説明とタグを追加します。
以下のいずれかのオプションを選択してください デプロイメントコンテナ：
- このプロジェクト
調整済みモデルを展開し、プロジェクトに追加します。そこで調整済みモデルをテストできます。 チューニング済みモデルのデプロイメントは、いつでもデプロイメント・スペースにプロモートできます。 このオプションは、モデルを本番環境で使用する前に、調整済みモデルをさらにテストしたい場合に選択してください。
- デプロイメント・スペース
調整済みモデルをデプロイメント・スペースに昇格させ、調整済みモデルをデプロイします。 デプロイメント・スペースは資産を作成するプロジェクトとは別の場所です。 この分離により、複数のプロジェクトからスペースへ資産昇格させたり、複数のスペースへ資産デプロイしたりすることが可能になります。 チューニング済みモデルが本番環境での使用に昇格する準備が整った場合に、このオプションを選択してください。
デプロイメント・スペースは、 IBM Cloud Object Storage や Amazon S3 などのクラウドベースのオブジェクトストレージに関連付けられます。
- 重要: クラウドベースのオブジェクトストレージへの接続には、エンドポイント URL およびオブジェクトストレージ内のバケットに対する読み取りおよび書き込みアクセス権限を持つ認証情報を提供する必要があります。
- フィールド ターゲットデプロイメント・スペース でデプロイメント・スペースを選択してください。
デプロイメント・スペースがない場合は、新しいスペースを作成してください。 詳細は、を参照してください デプロイメント・スペースの作成。
デプロイメント用のラベルを追加します。 デプロイメント提供名
名前は最大36文字まで入力できます。 サポートされている文字は [ a-z,0-9,_] です。
ヒント: サービング名は、 デプロイメントを識別するAPIエンドポイントの URL で使用されます。 人間が読みやすい名前を追加すると便利です。なぜなら、指定した名前が自動的に生成される長いシステム生成IDに置き換わるからです。 サービング名は、サービスインスタンスのデプロイメントからデプロイメントを抽象化します。 アプリケーションはこの名前を参照できるため、基盤となるサービスインスタンスを変更してもユーザーに影響を与えません。
作成後に表示するオプションを選択すると、 デプロイメント処理完了後に調整済みモデルを簡単に見つけられます。その後 「デプロイ」 をクリックしてください。 チューニング済みモデルがデプロイされた後、そのコピーがモデル資産としてプロジェクト内に保存されます。
調整したモデルをテストするためのデプロイメントを推論する。
2.3.1 以降、テキスト生成 API は非推奨となり、将来的に削除されます。
- デプロイメント・スペースにおいて
- プロジェクトの デプロイメント タブから、プロジェクト内にデプロイされたモデル資産の名前、またはチューニング済みモデルをデプロイしたデプロイメント・スペースの名前をクリックします。
- テストタブをクリックしてください。
- 入力データフィールドに、調整済みモデルが認識するように訓練されたプロンプトパターンに従ったプロンプトを追加し、 [生成 ]をクリックします。 「パラメータ設定を表示」 をクリックすると、モデルにデフォルトで適用されるプロンプトパラメータを確認できます。 プロンプトのパラメータを変更するには、 Prompt Lab にアクセスする必要があります。
- プロジェクトにおいて
- プロジェクト内で、 [ Prompt Lab で開く] をクリックします。 デプロイメント・スペースで作業している場合、モデルを操作するプロジェクトを選択するよう求められます。
- 「試す」 セクションで、 入力フィールドにプロンプトを追加します。このプロンプトは、調整済みモデルが認識するように訓練されたプロンプトパターンに従ってください。その後、「 生成 」をクリックします。