保存の確認メッセージ
迅速なエンジニアリングには試行錯誤が伴います。 実験を追跡し、必要な出力を生成するモデルとプロンプトの組み合わせを保存します。
作業を保存するときに、別の資産タイプとして保存することを選択できます。 作業を資産として保存すると、現在のプロジェクトのコラボレーターと作業を共有できます。
| アセットタイプ | この資産タイプを使用する状況 | 保存される内容 | アセットの取得方法 |
|---|---|---|---|
| プロンプト・テンプレート資産 | 特定のモデルから必要な結果を生成し、それを再利用するプロンプト静的テキスト、プロンプト変数、およびプロンプト・エンジニアリング・パラメーターの組み合わせが見つかった場合。 | プロンプトテキスト、モデル、プロンプトエンジニアリングのパラメータ、プロンプト変数、およびAIのガードレール設定。 注: モデルによって生成された出力は、プロンプトがチャット・モードで作成されない限り、プロンプト・テンプレートの一部として保存されません。
|
「保存済みプロンプト・テンプレート」 タブから |
| プロンプト・セッション資産 | 実験に関連するステップを追跡し、何を試したか、何を試していないかを把握したい場合。 | プロンプトエンジニアリングセッション中に送信された最大500件のプロンプトについて、プロンプトテキスト、モデル、プロンプトエンジニアリングのパラメータ、AIのガードレール設定、およびモデルの出力を表示します。 | 「履歴」 タブから |
| 標準ノートパソコン資産 | プログラマブルにモデルを操作したいが、より迅速なエンジニアリングを体験するために、 Prompt Lab インターフェースから始めたい場合。 | プロンプトテキスト、モデル、プロンプトエンジニアリングのパラメータ、およびプロンプト変数の名前とデフォルト値は、 Python コードとしてフォーマットされ、 Python ノートブックとして保存されます。 | プロジェクトの 「資産」 ページから |
| 配備ノートブック | チャットでの質問に対する回答を、 グラウンディング文書から検索するといった高度な機能をプロンプトが備えており、その機能をAIサービスとして展開したい場合。 | REST API経由で利用可能な、デプロイ可能なAIサービス。 注: ベクトルインデックスを選択し、チャットモデルを使用している場合のみ、 デプロイメント内容をデプロイメントノートブックとして保存できます。
|
プロジェクトの 「資産」 ページから |
これらの各資産タイプは、プロジェクトの 「資産」 ページから使用できます。 「管理者 」または 「編集者 」の役割を持つプロジェクトの共同編集者は、 資産を開いて操作することができます。 プロンプトテンプレートと資産ンプトセッションのアセットは自動的にロックされますが、 ロックアイコンをクリックすることでロック を解除できます。
編集者または管理者は、ロックされたプロンプト資産プレートアセットを使用して推論を生成できます。 ロック所有者のみが、ロックされたプロンプト・セッション資産を使用して推論を生成できます。 詳細については、を参照してください プロジェクトにおける資産管理。
プロンプトエンジニアリング作業の保存
プロンプト・エンジニアリング作業を保存するには、以下のステップを実行します。
プロンプトエディタのヘッダーにある「 作業を保存 」アイコンをクリックし、次に「
名前を付けて保存 」をクリックします。
資産タイプを選択します。
デプロイメント ・ノートブックを作成する場合は、そのプロンプトをデプロイメント・スペースに関連付ける必要があります。 詳細については、を参照してください デプロイメント・スペース。
上位100件デプロイメント・スペースを閲覧できます。
資産に名前を付け、オプションで説明を追加します。
Watsonx.governance のみ: 目標に最も適合するタスク・タイプを選択します。
プロンプトをノートブック資産として保存する場合のみ: 「保存後にプロジェクトで表示」を選択します。
保存をクリックしてください。
ノートブックに保存されたプロンプトの操作
作業をノートブック資産として保存すると、 Python ノートブックが作成されます。
プロンプト付き資産ブック・アセットを使用するには、お使いのノートブックの種類に応じた手順に従ってください。
標準ノートブック
プロジェクトの 「資産」 タブからノートブック資産を開きます。
「編集 」アイコンをクリックして
ノートブックを起動し、コードをステップ実行できるようにします。
ノートブックには、以下のステップを管理する実行可能コードが含まれています。
- サービスで認証します。
- Python クラスを定義します。
- モデルの入力テキストを定義し、プロンプト変数を宣言します。 静的プロンプト・テキストを編集して、プロンプト変数に値を割り当てることができます。
- 定義されたクラスを使用して watsonx.ai 推論 API を呼び出し、入力を基盤モデルに渡します。
- 基盤モデルによって生成される出力を示します。
注: プロジェクトに保存されている推論用チューニング済みモデルを呼び出すプロンプトについては、スペースIDをプロジェクトIDに置き換えてください。ノートブックをそのまま使用するか、ユース・ケースのニーズに合わせて変更します。
Prompt Lab を使って生成された Python コードは正常に実行される。 コードに対して行った変更をテストして検証する必要があります。
配備ノートブック
プロジェクトの 「資産」 タブからノートブック資産を開きます。
「編集 」アイコンをクリックして
ノートブックを起動し、コードをステップ実行できるようにします。
ノートブックには、以下のステップを管理する実行可能コードが含まれています。
- サービスで認証します。
- ターゲット空間に接続し、ベクトルのインデックスを更新します。
- デプロイするAIサービスを定義します。 これには、ベクトルインデックスの初期化、ベクトルインデックスに対するクエリの実行、モデルへの入力データの整形、および推論の実行を行うためのコードが含まれています。
- AIサービスをローカル環境でテストします。
- AIサービスをターゲット領域にデプロイします。
- デプロイされたAIサービスをテストします。
ノートブックをそのまま使用するか、ユース・ケースのニーズに合わせて変更します。
Prompt Lab を使って生成された Python コードは正常に実行される。 コードに対して行った変更をテストして検証する必要があります。
このノートブックでデプロイされたAIサービスは、REST APIを使用して利用できます。 以下はデプロイメントを呼び出すための ` cURL ` リクエストの例です:
curl --location '${PUBLIC_ENDPOINT}' \ --header 'Content-Type: application/json' \ --header 'Authorization: Bearer ${IAM_TOKEN}' \ --data '{ \ "messages": [${MESSAGES}] }'ここで
- PUBLIC_ENDPOINT は、 デプロイメントプロイメントのパブリックエンドポイントです。 参照 オンラインデプロイメントの作成。
- IAM_TOKEN は、 IBM Cloud サービスにアクセスするための認証トークンです。 プログラムによるアクセスについては、「認証情報」を参照してください。 使用するアクセストークンは、ノートブックで参照されているプロジェクトと同じアカウントに関連付けられている必要があります。
- MESSAGES は、以下のスキーマを持つチャット履歴のテキストエントリの配列です:
{ "role": type, // "user" or "assistant" "content": content // The text content of the message }
AIサービスのデプロイおよび推論の実行方法の詳細については、 「ツールを使用したAIサービスのデプロイ」 を参照してください。
保存されたプロンプト・テンプレートの操作
保存したプロンプトで作業を続けるには、 Prompt Lab の Saved prompt templates タブからプロンプトを開きます。
保存されたプロンプト・テンプレートを開くと、 「自動保存」 がオンになります。これは、プロンプトに対して行った変更が、保存されたプロンプト・テンプレート資産に反映されることを意味します。 保存したプロンプト・テンプレートを変更しない場合は、 「新規プロンプト」 をクリックして新規プロンプトを開始します。
保存されたプロンプト・テンプレートから編集モードを変更することはできません。
他の編集モードとは異なり、チャット・モードで保存されたプロンプト・テンプレートには、モデル出力も保管されます。 チャット・モードで保存されたプロンプト・テンプレートから別のモードに切り替えることはできません。 プロンプトテンプレートとして保存できるプロンプトには、合計サイズが5MB以内のグラウンディング資料のみを含めることができます。
ベクトルインデックスが関連付けられていないプロンプトテンプレート資産は、AIサービスを作成することなく直接デプロイされます。
watsonx.governance がプロビジョンされているときに、プロンプト・テンプレートに少なくとも 1 つのプロンプト変数が含まれている場合は、モデル応答の有効性を評価できます。
- プロンプト変数について詳しくは、 再使用可能なプロンプトの作成を参照してください。
- モデル応答の評価について詳しくは、 プロジェクトでのプロンプト・テンプレートの評価を参照してください。
保存済みプロンプト・セッションの処理
保存したプロンプトセッションで作業を続けるには、 Prompt Lab の 「履歴」 タブから開きます。
以前のプロンプト送信を確認するには、履歴からプロンプト・エントリーをクリックして、プロンプト・エディターで開きます。 前のプロンプトの結果を希望する場合は、 「復元」をクリックして、現在のプロンプトとしてリセットできます。 以前のプロンプトを復元すると、現在のプロンプト・セッションは以前のバージョンのプロンプト・セッションに置き換えられます。