保存提示

标准 Notebook

1. 从项目的 资产 选项卡打开 Notebook 资产。

2. 单击 " 编辑 "图标 来实例化笔记本，以便您可以逐步查看代码。

   该 Notebook 包含可运行的代码，用于为您管理以下步骤:

   • 向服务进行认证。
   • 定义 Python 类。
   • 定义模型的输入文本并声明任何提示变量。 您可以编辑静态提示文本并将值分配给提示变量。
   • 使用定义的类调用 watsonx.ai 推断 API，并将输入信息传递给基础模型。
   • 显示地基模型生成的输出。
   注意：对于推理调整了存储在项目中的模型的提示，请将空间 ID 替换为项目 ID。

3. 按现状使用 Notebook ，或者对其进行更改以满足您的用例需求。

   使用 Prompt Lab 生成的 Python 代码已成功执行。 您必须测试并验证对代码所作的任何更改。

部署 notebook

1. 从项目的 资产 选项卡打开 Notebook 资产。

2. 单击 " 编辑 "图标 来实例化笔记本，以便您可以逐步查看代码。

   该 Notebook 包含可运行的代码，用于为您管理以下步骤:

   • 向服务进行认证。
   • 连接到目标空间并提升向量索引。
   • 定义要部署的AI服务。 这包括初始化向量索引、针对向量索引进行查询、格式化模型的输入以及运行推理的代码。
   • 在本地测试人工智能服务。
   • 将人工智能服务部署到目标空间。
   • 测试已部署的人工智能服务。

3. 按现状使用 Notebook ，或者对其进行更改以满足您的用例需求。

   使用 Prompt Lab 生成的 Python 代码已成功执行。 您必须测试并验证对代码所作的任何更改。

4. 笔记本部署的AI服务可通过REST API使用。 以下是调用部署的示例 cURL 请求：

   curl --location '${PUBLIC_ENDPOINT}' \
   --header 'Content-Type: application/json' \
   --header 'Authorization: Bearer ${IAM_TOKEN}' \
   --data '{ \
     "messages": [${MESSAGES}]
   }'
   

   其中：

   • PUBLIC_ENDPOINT 是您的部署的公共端点。 看创建在线部署。
   • IAM_TOKEN 是用于访问的身份验证令牌IBM Cloud服务。 看编程访问凭证。 您使用的访问令牌必须与笔记本中引用的项目关联到同一个帐户。
   • MESSAGES 是聊天历史文本条目的数组，其架构如下：

   {
      "role": type, // "user" or "assistant"
      "content": content // The text content of the message
   }
   

有关如何部署和推断人工智能服务的详细信息，请参阅使用工具部署人工智能服务。