添加生成提示

在线编辑

您可以在代理工作流程中添加和编辑生成提示。 生成式提示利用大型语言模型（LLM）的能力来完成涉及自然语言理解的任务，如在代理工作流中生成文本或结构化内容。

为代理工作流程添加生成提示：

  1. 在工作流构建器中打开代理工作流。

  2. 执行以下任一操作以添加生成式提示：

    • 点击“添加流程项 新增”。 从流程节点中，点击并拖动生成式提示语到连接线上。

    • 点击起始节点与终止节点之间的连接线，然后选择添加流程活动 > 生成式提示。

管理提示输入变量

定义输入变量，在系统提示符和用户提示符中添加这些变量，以映射输入。

要定义输入变量，请完成以下步骤：

  1. 在生成提示对话框中，单击添加。

  2. 选择输入变量的数据类型。

  3. 指定名称、描述和值。 该值是测试值，当您在 "响应 "面板中单击 " 生成响应 "测试生成提示时，该值将用于输入。

您还可以编辑和删除现有的输入变量。 将鼠标悬停在输入变量上时，会出现编辑和删除选项。

使用聊天会话上下文作为输入

聊天会话上下文提供聊天上下文作为提示输入。 启用聊天会话上下文后，聊天历史记录中的最后五个对话回合将作为提示输入。 对话回合是指用户和代理在聊天中的一次交流。

要启用聊天会话上下文，请在生成提示对话框中将 " 包括聊天记录作为输入 "开关设置为 "开"。

确定提示

提示是您向 LLM 模型提供的指令，目的是获得预期的响应或行为。

您可以定义系统提示和用户提示。 用户提示以任务为导向，指定要执行的任务。 与此相反，系统提示定义了语境，如语气、格式和行为，以指导如何生成回复。

要定义提示，请完成以下步骤：

  1. 在生成提示对话框中，选择定义提示选项。

  2. 在 " 系统提示 "字段中，解释如何回复对话。 您可以指定要完成的任务、语气和意图，以及对话过程中要遵循的任何限制或约束。 系统提示有助于确保所有对话的行为一致。 您可以在系统提示字段中加入输入变量来映射输入。

例如，定义语气和格式的系统提示是 "使用友好但专业的语气"。 称呼收件人的名字"

  1. 在 " 用户提示 "字段中，为 LLM 模型提供特定任务的指示。 您可以在用户提示字段中加入输入变量来映射输入。

例如，特定任务的用户提示是 "生成一封电子邮件，欢迎新员工加入团队，并由其经理发送给他们。 新兵的名字是 {recruit_first_name}。 他们经理的全名是 {manager_full_name}。"

若需在系统提示符或用户提示符中将花括号显示为纯文本，请使用双花括号进行转义。 例如，提示符中的 {{customer_id}} 在输出中显示为 {customer_id} ，而双大括号内的文本会被视为普通文本而非变量。

在提示词中使用变量

您可以使用流量变量、流量输入或上游节点的输出。

在系统提示和用户提示字段中添加变量：

  1. 将光标置于要插入变量的位置，然后单击“变量”图标 变量图标。

  2. 从列表中选择一个变量。

添加示例以改进生成提示输出

您可以指定示例提示及其预期输出，以改进生成式提示的输出或结果。

要添加示例，请完成以下步骤：

  1. 在生成提示对话框中，选择添加示例选项。

  2. 单击添加示例

  3. 在 "输入提示 "字段中，添加一个清晰且以任务为中心的示例提示。

  4. 在 " 预期输出 "字段中，定义您期望的响应输出示例。

默认情况下，使用示例的活动切换开关设置为开。 如果不想使用示例，请将开关设置为关闭。

您最多可以添加 10 个训练示例。 您还可以删除现有的训练示例。 将鼠标悬停在训练示例上时，会出现删除选项。

将对象定义为生成提示输出

您可以将生成式提示符的输出类型更改为对象。

重要说明：

通过使用您指定的训练示例，可以提升生成式提示的响应质量。 将生成提示的响应改为对象类型时，所有现有的训练示例都会被移除。

要将输出类型更改为对象，请完成以下步骤：

  1. 在生成提示对话框中，将 " 输出为对象 "切换开关设置为 "开"。

  2. 输入名称和描述。

  3. 在对象树中单击对象名称 加 旁边的“下一步”，或在 “对象属性 ”部分单击 “添加 + ”。

  4. 从列表中选择一个属性。

  5. 输入名称和描述。

  6. 可选：选中 “ {data type} 列表 ”复选框，可在对象属性中存储值列表。

  7. 可选：开启 “设置默认值 ”切换开关，为属性设置默认值。

  8. 输入默认值并按回车键。

  9. 在简易视图和JSON视图之间切换以更新对象属性。 默认情况下，选择的是简易视图。

  10. 单击保存。

  11. 点击编辑对象以更新创建的对象。

    • 对象变量不支持设置默认值选项。

要了解有关定义对象属性的更多信息，请参阅对象数据类型。

调整 LLM 设置

要配置 LLM 设置，请在生成提示对话框中选择调整 LLM 设置选项。 您可以配置以下 LLM 设置：

  • 响应中的最小和最大标记。

  • 停止序列，在生成特定序列时停止令牌生成

  • 创意阈值，用于控制回复的创意或精确程度。 移动滑块可自动设置创意阈值。 要手动设置，请选择手动设置创意阈值设置复选框。

选择模型并测试生成提示

您可以从生成提示对话框上的模型列表中选择一个模型用于生成提示。 选择模型后，可以测试生成提示，以验证生成的响应是否与预期结果一致。

要测试生成提示，请单击 " 生成预览 "，然后查看生成的回复是否符合您的预期。

您可以点击“保存为训练样本”图标 添加培训图标，将生成的响应添加为训练样本。

管理错误处理

错误处理功能允许您自定义生成式提示失败时向用户显示的错误信息。 您还可以选择配置代理工作流程，以便在调用生成提示失败时重试调用。

要定义错误处理，请完成以下步骤：

  1. 在生成式提示对话框中，点击 “ 编辑 错误处理”旁边的按钮。

  2. 在错误处理窗口中，如有必要，请修改错误消息。

  3. 如果需要，可以将生成提示配置为出错时重试。 配置

    1. 启用错误重试。

支持以下错误代码：

  • 408 请求超时：客户端耗时过长；重试可能成功。

  • 409 冲突：通常用于版本冲突；解决冲突后重试。

  • 425 太早：请求发送过早；稍后重试。

  • 429 请求过多：节流；等待重试标头后重试。

  • 500 内部服务器错误：通用服务器错误；可能是短暂的。

  • 502 网关故障：临时代理/服务器问题；重试可能成功。

  • 503 服务不可用：服务器暂时超载或停机维护。

  • 504 网关超时：上游服务器未及时响应；重试可能成功。

  1. 输入重试的最大次数 （1 到 5 之间）。

  2. 以毫秒为单位调整重试之间的等待时间 （1000 到 60000 之间）。 默认值为 1000 毫秒。

代理工作流定义了一系列相关联的活动和控制，旨在实现特定的业务目的或目标。 进一步了解代理工作流程。