配置基本 LLM

在线编辑

.---

版权： 年：[ {CURRENT_YEAR} ] lastupdated："[ {LAST_UPDATED_DATE} ]"

子收藏：Watson 助手

SaaS

" 生成 AI " 页面中的 基本大型语言模型 (LLM) 部分可帮助您为助手配置大型语言模型。 AI 助手构建器中的大型语言模型（LLMs）使您的客户能够与助手无缝互动，无需任何定制的对话步骤。 您可以对助手中的现有操作启用基本 LLM 功能，以提高其对话能力。

基本 LLM 全屏

您可以在 Base LLM 配置中执行以下操作:

为助手选择大型语言模型

要选择适合您企业生态系统的 LLM ，请执行以下步骤:

  1. 转至 主页 > 生成 AI。

  2. 在 基本大语言模型 (LLM) 部分中，从 选择模型 下拉列表中选择大语言模型。 如需了解车型详情，请参阅不同组件支持的车型。

添加提示指示信息

您可以指示助手中的 LLM 通过添加提示指示信息来提供优化的响应。 提示指示信息可帮助 LLM 以清晰和明确的方式指导对话，以实现操作的最终目标。 执行以下步骤以添加提示指令:

  1. 转至 主页 > 生成 AI。

  2. 在 添加提示指示信息 部分中，单击 添加指示信息 以查看 提示指示信息 字段。

  3. 在 提示指令 字段中输入提示指令。

可以在 提示指令 字段中输入的最大字符数为 1,000。

选择助手的回答行为

您可以配置助手的回答行为，以提供基于预装入内容或常规内容的响应。 您可以配置的回答行为包括:

  • 通用回答

在通用回答中，法律信息管理系统（LLM）根据一般话题回答客户的问题。

重要说明：

如果您正在体验 IBM watsonx Orchestrate 中的代理体验，通用回答功能可能无法使用。

  • 会话式搜索

要使用对话式搜索，您必须配置搜索集成并启用对话式搜索。

切换为关闭 ：对话式搜索会禁用在路由优先级路径中调用它的进程。 您并没有禁用搜索功能本身。

以下对话式搜索行为适用：

  • 如果同时启用通用应答和对话搜索，对话搜索优先于通用应答。

  • 如果助手响应在搜索置信度方面得分较低，那么回答行为将使用 通用回答。

  • 该语言模型利用在搜索集成过程中预加载的内容来响应客户的查询。

对话式搜索支持的语言

您可以使用英语以外的其它语言进行对话式搜索，包括法语、西班牙语、德语和巴西葡萄牙语。 以下车型对这些语言的支持最好：

  • ibm/granite-3-8b-instruct

  • meta-llama/llama-3-1-70b-instruct

  • meta-llama/llama-3-3-70b-instruct

  • 大号

您可以测试一下，看看您的语言是否能够获得合理的结果。