使用 AutoAI RAG 索引与文档聊天

如果您使用 Milvus 矢量存储创建了 AutoAI 检索增强生成(RAG)模式,则可以使用Prompt实验室中的索引化基础文档为使用基础模型生成的答案添加上下文。

作为检索增强生成 AutoAI 实验的一部分 ,基础文档被矢量化并存储在 Milvus 矢量存储中。 您可以使用矢量化内容为生成的提示答案添加上下文。 有关 "提示 "实验室的 "与文档聊天 "功能的更多信息,请参阅 " 基于上下文信息的基础模型提示"。

开始之前

要使用AutoAIRAG 模式中的矢量化文档,请确认您已满足以下要求:

  1. 您正在使用的创建提示的项目可与 Milvus 数据库实例连接。
  2. 您使用了支持的嵌入模型对文档进行矢量化。

有关在提示实验室中使用矢量化内容的详细信息,请参阅为基础模型提示添加矢量化文档

将您的 Milvus 索引与文档连接起来进行聊天

  1. 在聊天模式下,从 Prompt Lab 选择一个基础模型,然后指定要用于提示的任何模型参数。

  2. 单击 Upload documents 图标 上传文件图标,然后选择 Add documents

  3. 选择 watsonx.data Milvus 作为矢量存储。

  4. 通过输入接地文件的名称和选择与索引的连接来定义细节。

  5. 指定用于创建 AutoAI RAG 模式的嵌入模型:slate-125m-english-rtrvr

  6. 选择要用作基础文件的文集。

  7. 定义 Milvus 集合字段模式,将 document_id 指定为文档名称字段 ,将 text 指定为文本字段的值。

  8. 单击创建

  9. 就文件中的信息提出问题,看看模型如何利用上下文信息来回答您的问题。

    例如,询问基础文件中解释的概念。

了解更多

有关使用提示的详细信息,请参阅 Prompt Lab