使用 AutoAI RAG 索引与文档聊天
如果您使用 Milvus 矢量存储创建了 AutoAI 检索增强生成(RAG)模式,则可以使用Prompt实验室中的索引化基础文档为使用基础模型生成的答案添加上下文。
作为检索增强生成 AutoAI 实验的一部分 ,基础文档被矢量化并存储在 Milvus 矢量存储中。 您可以使用矢量化内容为生成的提示答案添加上下文。 有关 "提示 "实验室的 "与文档聊天 "功能的更多信息,请参阅 " 基于上下文信息的基础模型提示"。
开始之前
要使用AutoAIRAG 模式中的矢量化文档,请确认您已满足以下要求:
- 您正在使用的创建提示的项目可与 Milvus 数据库实例连接。
- 您使用了支持的嵌入模型对文档进行矢量化。
有关在提示实验室中使用矢量化内容的详细信息,请参阅为基础模型提示添加矢量化文档。
将您的 Milvus 索引与文档连接起来进行聊天
在聊天模式下,从 Prompt Lab 选择一个基础模型,然后指定要用于提示的任何模型参数。
单击 Upload documents 图标
,然后选择 Add documents。
选择 watsonx.data Milvus 作为矢量存储。
通过输入接地文件的名称和选择与索引的连接来定义细节。
指定用于创建 AutoAI RAG 模式的嵌入模型:
slate-125m-english-rtrvr。选择要用作基础文件的文集。
定义 Milvus 集合字段模式,将
document_id指定为文档名称字段 ,将text指定为文本字段的值。单击创建。
就文件中的信息提出问题,看看模型如何利用上下文信息来回答您的问题。
例如,询问基础文件中解释的概念。
了解更多
有关使用提示的详细信息,请参阅 Prompt Lab。