Verwendung eines AutoAI RAG-Index zum Chatten mit Dokumenten

Wenn Sie ein AutoAI Retrieval-Augmented Generation (RAG)-Muster mithilfe eines Milvus -Vektorspeichers erstellt haben, können Sie die indizierten Grundlagendokumente im Prompt-Labor verwenden, um den mit den Grundmodellen generierten Antworten Kontext hinzuzufügen.

Im Rahmen des AutoAI -Experiments zur Retrieval-Augmented-Generation werden die grundlegenden Dokumente vektorisiert und in einem Milvus -Vektorspeicher gespeichert. Sie können den vektorisierten Inhalt verwenden, um den generierten Antworten auf Aufforderungen Kontext hinzuzufügen. Weitere Informationen über die Funktion "Mit Dokumenten chatten" des Eingabeaufforderungs-Labors finden Sie unter Fundierungsmodell-Eingabeaufforderungen in kontextuellen Informationen begründen.

Vorbereitende Schritte

Um die vektorisierten Dokumente aus Ihrem AutoAI zu verwenden, müssen Sie sicherstellen, dass Sie die folgenden Voraussetzungen erfüllen:

  1. Eine Verbindung zur Datenbankinstanz Milvus ist über das Projekt verfügbar, das Sie zum Erstellen von Eingabeaufforderungen verwenden.
  2. Sie haben ein unterstütztes Einbettungsmodell zur Vektorisierung der Dokumente verwendet.

Einzelheiten zur Arbeit im Prompt-Labor mit vektorisiertem Inhalt finden Sie unter Hinzufügen von vektorisierten Dokumenten für Fundamentmodell-Prompts.

Verknüpfen Sie Ihren Milvus -Index mit Chat-Dokumenten

  1. Wählen Sie unter Prompt Lab im Chat-Modus ein Fundamentmodell aus und geben Sie dann alle Modellparameter an, die Sie für die Eingabeaufforderung verwenden möchten.

  2. Klicken Sie auf das Symbol Dokumente hochladen Symbol für das Hochladen von Dokumenten, und wählen Sie dann Dokumente hinzufügen.

  3. Wählen Sie watsonx.data Milvus als Vektorspeicher aus.

  4. Definieren Sie die Details, indem Sie einen Namen für die Erdungsdokumente eingeben und die Verbindung zum Index auswählen.

  5. Geben Sie das Einbettungsmodell an, das zur Erstellung des AutoAI RAG-Musters verwendet wird: slate-125m-english-rtrvr.

  6. Wählen Sie die Sammlung aus, die als Grundlagendokumente verwendet werden soll.

  7. Definieren Sie das Milvus -Sammelfeldschema, indem Sie document_id für das Feld "Dokumentname" und text als Wert für das Feld "Text" angeben.

  8. Klicken Sie auf Erstellen.

  9. Stellen Sie Fragen zu Informationen aus dem Dokument, um zu sehen, wie gut das Modell die Kontextinformationen nutzen kann, um Ihre Fragen zu beantworten.

    Fragen Sie zum Beispiel nach Konzepten, die in den Grundlagendokumenten erläutert werden.

Weitere Informationen

Weitere Informationen zur Arbeit mit Eingabeaufforderungen finden Sie unter Prompt Lab.