Fragen und Antworten mit RAG Accelerator

Herunterladen und Ausführen des Accelerators

Bitten Sie Ihr Kundenteam um eine Kopie der Archivdatei des Accelerator-Beispielprojekts.

Was gibt es Neues im Q&A mit RAG Accelerator

Die Fragen und Antworten zum RAG Accelerator werden unabhängig von den Produktveröffentlichungen von „ watsonx “ aktualisiert. Suchen Sie regelmäßig nach Aktualisierungen.

Übersicht

Die Fragen und Antworten mit RAG Accelerator bieten ein fortgeschrittenes RAG-Muster und eine Implementierung, die die folgenden Prozesse umfasst:

• Dokumentenverarbeitung : Die Umwandlung, Verarbeitung und Indexierung von Dokumenten zur Erstellung eines Vektorindex.
• Benutzerinteraktion: Benutzergespräche in einer UI-basierten Chatbot-Anwendung.
• Antwortgenerierung: Beantwortung von Fragen durch RAG auf der Grundlage von Vektorsuchergebnissen oder unter Verwendung von watsonx.data Premium API-Schnittstellen zur Dokumentenabfrage.
• Protokollierung von Eingabe/Ausgabe : Die Protokollierung von Fragen, abgerufenen Blöcken und Metadaten sowie Antworten in einem sekundären Protokollindex.
• Sammlung von Benutzerfeedback : Das Benutzerfeedback wird an die entsprechenden Einträge im Eingabe-/Ausgabeprotokoll angehängt.
• Inhaltsanalyse : Ein Bericht über die spezifischen Inhalte, die verbessert werden müssen, um Antworten zu verbessern, die negatives Nutzerfeedback erhalten haben.
• Einblicke in die Wissensabdeckung: Ein Bericht über die Themen, deren Inhalt verbessert oder erweitert werden muss.
• Erstellung und Visualisierung von Taxonomien: Eine Visualisierung der hierarchischen Beziehungen in Ihren Inhalten.
• Eingreifen durch den Menschen : Ermittlung der besten Experten, um auf unbefriedigende Antworten zu reagieren, indem ein Vektorindex mit Expertenprofilen verwendet wird.

Die folgende Grafik fasst die Prozesse des Q&A mit RAG Accelerator zusammen.

Dokumentenbearbeitung

Ein Notizbuch für die Dokumentenverarbeitung und -indexierung automatisiert die Konvertierung, Aufteilung und Indexierung von Dokumenten in einem Vektorindex in einer dieser Vektordatenbanken:

• watsonx Entdeckung mit Elastic Search.
• DataStax Hyperkonvergente Datenbank
• watsonx.data Milvus

Die zu vektorisierende Beispiel-Dokumentensammlung ist eine Version des watsonx as a Service -Sets in einer ZIP-Datei. Alternativ können Sie eine Verbindung zu einem AWS S3 -Bucket herstellen, der Ihre Dokumente enthält.

Sie können das Notebook anpassen, um vorhandene Vektorindizes auszuführen, die Sie außerhalb von watsonx mit anderen Tools erstellt haben, z. B. Elastic-Konnektoren und -Pipelines, Spark-Pipelines oder Ihre eigenen Prozesse.

Benutzerinteraktion

Beispiel-Chatbot-Anwendungen bieten eine Benutzeroberfläche für Unterhaltungen, die die folgenden Arten von Interaktionen umfassen können:

• Benutzer stellen Fragen
• Generierte Antworten und Referenzlinks werden zurückgegeben
• Benutzer geben Feedback zu den Antworten
• Experten geben bessere Antworten auf negatives Nutzerfeedback

Sie können eine der folgenden Beispiel-Chatbot-Anwendungen ausprobieren:

• watsonx Orchestrate KI-Assistent
• Streamlit-Anwendung

Antwortgenerierung

Das Notizbuch für die Q&A-Funktion Python definiert den Funktionscode Python und automatisiert seine Bereitstellung mit einem genau definierten URL -Suffix in einem Bereitstellungsbereich. Die Funktion "Fragen und Antworten" mit dem Funktionscode RAG Python wird durch Parametersätze konfiguriert. Die Funktion nimmt eine Frage als Eingabe und fragt den Vektorindex ab, um die relevantesten Blöcke für die Beantwortung der Frage und die Block-Metadaten, einschließlich Links zu Quelldokumenten, abzurufen. Die Funktion fügt die relevantesten Textbausteine zur konfigurierten Eingabeaufforderungsvorlage hinzu und gibt die generierte Antwort, die berechnete Treue-Bewertung und die abgerufenen Textbausteine mit Metadaten zurück. Wenn Sie Ihre Dokumente in speichern watsonx.data Premium, kann die Antwortgenerierungsfunktion mithilfe der watsonx.data Premium Retrieval-API watsonx.dataMilvus Vektorsuchen nach durchführen.

Protokollierung von Ein- und Ausgaben

Für jeden Aufruf der Q&A-Funktion mit RAG Python können Sie die Protokollierung des Eingabe- und Ausgabetextes aktivieren. Alle personenbezogenen Daten werden vor der Protokollierung entfernt. Der Protokollindex ist vom Vektorindex für die Dokumente in der Vektordatenbank getrennt.

Wenn die Eingabe-/Ausgabe-Protokollierung aktiv ist, können Sie Vorschläge zur Vervollständigung von Fragen aktivieren, wenn Benutzer ihre Fragen eingeben. Wenn der Benutzer eine Vervollständigung auf der Grundlage einer kürzlich beantworteten Frage akzeptiert, wird die Antwort aus dem Protokollindex abgerufen, was Zeit spart und die Kosten für die GPU-Inferenz und den Abruf senkt.

Sammlung von Nutzerfeedback

Das Feedback der Benutzer hilft den Interessengruppen zu verstehen, wie gut die Lösung für ihre Benutzer funktioniert, welche Dokumentthemen für die Benutzer von Interesse sind und wie gut die Lösung Fragen auf der Grundlage des Inhalts beantwortet. Sie können die Anwendung so konfigurieren, dass die Funktion "Fragen und Antworten" mit RAG Python erneut aufgerufen wird, um Feedback der Benutzer zur Antwort zu sammeln. Das Feedback der Benutzer in Form einer Zufriedenheitsbewertung und eines optionalen Kommentars wird dann zur späteren Analyse an den Q&A-Protokolldatensatz angehängt.

Um Ihre Lösung zu testen, können Sie synthetische Protokolleinträge und Benutzer-Feedback-Daten generieren, indem Sie das Notebook „Synthetic Log Data Generator“ ausführen. Das Notebook exportiert eine Testdatei „ CSV “ mit generierten Datensätzen. Anschließend können Sie die generierten Datensätze verwenden, um Analysen, Dashboards und die Abrufauswertung mit dem Notizbuch für Benutzerfeedback-Analysen zu testen.

Inhaltsanalyse

Sie können das Notebook für die Analyse des Benutzerfeedbacks konfigurieren und es direkt oder als Auftrag ausführen. Das Notizbuch fragt die Protokolldaten für das angegebene Zeitintervall oder die Start- und Enddaten ab. Das Notebook lädt die Protokolldaten in einen Datenrahmen und verwendet die unbeaufsichtigte Themenerkennung von BERTopic, Watson Natural Language Processing oder die Top2Vec Methode, um zu ermitteln, welche Dokumentthemen am häufigsten abgerufen wurden, um Antworten zu generieren. Das Notizbuch analysiert und visualisiert die Benutzerzufriedenheit nach Themen und enthält die Fragen, Antworten und Benutzerkommentare zu Antworten mit niedriger Bewertung. Auf der Grundlage dieser Erkenntnisse können Interessenvertreter und Eigentümer von Wissensinhalten Verbesserungen der Inhalte vorantreiben, die zu besseren Antworten führen. Sie können die Content-Insights-Diagramme aus dem Notizbuch als HTML exportieren.

Wissensabdeckungsberichte (Technische Vorschau)

Sie können den Bericht zur Wissensabdeckung ausführen, um Themen zu identifizieren, deren Inhalt verbessert oder erweitert werden muss.

Der Bericht führt die folgenden Aktionen aus:

1. Stellt Referenzfragen aus Testdaten, dem RAG-Protokollindex und dem Korpusindex zusammen ( OpenSearch oder Watson Discovery ). Benutzer-Feedback-Daten sind nicht erforderlich.
2. Bewertet, wie gut Ihr Korpus Nutzerfragen beantwortet, und zeigt auf, wo Inhalte verbessert werden müssen.
3. Liefert Informationen zu automatisch erkannten Themen, zur Beliebtheit von Themen und zur Analyse von Wissenslücken.

Erstellung und Visualisierung von Taxonomien (Technische Vorschau)

Sie können die Taxonomieerstellung und -visualisierung ausführen, um die hierarchischen Beziehungen in Ihren Inhalten anzuzeigen:

• Die Taxonomieerstellung identifiziert und extrahiert automatisch Schlüsselthemen aus einem Dokumentenkorpus und organisiert sie anschließend in einer übersichtlichen hierarchischen Taxonomie mit Eltern-Kind-Beziehungen. Die Taxonomie zeigt, wie aus unstrukturierten Inhalten strukturiertes Wissen abgeleitet werden kann.

• Die Taxonomie-Visualisierung erzeugt interaktive Visualisierungen, die die Taxonomiestruktur zur einfachen Erkundung anzeigen und eine gut organisierte, intuitive Ansicht des zugrunde liegenden Dokumentenkorpus liefern.

Menschliches Eingreifen

Wenn ein Benutzer mit einer Antwort nicht zufrieden ist, können Sie die Anwendung so konfigurieren, dass ein fachkundiger Kontakt ermittelt wird, der eine bessere Antwort geben kann. Sie können das Notebook für die Erstellung von Expertenprofilen so konfigurieren, dass Expertenprofildokumente verarbeitet und auf der Grundlage dieser Informationen ein Index erstellt wird. Die Anwendung kann beispielsweise die Frage an den Experten weiterleiten, die Antwort des Experten an den Benutzer senden und den Eigentümer der Wissensdatenbank auf eine mögliche Verbesserung des Inhalts hinweisen.

Weitere Informationen

• Abruf-erweiterte Generierung
• Lösungsmuster für die Beantwortung von Fragen mit Retrieval-unterstützter Generierung