Prompt Lab
Nutzen Sie den „ Prompt Lab “ unter IBMwatsonx.ai, um mit verschiedenen Modellen zu experimentieren, Beispiel-Prompts zu entdecken sowie Ihre besten Prompts zu speichern und zu teilen.
- Erforderliche Berechtigungen
- Zum Ausführen von Eingabeaufforderungen müssen Sie über die Rolle Administrator oder Editor in einem Projekt verfügen.
Sie verwenden das Prompt Lab, um effektive Prompts zu entwickeln, die Sie den eingesetzten Basismodellen für das Inferencing vorlegen. Sie verwenden das Prompt Lab nicht, um neue Gründungsmodelle zu erstellen.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Eingabeaufforderung erstellen und ausführen
Führen Sie die folgenden Schritte aus, um eine neue Eingabeaufforderung zu erstellen und auszuführen:
Wechseln Sie innerhalb eines Projekts zur Registerkarte „Assets “, klicken Sie auf „Neues Asset “ und anschließend auf die Kachel „Neues Asset > Chat und Erstellung von Prompts mit Foundation-Modellen “.
Optional: Wählen Sie einen anderen Bearbeitungsmodus aus, in dem gearbeitet werden soll, z. B. Unformatiert.
Wählen Sie ein Modell aus.
Tipp: Um alle verfügbaren Modelle anzuzeigen, deaktivieren Sie bitte alle gesetzten Suchfilter.Optional: Aktualisieren Sie Modellparameter oder fügen Sie Eingabeaufforderungsvariablen hinzu.
Geben Sie eine Eingabeaufforderung ein.
Klicken Sie auf das Symbol „Senden “.Klicken Sie im Modus Strukturiert oder Freiform auf Generieren.
Sie können eine Inferenzanfrage jederzeit abbrechen, indem Sie auf das Symbol „Stopp“ klicken.Speichern Sie Ihre Arbeit als Projektasset, um Ihre Arbeit beizubehalten, sodass Sie eine Eingabeaufforderung wiederverwenden oder mit Mitarbeitern im aktuellen Projekt teilen können. Weitere Informationen finden Sie unter Eingabeaufforderungen speichern.
Führen Sie die folgenden Schritte aus, um eine Beispieleingabeaufforderung auszuführen:
Wählen Sie im Prompt Lab aus dem Menü Probeprompts einen Probeprompt aus.
Die Eingabeaufforderung wird im Editor geöffnet und ein geeignetes Modell wird ausgewählt.
Klicken Sie auf Generieren.
Für die installierten Basismodelle sind Beispieleingabeaufforderungen verfügbar. Wenn sich die in Ihrem Cluster installierten Modelle durch ein Software-Upgrade ändern, ändern sich auch die verfügbaren Beispiele.
Bearbeitungsoptionen für Eingabeaufforderungen
Sie geben Ihre Eingabeaufforderung im Eingabeaufforderungseditor ein. Der Eingabeaufforderungseditor verfügt über folgende Bearbeitungsmodi:
Chatmodus
Sie können mit dem Modell chatten, um zu sehen, wie es mit Dialogen oder Frage-Antwort-Aufgaben umgeht.
Sie können zwischen den Basis-Modellen von „ IBM “ und den über das Modell-Gateway verfügbaren Modellen wählen.
Starten Sie den Chat, indem Sie eine Frage oder eine Anfrage eingeben, die das Modell beantworten soll. Alternativ können Sie auf ein Schnelleinstiegsbeispiel klicken, um es an das Modell zu übergeben. Beispiele für den Schnelleinstieg werden an das Llama Foundation-Modell gesendet. Wenn Sie mit einem anderen Modell arbeiten möchten, fügen Sie Ihren eigenen Eingabetext hinzu.
Jeder nachfolgende Turnus im Dialog baut auf Informationen auf, die zuvor ausgetauscht wurden.
Wenn Llama Foundation Modelle nicht installiert sind, werden die Eingabeaufforderungen für den Schnelleinstieg nicht im Chatmodus angezeigt.
Bevor Sie einen Chat starten, überprüfen und passen Sie die Modellauswahl und die Parametereinstellungen an. Zur Unterstützung des langen Austauschs von Dialogen wird der Parameter Maximale Anzahl Token auf einen hohen Standardwert gesetzt. Sie können beispielsweise eine Stoppfolge hinzufügen, um zu verhindern, dass das Modell Wortausgaben generiert.
Chat-Vorlagen
Vordefinierter Text, der als Systemeingabeaufforderung bezeichnet wird, wird am Anfang des Chats eingefügt, um Grundregeln für den Dialog festzulegen. 
Um den Text zu überprüfen und anzupassen, klicken Sie auf das Symbol „Systemmeldung bearbeiten “.
In einigen Modellen werden bestimmte Vorlagen empfohlen, die verschiedene Teile der Eingabeaufforderung kennzeichnen, wie beispielsweise die Anweisungen zur Eingabe und die Benutzereingabe. Der Chat-Modus passt die Syntax Ihrer Eingabe so an, dass sie dem vom jeweiligen Modell empfohlenen Format entspricht. Sie können auf das Symbol 
„Vollständigen Eingabetext anzeigen“ klicken, um den vollständigen Eingabetext anzuzeigen, der an das Modell übermittelt wird.
Faktenbasierte Anleitungen
Damit das Modell sachliche Ergebnisse liefert, fügen Sie der Eingabeaufforderung Dokumente mit relevanten Informationen hinzu. Klicken Sie auf das Symbol „Dokumente 
hochladen“ und wählen Sie dann „Dokumente hinzufügen “. Weitere Informationen finden Sie unter „Chatten mit Dokumenten und Bildern “.
Sie können auch relevante Daten aus einem Vektor-Speicher eines Drittanbieters hinzufügen. Klicken Sie auf das Symbol 
„Erdung mit Dokumenten“ und wählen Sie den Vektorindex aus. Weitere Informationen finden Sie unter „Hinzufügen vektorisierter Dokumente zur Verankerung von Foundation-Model-Prompts “.
Im Chatmodus fehlende Funktionen
Die folgenden Funktionen werden aus dem Chatmodus ausgeschlossen:
Die Tokennutzungszahl wird im Chatmodus nicht angezeigt.
Beachten Sie, dass der Chatverlauf mit jeder neuen Eingabeaufforderung, die Sie übergeben, gesendet wird, was zur Gesamtzahl der Tokens beiträgt.
Sie können die Tokenanzahl selbst mithilfe der API überprüfen. Klicken Sie auf das Symbol
„Vollständigen Eingabetext anzeigen“, um den vollständigen Eingabetext zu öffnen und zu kopieren, und verwenden Sie anschließend die Tok enisierungsmethode „Text“, um die Token zu zählen.Im Chatmodus können Sie keine Eingabeaufforderungsvariablen definieren. Daher können Sie gespeicherte Vorlagen für Chataufforderungen nicht regulieren.
Sehen Sie sich dieses Video an, in dem der Chat-Modus im „ Prompt Lab “ vorgestellt wird. Das Video beginnt auf dem Startbildschirm von „ watsonx “. Der Benutzer wählt „ Prompt Lab öffnen“ aus.
Dieses Video bietet eine visuelle Methode zum Erlernen der Konzepte und Tasks in dieser Dokumentation.
Strukturierter Modus
Der strukturierte Modus unterstützt neue Benutzer bei der Erstellung effektiver Eingabeaufforderungen. Text aus den Feldern wird in einem Vorlagenformat an das Modell gesendet.
Sie fügen den entsprechenden Feldern Teile Ihrer Eingabeaufforderung hinzu:
Anweisung: Fügen Sie eine Anweisung hinzu, wenn dies für Ihren Anwendungsfall sinnvoll ist. Eine Anweisung ist eine unbedingte Anweisung wie Zusammenfassen des folgenden Artikels.
Beispiele: Fügen Sie mindestens ein Beispielpaar hinzu, das die gewünschte Eingabe und die entsprechende Ausgabe enthält. Wenn Sie in Ihrer Eingabeaufforderung einige Beispieleingabe-und -ausgabepaare angeben, wird dies als Bedienerführung mit wenigen Aufrufenbezeichnet.
Wenn Sie ein bestimmtes Präfix für die Eingabe oder Ausgabe benötigen, können Sie die Standardbezeichnungen "Input:" oder "Output:" durch die gewünschten Bezeichnungen ersetzen. Beispielsweise könnten Sie die Standardbezeichnungen durch benutzerdefinierte Bezeichnungen ersetzen, die in den Trainingsdaten verwendet wurden, als ein Modell mittels Prompt-Tuning optimiert wurde.
Zwischen der Beispielbezeichnung und dem Beispieltext wird ein Leerzeichen hinzugefügt.
Eingabe testen: Geben Sie im Bereich Testen die letzte Eingabe für Ihre Eingabeaufforderung ein.
Modus mit freiem Format
Sie fügen Ihre Eingabeaufforderung in Klartext hinzu. Ihr Bedienerführungstext wird genau so an das Modell gesendet, wie Sie es eingegeben haben.
Der Freiformmodus ist eine gute Wahl, wenn Sie strukturierte Eingabe übergeben möchten und wissen, wie die Eingabeaufforderung formatiert werden soll.
Konfigurationsoptionen für Modell und Eingabeaufforderung
Sie müssen angeben, welches Modell angefordert werden soll, und können optional Parameter festlegen, die das generierte Ergebnis steuern.
Auswahlmöglichkeiten für Modell
Im „ Prompt Lab “ können Sie Ihre Eingabe an jedes der von watsonx.ai unterstützten Modelle senden, einschließlich der „ IBM “-Grundmodelle und der über das Modell-Gateway verfügbaren Modelle. Sie können kürzlich verwendete Modelle aus der Dropdown-Liste auswählen. Oder klicken Sie auf „Alle Foundation-Modelle anzeigen“, um alle unterstützten Modelle anzuzeigen, sie nach Aufgaben zu filtern und Informationen zu den Modellen zu lesen.
Wenn Sie ein Basismodell mit dem Tuning Studio abgestimmt und das abgestimmte Modell bereitgestellt haben oder wenn Sie ein benutzerdefiniertes Basismodell bereitgestellt haben, ist das abgestimmte oder benutzerdefinierte Modell auch für die Eingabeaufforderung im Prompt Lab verfügbar.
Modellparameter
Um zu steuern, wie das Modell die Ausgabe als Antwort auf Ihre Eingabeaufforderung generiert, können Sie Decodierungsparameter und Stoppkriterien angeben. Weitere Informationen finden Sie unter Modellparameter für Bedienerführung.
Eingabeaufforderungsvariablen
Um Ihre Eingabeaufforderungen flexibler zu gestalten, können Sie Eingabeaufforderungsvariablen definieren. Eine Eingabeaufforderungsvariable ist ein Platzhalterschlüsselwort, das Sie bei der Erstellung in den statischen Text Ihrer Eingabeaufforderung einschließen und zur Laufzeit dynamisch durch Text ersetzen. Weitere Informationen finden Sie unter Wiederverwendbare Eingabeaufforderungen erstellen.
Vollständigen Eingabeaufforderungstext anzeigen
In den folgenden Situationen möchten Sie vielleicht den vollständigen Prompt-Text einsehen, der an das Modell übermittelt wird:
- Wenn Eingabeaufforderungsvariablen verwendet werden, um aufgelöste Variablenwerte im Kontext anzuzeigen.
- Im Chat-Modus, in dem die empfohlenen Prompt-Formate für verschiedene Modelle automatisch angewendet werden.
- Im strukturierten Modus, in dem Sie Teile der Eingabeaufforderung in separaten Feldern hinzufügen.
Sicherheitsvorkehrungen für KI
Wenn Sie den Umschalter AI guardrails auf Einsetzen, wird die schädliche Sprache automatisch aus dem Text der Eingabeeingabeaufforderung und aus der vom Modell generierten Ausgabe entfernt. Insbesondere wird jeder Satz in der Eingabe oder Ausgabe, der eine schädliche Sprache enthält, durch eine Nachricht ersetzt, die besagt, dass potenziell schädlicher Text entfernt wurde.
Weitere Informationen finden Sie unter Schädlichen Inhalt entfernen.
Eingabeaufforderungscode
Wenn Sie die Eingabeaufforderung programmgesteuert ausführen möchten, können Sie den Eingabeaufforderungscode anzeigen und kopieren oder die Bibliothek Python verwenden.
Code anzeigen
Wenn Sie auf das Symbol „Code anzeigen“ klicken, wird ein Befehl für „ cURL “ angezeigt, den Sie außerhalb von „ Prompt Lab “ aufrufen können, um die aktuelle Eingabeaufforderung und die Parameter an das ausgewählte Modell zu übermitteln und eine generierte Antwort zu erhalten.
Programmatische Alternative zum Prompt Lab
Die grafische Benutzeroberfläche Prompt Lab eignet sich hervorragend, um mit Ihren Prompts zu experimentieren und zu iterieren. Sie können die Basismodelle in watsonx.ai jedoch auch programmatisch abfragen, indem Sie die Python oder die REST-API verwenden. Weitere Informationen finden Sie unter Generative AI-Lösungen kodieren.
Verfügbare Eingabeaufforderungen
In der seitlichen Anzeige können Sie auf Beispieleingabeaufforderungen, Ihren Sitzungsprotokoll und gespeicherte Eingabeaufforderungen zugreifen.
Beispiele
Eine Sammlung von Musterprompts ist im Prompt Lab verfügbar. Die Beispiele veranschaulichen effektiven Eingabeaufforderungstext und Modellparameter für verschiedene Aufgaben, einschließlich Klassifizierung, Extraktion, Inhaltsgenerierung, Beantwortung von Fragen und Zusammenfassung.
Wenn Sie auf ein Beispiel klicken, wird der Eingabeaufforderungstext im Editor geladen, ein geeignetes Modell wird ausgewählt und optimale Parameter werden automatisch konfiguriert.
Die verfügbaren integrierten Beispiele entsprechen den Modellen, die in Ihrem Cluster installiert sind.
Verlauf
Wenn Sie mit unterschiedlichen Eingabeaufforderungstexten, Modellauswahlmöglichkeiten und Parametern experimentieren, werden die Details jedes Mal im Sitzungsprotokoll erfasst, wenn Sie Ihre Eingabeaufforderung übergeben. Klicken Sie zum Laden einer vorherigen Eingabeaufforderung auf den Eintrag im Protokoll und anschließend auf Wiederherstellen.
Gespeichert
Über das Menü Gespeicherte Eingabeaufforderungsvorlagen können Sie alle Eingabeaufforderungen laden, die Sie als Eingabeaufforderungsvorlagenasset im aktuellen Projekt gespeichert haben.
Wenn watsonx.governance bereitgestellt wird und Ihre Eingabeaufforderungsvorlage mindestens eine Eingabeaufforderungsvariable enthält, können Sie die Effektivität von Modellantworten bewerten. Weitere Informationen finden Sie unter Eingabeaufforderungsvorlagen in Projekten auswerten.