Speichermeldungen

Die Entwicklung von Eingabeaufforderungen beinhaltet Tests und Fehler. Verfolgen Sie Ihre Experimente und speichern Sie Modell-und Eingabeaufforderungskombinationen, die die gewünschte Ausgabe generieren.

Wenn Sie Ihre Arbeit speichern, können Sie sie als unterschiedliche Assettypen speichern. Wenn Sie Ihre Arbeit als Asset speichern, können Sie Ihre Arbeit mit Mitarbeitern im aktuellen Projekt gemeinsam nutzen.

Tabelle 1: Asset-Typen zum Speichern von Eingabeaufforderungen
Assettyp	Wann dieser Assettyp verwendet wird	Was wird gespeichert?	Vorgehensweise zum Abrufen der Anlage
Anlage für Eingabeaufforderungsvorlage	Wenn Sie eine Kombination aus statischem Eingabeaufforderungstext, Eingabeaufforderungsvariablen und Eingabeaufforderungsentwicklungsparametern finden, die die gewünschten Ergebnisse aus einem bestimmten Modell generieren und wiederverwenden möchten.	Prompt-Text, Modell, Parameter für das Prompt-Engineering, Prompt-Variablen und Einstellungen für KI-Sicherheitsvorkehrungen. Hinweis: Die vom Modell generierte Ausgabe wird nur dann als Teil der Eingabeaufforderungsvorlage gespeichert, wenn die Eingabeaufforderung im Chatmodus erstellt wurde.	Über die Registerkarte Gespeicherte Eingabeaufforderungsvorlagen
Eingabeaufforderungssitzungsasset	Wenn Sie die Schritte im Zusammenhang mit Ihren Experimenten verfolgen möchten, damit Sie wissen, was Sie ausprobiert haben und was Sie nicht.	Prompt-Text, Modell, Parameter für das Prompt-Engineering, Einstellungen für KI-Sicherheitsvorkehrungen und Modellausgabe für bis zu 500 Prompts, die während einer Prompt-Engineering-Sitzung übermittelt werden.	Über die Registerkarte Verlauf
Standard-Notebook-Ausstattung	Wenn Sie mit Modellen programmgesteuert arbeiten möchten, aber von der Schnittstelle Prompt Lab ausgehen möchten, um eine bessere Eingabeaufforderung zu erhalten.	Der Prompt-Text, das Modell, die Parameter für das Prompt-Engineering sowie die Namen und Standardwerte der Prompt-Variablen werden als „ Python “-Code formatiert und als „ Python “-Notebook gespeichert.	Auf der Seite Assets des Projekts
Einsatz-Notebook	Wenn Ihr Chatbot komplexe Funktionen ausführen kann, wie beispielsweise das Durchsuchen von Referenzdokumenten nach Antworten auf Fragen aus einem Chat, und Sie diese Funktion als KI-Dienst bereitstellen möchten.	Ein bereitstellbarer KI-Dienst, der über REST-APIs genutzt werden kann. Hinweis: Sie können Ihre Arbeit nur dann als Deployment-Notebook speichern, wenn Sie einen Vektorindex auswählen und ein Chat-Modell verwenden.	Auf der Seite Assets des Projekts

Jeder dieser Assettypen ist auf der Seite Assets des Projekts verfügbar. Projektmitarbeiter mit der Rolle „Admin“ oder „Editor“ können die Assets öffnen und bearbeiten. Ihre Vorlagen und Ressourcen für die Eingabeaufforderung werden automatisch gesperrt, Sie können sie jedoch entsperren, indem Sie auf das Schloss -Symbol klicken Sperrsymbol .

Ein Redakteur oder Administrator kann gesperrte Vorlagenelemente verwenden, um Schlussfolgerungen zu generieren. Nur der Sperreneigner kann eine gesperrte Eingabeaufforderungssitzung verwenden, um Inferenzen zu generieren. Weitere Informationen finden Sie unter „Verwaltung von Assets in Projekten “.

Speichern Ihrer Prompt-Engineering-Arbeiten

Führen Sie die folgenden Schritte aus, um Ihre Entwicklungsarbeit für Eingabeaufforderungen zu speichern:

Klicken Sie in der Kopfzeile des Eingabefeld-Editors auf das Symbol „Arbeit speichern“ und anschließend auf „Speichern unter “.
Wählen Sie einen Assettyp aus.

Wenn Sie ein Bereitstellungs-Notebook erstellen möchten, müssen Sie die Eingabeaufforderung einem Bereitstellungsbereich zuordnen. Weitere Informationen finden Sie unter Bereitstellungsbereiche.

Sie können durch die Top 100 der Einsatzorte blättern.
Benennen Sie das Asset und fügen Sie optional eine Beschreibung hinzu.
NurWatsonx.governance : Wählen Sie den Tasktyp aus, der Ihrem Ziel am besten entspricht.
Wenn Sie die Eingabeaufforderung nur als Notebook-Asset speichern: Wählen Sie Nach dem Speichern im Projekt anzeigenaus.
Klicken Sie auf „Speichern “.

Mit in einem Notebook gespeicherten Eingabeaufforderungen arbeiten

Wenn Sie Ihre Arbeit als Notebook-Asset speichern, wird ein Python -Notebook erstellt.

Um mit einer vorgefertigten Notebook-Vorlage zu arbeiten, befolgen Sie die für Ihren Notebook-Typ geltende Vorgehensweise.

Standard-Notizbuch

Öffnen Sie das Notebook-Asset über die Registerkarte Assets Ihres Projekts.
Klicken Sie auf das Bear beitungssymbol, um das Notizbuch zu starten, damit Sie den Code Schritt für Schritt durchgehen können.

Das Notebook enthält ausführbaren Code, der die folgenden Schritte für Sie verwaltet:
- Authentifizierung beim Service.
- Definiert eine Python -Klasse.
- Definiert den Eingabetext für das Modell und deklariert alle Eingabeaufforderungsvariablen. Sie können den statischen Eingabeaufforderungstext bearbeiten und Eingabeaufforderungsvariablen Werte zuordnen.
- Verwendet die definierte Klasse, um die Inferenzierungs-API watsonx.ai aufzurufen und Ihre Eingabe an das Basismodell zu übergeben.
- Zeigt die vom Basismodell generierte Ausgabe an.
Hinweis: Bei Aufforderungen, die auf im Projekt gespeicherte, für die Inferenz optimierte Modelle abzielen, ersetzen Sie die Speicherplatz-ID durch die Projekt-ID.
Verwenden Sie das Notebook unverändert oder ändern Sie es, um die Anforderungen Ihres Anwendungsfalls zu erfüllen.

Der Python Code, der mit Hilfe von Prompt Lab erzeugt wurde, wird erfolgreich ausgeführt. Sie müssen alle Änderungen testen und validieren, die Sie am Code vornehmen.

Einsatz-Notebook

Öffnen Sie das Notebook-Asset über die Registerkarte Assets Ihres Projekts.
Klicken Sie auf das Bear beitungssymbol, um das Notizbuch zu starten, damit Sie den Code Schritt für Schritt durchgehen können.

Das Notebook enthält ausführbaren Code, der die folgenden Schritte für Sie verwaltet:
- Authentifizierung beim Service.
- Stellt eine Verbindung zum Zielraum her und erweitert den Vektorindex.
- Legt den zu implementierenden KI-Dienst fest. Dazu gehört Code zur Initialisierung des Vektorindexes, zur Abfrage des Vektorindexes, zur Aufbereitung der Eingabedaten für das Modell sowie zur Durchführung von Inferenzberechnungen.
- Testet den KI-Dienst lokal.
- Stellt den KI-Dienst im Zielbereich bereit.
- Testet den bereitgestellten KI-Dienst.
Verwenden Sie das Notebook unverändert oder ändern Sie es, um die Anforderungen Ihres Anwendungsfalls zu erfüllen.

Der Python Code, der mit Hilfe von Prompt Lab erzeugt wurde, wird erfolgreich ausgeführt. Sie müssen alle Änderungen testen und validieren, die Sie am Code vornehmen.
Der vom Notebook bereitgestellte KI-Dienst kann über eine REST-API genutzt werden. Im Folgenden finden Sie ein Beispiel für eine Anfrage an cURL, um Ihre Bereitstellung aufzurufen:
```
curl --location '${PUBLIC_ENDPOINT}' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer ${IAM_TOKEN}' \
--data '{ \
  "messages": [${MESSAGES}]
}'
```
wo
- PUBLIC_ENDPOINT ist der öffentliche Endpunkt Ihrer Bereitstellung. Siehe „Online-Bereitstellungen erstellen “.
- IAM_TOKEN ist das Authentifizierungstoken für den Zugriff auf die Dienste von IBM Cloud. Informationen zum programmgesteuerten Zugriff finden Sie unter „Anmeldedaten“. Das von Ihnen verwendete Zugriffstoken muss demselben Konto zugeordnet sein wie das Projekt, auf das im Notebook verwiesen wird.
- „MESSAGES“ ist ein Array mit den Texteinträgen des Chat-Verlaufs, das folgendem Schema entspricht:
```
{
   "role": type, // "user" or "assistant"
   "content": content // The text content of the message
}
```

Weitere Informationen zur Bereitstellung und Inferenz von KI-Diensten finden Sie unter „Bereitstellung von KI-Diensten mit Tools “.

Mit gespeicherten Eingabeaufforderungsvorlagen arbeiten

Um mit einer gespeicherten Eingabeaufforderung weiterzuarbeiten, öffnen Sie diese auf der Registerkarte " Gespeicherte Eingabeaufforderungsvorlagen " der Website Prompt Lab.

Wenn Sie eine gespeicherte Eingabeaufforderungsvorlage öffnen, ist Automatisch speichern aktiviert. Dies bedeutet, dass alle Änderungen, die Sie an der Eingabeaufforderung vornehmen, im Asset der gespeicherten Eingabeaufforderungsvorlage berücksichtigt werden. Wenn die von Ihnen gespeicherte Eingabeaufforderungsvorlage unverändert bleiben soll, klicken Sie auf Neue Eingabeaufforderung , um eine neue Eingabeaufforderung zu starten.

Sie können die Bearbeitungsmodi einer gespeicherten Eingabeaufforderungsvorlage nicht ändern.

Im Gegensatz zu anderen Bearbeitungsmodi speichert eine Eingabeaufforderungsvorlage, die im Chatmodus gespeichert wird, auch die Modellausgabe. Sie können nicht von einer Eingabeaufforderungsvorlage, die im Chatmodus gespeichert wurde, in einen anderen Modus wechseln. Prompts, die Sie als Prompt-Vorlagen speichern, dürfen nur Begleitdokumente mit einer Gesamtgröße von maximal 5 MB enthalten.

Eine Prompt-Vorlage ohne zugehörigen Vektorindex wird direkt bereitgestellt, ohne dass ein KI-Dienst erstellt wird.

Wenn watsonx.governance bereitgestellt wird und Ihre Eingabeaufforderungsvorlage mindestens eine Eingabeaufforderungsvariable enthält, können Sie die Effektivität von Modellantworten bewerten.

Weitere Informationen zu Eingabeaufforderungsvariablen finden Sie unter Wiederverwendbare Eingabeaufforderungen erstellen.
Weitere Informationen zur Auswertung von Modellantworten finden Sie unter Eingabeaufforderungsvorlagen in Projekten auswerten.

Mit gespeicherten Eingabeaufforderungssitzungen arbeiten

Um mit einer gespeicherten Eingabeaufforderungssitzung weiterzuarbeiten, öffnen Sie diese auf der Registerkarte " Historie" der Website Prompt Lab.

Zum Überprüfen vorheriger Eingabeaufforderungsübergaben können Sie auf einen Eingabeaufforderungseintrag im Protokoll klicken, um ihn im Eingabeaufforderungseditor zu öffnen. Wenn Sie die Ergebnisse der vorherigen Eingabeaufforderung bevorzugen, können Sie sie als aktuelle Eingabeaufforderung zurücksetzen, indem Sie auf Wiederherstellenklicken. Wenn Sie eine frühere Eingabeaufforderung zurückschreiben, wird Ihre aktuelle Eingabeaufforderungssitzung durch die frühere Version der Eingabeaufforderungssitzung ersetzt.