Messaggi di salvataggio

La progettazione rapida comporta tentativi ed errori. Tenere traccia della sperimentazione e salvare combinazioni di modelli e prompt che generano l'output desiderato.

Quando si salva il lavoro, è possibile scegliere di salvarlo come diversi tipi di asset. Il salvataggio del lavoro come asset consente di condividere il proprio lavoro con i collaboratori del progetto corrente.

Tabella 1: Tipi di risorse utilizzati per salvare i prompt
Tipo di asset	Quando utilizzare questo tipo di asset	Cosa viene salvato	Come richiamare l'asset
Asset modello di prompt	Quando si trova una combinazione di testo statico di prompt, variabili di prompt e parametri di progettazione di prompt che generano i risultati desiderati da un modello specifico e che desiderano riutilizzarli.	Testo del prompt, modello, parametri di ingegnerizzazione del prompt, variabili del prompt e impostazioni dei limiti di sicurezza dell'IA. Nota: l'output generato dal modello non viene salvato come parte del modello di prompt a meno che il prompt non sia stato creato in modalità chat.	Dalla scheda Modelli prompt salvati
Asset sessione di prompt	Quando vuoi tenere traccia dei passi coinvolti nella tua sperimentazione in modo da sapere cosa hai provato e cosa non hai fatto.	Testo del prompt, modello, parametri di ingegnerizzazione dei prompt, impostazioni dei limiti di sicurezza dell'IA e output del modello per un massimo di 500 prompt inviati durante una sessione di ingegnerizzazione dei prompt.	Dalla scheda Cronologia
Risorsa notebook standard	Quando si desidera lavorare con i modelli in modo programmatico, ma si vuole partire dall'interfaccia Prompt Lab per una migliore esperienza di prompt engineering.	Il testo del prompt, il modello, i parametri di ingegnerizzazione del prompt, nonché i nomi delle variabili del prompt e i relativi valori predefiniti vengono formattati come codice ` Python ` e salvati in un notebook ` Python `.	Dalla pagina Asset del progetto
Blocco Note di distribuzione	Quando il tuo prompt è in grado di svolgere funzioni avanzate, come cercare nei documenti di riferimento le risposte alle domande poste in una chat, e desideri implementare tale funzione come servizio di intelligenza artificiale.	Un servizio di intelligenza artificiale implementabile, accessibile tramite API REST. Nota: è possibile salvare il proprio lavoro come notebook di distribuzione solo se si seleziona un indice vettoriale e si utilizza un modello di chat.	Dalla pagina Asset del progetto

Ciascuno di questi tipi di asset è disponibile dalla pagina Asset del progetto. I collaboratori del progetto con il ruolo di Amministratore o Redattore possono aprire e modificare le risorse. I modelli di prompt e le risorse delle sessioni di prompt vengono bloccati automaticamente, ma è possibile sbloccarli cliccando sull'icona del Icona Blocca lucchetto.

Un redattore o un amministratore può utilizzare i modelli di prompt bloccati per generare inferenze. Solo il proprietario del blocco può utilizzare un asset della sessione di prompt bloccato per generare inferenze. Per ulteriori dettagli, consultare la sezione "Gestione delle risorse nei progetti".

Salvataggio del lavoro di ingegneria rapida

Per salvare il lavoro di progettazione del prompt, completare la seguente procedura:

Nella barra degli strumenti dell'editor di prompt, fare clic sull'icona Salva lavoro, quindi fare clic su Salva con nome.
Scegliere un tipo di asset.

Se si sceglie di creare un notebook di distribuzione, è necessario associare il prompt a uno spazio di distribuzione. Per ulteriori informazioni, vedere Spazi di distribuzione.

È possibile sfogliare i primi 100 spazi di distribuzione.
Denominare l'asset e, facoltativamente, aggiungere una descrizione.
SoloWatsonx.governance : scegliere il tipo di attività che meglio si adatta al proprio obiettivo.
Se si salva la richiesta solo come un asset del notebook: selezionare Visualizza nel progetto dopo il salvataggio.
Fare clic su Salva.

Utilizzo delle richieste salvate in un notebook

Quando si salva il lavoro come un asset del notebook, viene creato un notebook Python .

Per utilizzare una risorsa notebook pronta all'uso, segui la procedura relativa al tipo di notebook in uso.

Notebook standard

Aprire l'asset del notebook dalla pagina Asset del progetto.
Fai clic sull'icona Modifica per eseguire il notebook in modo da poter esaminare il codice passo dopo passo.

Il notebook contiene codice eseguibile che gestisce i seguenti passi:
- Si autentica con il servizio.
- Definisce una classe Python .
- Definisce il testo di input per il modello e dichiara le eventuali variabili di prompt. È possibile modificare il testo del prompt statico e assegnare valori alle variabili del prompt.
- Utilizza la classe definita per richiamare l'API di deduzione watsonx.ai e passare il tuo input al modello di base.
- Mostra l'output generato dal modello di base.
Nota: per i comandi relativi ai modelli ottimizzati per l'inferenza memorizzati nel progetto, sostituire l'ID spazio con l'ID progetto.
Utilizzare il notebook così com' è o modificarlo per soddisfare le esigenze del proprio caso d'uso.

Il codice Python generato utilizzando Prompt Lab viene eseguito correttamente. È necessario verificare e convalidare le modifiche apportate al codice.

Blocco Note di distribuzione

Aprire l'asset del notebook dalla pagina Asset del progetto.
Fai clic sull'icona Modifica per eseguire il notebook in modo da poter esaminare il codice passo dopo passo.

Il notebook contiene codice eseguibile che gestisce i seguenti passi:
- Si autentica con il servizio.
- Si collega allo spazio di destinazione e promuove l'indice vettoriale.
- Definisce il servizio di intelligenza artificiale da implementare. Ciò comprende il codice necessario per inizializzare l'indice vettoriale, eseguire query sull'indice vettoriale, formattare i dati in ingresso per il modello ed eseguire le inferenze.
- Esegue il test del servizio di intelligenza artificiale in locale.
- Distribuisce il servizio di intelligenza artificiale nello spazio di destinazione.
- Verifica il servizio di IA implementato.
Utilizzare il notebook così com' è o modificarlo per soddisfare le esigenze del proprio caso d'uso.

Il codice Python generato utilizzando Prompt Lab viene eseguito correttamente. È necessario verificare e convalidare le modifiche apportate al codice.
Il servizio di intelligenza artificiale implementato dal notebook può essere utilizzato tramite un'API REST. Di seguito è riportato un esempio di richiesta cURL per richiamare la tua distribuzione:
```
curl --location '${PUBLIC_ENDPOINT}' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer ${IAM_TOKEN}' \
--data '{ \
  "messages": [${MESSAGES}]
}'
```
Dove
- PUBLIC_ENDPOINT è l'endpoint pubblico della tua distribuzione. Vedi la sezione "Creazione di distribuzioni online".
- IAM_TOKEN è il token di autenticazione necessario per accedere ai servizi di IBM Cloud. Per l'accesso programmatico, consultare la sezione "Credenziali". Il token di accesso che utilizzi deve essere associato allo stesso account del progetto a cui fa riferimento il notebook.
- MESSAGES è un array contenente i messaggi della cronologia della chat con il seguente schema:
```
{
   "role": type, // "user" or "assistant"
   "content": content // The text content of the message
}
```

Per ulteriori informazioni su come distribuire e utilizzare i servizi di intelligenza artificiale, consultare la sezione "Distribuzione dei servizi di intelligenza artificiale con gli strumenti ".

Utilizzo dei modelli di prompt salvati

Per continuare a lavorare con un prompt salvato, aprirlo dalla scheda Modelli di prompt salvati del sito Prompt Lab.

Quando si apre un modello di prompt salvato, Salvataggio automatico è attivo, il che significa che tutte le modifiche apportate al prompt si rifletteranno nell'asset del modello di prompt salvato. Se si desidera che il modello di prompt salvato rimanga invariato, fare clic su Nuovo prompt per avviare un nuovo prompt.

Non è possibile modificare le modalità di modifica da un modello di prompt salvato.

A differenza di altre modalità di modifica, un modello di prompt salvato in modalità chat memorizza anche l'output del modello. Non è possibile passare a una modalità diversa da un modello di prompt salvato in modalità conversazione. I prompt salvati come modelli possono includere solo documenti di riferimento con una dimensione totale massima di 5 MB.

Una risorsa modello di prompt priva di un indice vettoriale associato viene distribuita direttamente senza creare un servizio di IA.

Quando viene eseguito il provisioning di watsonx.governance , se il modello di prompt include almeno una variabile di prompt, è possibile valutare l'efficacia delle risposte del modello.

Per ulteriori informazioni sulle variabili di prompt, consultare Creazione di prompt riutilizzabili.
Per ulteriori informazioni sulla valutazione delle risposte del modello, consultare Valutazione dei modelli di prompt nei progetti.

Gestione delle sessioni di prompt salvate

Per continuare a lavorare con una sessione di prompt salvata, aprirla dalla scheda Cronologia di Prompt Lab.

Per esaminare gli inoltri di prompt precedenti, è possibile fare clic su una voce di prompt dalla cronologia per aprirla nell'editor prompt. Se si preferiscono i risultati del prompt precedente, è possibile reimpostarli come prompt corrente facendo clic su Ripristina. Quando si ripristina una richiesta precedente, la sessione di richiesta corrente viene sostituita dalla versione precedente della sessione di richiesta.