Aggiunta di suggerimenti generativi
È possibile aggiungere e modificare i prompt generativi nei flussi di lavoro agenziali. Un prompt generativo utilizza le capacità dei modelli linguistici di grandi dimensioni (LLM) per compiti che implicano la comprensione del linguaggio naturale, come la generazione di testo o di contenuti strutturati in flussi di lavoro agenziali.
Per aggiungere un prompt generativo a un flusso di lavoro agenziale:
Apri il flusso di lavoro "agentico" nel generatore di flussi di lavoro.
Per aggiungere un prompt generativo, procedi in uno dei seguenti modi:
Fai clic su "Aggiungi elementi del flusso
". Da Nodi di flusso, clicca e trascina Prompt generativo su una linea di collegamento.Fai clic sulla linea di collegamento tra i nodi iniziale e finale, quindi seleziona Aggiungi un'attività di flusso > Prompt generativo.
Gestione delle variabili di input per i prompt
Definire le variabili di input che possono essere aggiunte al prompt Sistema e al prompt Utente per mappare gli input.
Per definire una variabile di input, completare i seguenti passaggi:
Nella finestra di dialogo Richiesta generativa, fare clic su Aggiungi.
Selezionare il tipo di dati per la variabile di input.
Specificare un nome, una descrizione e un valore. Il valore è un valore di prova che viene utilizzato per gli input quando si testa il prompt generativo nel pannello Risposta facendo clic su Genera risposta.
È inoltre possibile modificare ed eliminare le variabili di input esistenti. Le opzioni di modifica e cancellazione appaiono quando si passa il mouse su una variabile di input.
Utilizzo del contesto della sessione di chat come input
Il contesto della sessione di chat fornisce il contesto della chat come input per il prompt. Quando si attiva il contesto della sessione di chat, gli ultimi cinque turni di conversazione della cronologia della chat vengono forniti come input al prompt. Un turno di conversazione si riferisce a un singolo scambio tra un utente e l'agente in una chat.
Per abilitare il contesto della sessione di chat, nella finestra di dialogo Richiesta generativa, impostare l'interruttore Includi cronologia chat come input su on.
Definizione dei suggerimenti
I prompt sono istruzioni fornite al modello LLM per ottenere la risposta o il comportamento atteso.
È possibile definire prompt di sistema e prompt utente. Il prompt dell'utente è orientato alle attività e specifica quali compiti svolgere. Al contrario, il prompt del sistema definisce il contesto, come il tono, la formattazione e il comportamento che guidano la generazione della risposta.
Per definire le richieste, completare i seguenti passaggi:
Nella finestra di dialogo Generative prompt, selezionare l'opzione Definisci prompt.
Nel campo prompt del sistema, fornire una spiegazione su come rispondere alle conversazioni. È possibile specificare i compiti da svolgere, il tono e l'intento, nonché eventuali limitazioni o restrizioni da seguire durante una conversazione. Il prompt del sistema aiuta a garantire un comportamento coerente in tutte le conversazioni. È possibile includere variabili di input nel campo prompt del sistema per mappare gli input.
Ad esempio, un prompt del sistema che definisce il tono e il formato è "Usa un tono amichevole ma professionale". Rivolgetevi al destinatario chiamandolo per nome"
Nel campo Richiesta dell'utente, fornire istruzioni specifiche per il modello LLM. È possibile includere variabili di input nel campo del prompt utente per mappare gli input.
Ad esempio, una richiesta specifica dell'utente è "Generare un'e-mail che dia il benvenuto a una nuova recluta nel team e che venga inviata dal suo manager". Il nome della recluta è {recruit_first_name}. Il nome completo del loro manager è {manager_full_name} "
Se desideri che le parentesi graffe appaiano come testo normale in un prompt di sistema o in un prompt utente, sostituiscile con doppie parentesi graffe. Ad esempio, {{customer_id}} nel prompt viene visualizzato come {customer_id} nell'output e il testo all'interno delle doppie parentesi graffe viene trattato come testo, non come variabile.
Utilizzo delle variabili nel prompt
È possibile utilizzare una variabile di flusso, un ingresso di flusso o l'uscita di un nodo a monte.
Per aggiungere variabili ai campi prompt di sistema e prompt utente :
Posiziona il cursore nel punto in cui desideri inserire una variabile, quindi fai clic sull'icona Variabile
.Selezionare una variabile dall'elenco.
Aggiunta di esempi per migliorare l'output del prompt generativo
È possibile specificare dei prompt di esempio e i loro risultati attesi per migliorare l'output o i risultati di un prompt generativo.
Per aggiungere esempi, completare i seguenti passaggi:
Nella finestra di dialogo del prompt generativo, selezionare l'opzione Aggiungi esempi.
Fare clic su Aggiungi esempi
Nel campo Input prompt, aggiungete un esempio di prompt chiaro e focalizzato sul compito.
Nel campo Output previsto, definire un esempio di output che ci si aspetta come risposta.
Per impostazione predefinita, l'interruttore a levetta Attiva per utilizzare l'esempio è impostato su On. Se si preferisce non utilizzare l'esempio, impostare l'interruttore su off.
È possibile aggiungere un massimo di 10 esempi di allenamento. È anche possibile eliminare gli esempi di allenamento esistenti. L'opzione di cancellazione appare quando si passa il mouse su un esempio di formazione.
Definizione di un oggetto come output del prompt generativo
È possibile cambiare il tipo di output di un prompt generativo in un oggetto.
La risposta generativa al prompt viene migliorata utilizzando esempi di addestramento specificati dall'utente. Quando si modifica la risposta di un prompt generativo a un tipo di oggetto, tutti gli esempi di addestramento esistenti vengono rimossi.
Per cambiare il tipo di uscita in un oggetto, completare i passaggi seguenti:
Nella finestra di dialogo Richiesta generativa, impostare l'interruttore Output come oggetto su on.
Inserisci un nome e una descrizione.
Fare clic su
accanto al nome dell'oggetto nell'albero degli oggetti oppure fare clic su Aggiungi + nella sezione Proprietà oggetto.Selezionare una proprietà dall'elenco.
Inserisci un nome e una descrizione.
Opzionale: selezionare la casella di controllo Elenco di {data type} per memorizzare un elenco di valori nella proprietà dell'oggetto.
Opzionale: attivare l'interruttore Imposta valori predefiniti per impostare le proprietà con un valore predefinito.
Inserisci i valori predefiniti e premi Invio.
Passa dalla visualizzazione semplice alla visualizzazione JSON per aggiornare le proprietà dell'oggetto. Per impostazione predefinita, è selezionata la visualizzazione semplice.
Fare clic su Salva.
Fare clic su Modifica oggetto per aggiornare l'oggetto creato.
L'opzione Imposta valore predefinito non è disponibile per le variabili oggetto.
Per ulteriori informazioni sulla definizione delle proprietà degli oggetti, vedere Tipo di dati oggetto.
Regolazione delle impostazioni di LLM
Per configurare le impostazioni LLM, nella finestra di dialogo Richiesta generativa, selezionare l'opzione Regola impostazioni LLM. È possibile configurare le seguenti impostazioni LLM:
Gettoni minimi e massimi in una risposta.
Interrompere la sequenza per interrompere la generazione di token quando viene generata una particolare sequenza
Soglia creativa per controllare la creatività o la precisione delle risposte. Spostare il cursore per impostare automaticamente la soglia creativa. Per impostare manualmente, selezionare la casella di controllo Imposta manualmente le impostazioni della soglia creativa.
Scegliere un modello e testare il prompt generativo
È possibile selezionare un modello da utilizzare per il prompt generativo dall'elenco Modello della finestra di dialogo prompt generativo. Dopo aver selezionato il modello, è possibile testare il prompt generativo per verificare se la risposta generata corrisponde al risultato atteso.
Per testare il prompt generativo, fare clic su Genera anteprima e rivedere la risposta generata per vedere se corrisponde alle proprie aspettative.
È possibile aggiungere una risposta generata come esempio di addestramento facendo clic sull'icona "Salva come 
esempio di addestramento".
Gestire la gestione degli errori
La gestione degli errori consente di personalizzare il messaggio di errore visualizzato all'utente in caso di errore del prompt generativo. Si può anche configurare facoltativamente il flusso di lavoro agenziale per riprovare a chiamare il prompt generativo se fallisce.
Per definire la gestione degli errori, completare i seguenti passaggi:
Nella finestra di dialogo "Prompt generativo ", fare clic
su accanto a "Gestione degli errori".Nella finestra Gestione errori, modificare il messaggio di errore se necessario.
Se si desidera, si può configurare il prompt generativo in modo che ritenti in caso di errore. Per configurare:
Abilita il tentativo di errore.
Sono supportati i seguenti codici di errore:
408 Timeout della richiesta: Il client ha impiegato troppo tempo; un nuovo tentativo potrebbe avere successo.
409 Conflitto: Spesso usato per i conflitti di versione; riprovare dopo aver risolto il conflitto.
425 Troppo presto: La richiesta è stata inviata troppo presto; riprovare più tardi.
429 Troppe richieste: Throttling; riprovare dopo aver atteso l'intestazione Retry-After.
500 Errore interno del server: Errore generico del server; può essere transitorio.
502 Gateway errato: Problema temporaneo del proxy/server; il tentativo potrebbe avere successo.
503 Servizio non disponibile: Server temporaneamente sovraccarico o fermo per manutenzione.
504 Timeout del gateway: Il server upstream non ha risposto in tempo; un nuovo tentativo potrebbe avere successo.
Inserire il numero massimo di tentativi (tra 1 e 5).
Regolare il tempo di attesa tra i tentativi in millisecondi (tra 1000 e 60000). Il valore predefinito è 1000 ms.
Un flusso di lavoro agenziale definisce un insieme di attività e controlli collegati tra loro, progettati per raggiungere uno scopo o un obiettivo aziendale specifico. Per saperne di più sui flussi di lavoro agenziali.