Quando è necessario specificare e verificare l'analisi o l'output di contenuti contestuali, è possibile creare prompt per generare output utilizzando modelli linguistici di grandi dimensioni (LLM) nell'editor di prompt. È anche possibile fornire input e output attesi come esempi per migliorare le prestazioni della generazione con un prompt di pochi colpi.
Informazioni su questa attività
Nell'editor prompt, è possibile creare un prompt e generare un output. Viene fornito un prompt predefinito. È necessario modificarlo se si desidera creare un nuovo prompt.
Procedura
- Dal menu a discesa Modello , selezionare un modello.
Importante: il modello
granite-guardian-3-8b è mirato alle definizioni di rischio di danno generale, pregiudizio sociale, blasfemia, violenza, contenuto sessuale, comportamento non etico, coinvolgimento nel danno, evasività o jailbreak. Qualsiasi deviazione da questa destinazione d'uso può portare a risultati imprevisti, potenzialmente non sicuri o dannosi.
Se si seleziona questo modello, è necessario inserire informazioni specifiche nella richiesta. Per ulteriori informazioni, vedere il punto 3 qui sotto.
- Facoltativo: Immettere un'istruzione imperativa nel riquadro Contesto .
- Facoltativo: immettere il testo a cui si desidera che il modello risponda nel riquadro Input prompt .
Se è stato selezionato il modello
granite-guardian-3-8b , è necessario inserire la seguente richiesta:
You are a safety agent trying to help determine whether the user message is harmful according to the safety risk definition below.
<start_of_turn>
User Message: {input}
<end_of_turn>
Our safety risk definition is defined below:
<start_of_risk_definition>
[INSERT YOUR RISK DEFINITION]
<end_of_risk_definition>
Is the user message harmful based on the risk definition? Your answer must be either 'Yes' or 'No'.
I seguenti esempi mostrano definizioni di rischio che funzionano bene con il modello granite-guardian-3-8b :
- Danno
The 'User' message is harmful by common-sense.- Pregiudizio sociale
The 'User' message contains systemic prejudice against groups based on shared identity or
characteristics, often stemming from stereotypes or cultural influences. This can manifest in
thoughts, attitudes, or behaviors that unfairly favor or disfavor certain groups over
others.- Profanazione
The 'User' message contains the use of language considered offensive or socially
unacceptable in a given context. This primarily refers to curse words, swear words, and crude
expressions, excluding slurs or derogatory terms targeting specific groups.- Violenza
The 'User' message contains content promoting or describing physical harm to individuals
or groups. This includes depictions of assault, self-harm, or creation of a hostile environment
through threats or intimidation.- Contenuto sessuale
The 'User' message contains material explicitly related to sexual activities, anatomy, or
desires. This ranges from discussions of sexual practices to graphic depictions of sexual acts,
excluding content related to general relationships or non-sexual intimacy.- Comportamento non etico
The 'User' message contains actions that violate moral or professional standards,
focusing on exploitation for personal gain or disregard for others' well-being. This category
excludes physical violence or explicit bias, instead covering activities like fraud, theft, or abuse
of power.- Jailbreak
The 'User' message contains the deliberate circumvention of AI systems' built-in
safeguards or ethical guidelines. This involves crafting specific prompts or scenarios designed to
manipulate the AI into generating restricted or inappropriate content.
È anche possibile scrivere definizioni di rischio personalizzate, ma queste richiedono ulteriori verifiche.
- Facoltativo: Aggiungi variabili.
Le variabili sono utilizzate come input nei modelli generativi di IA. Almeno una variabile deve essere definita anche se non è utilizzata.
Nota: viene fornita una variabile predefinita che non può essere eliminata anche se non viene utilizzata.
- Fare clic su Nuova variabile nel riquadro Variabili .
- Denominare la variabile e immettere il valore predefinito. Il nome e il valore delle variabili devono essere stringhe.
- Inserire la variabile nel prompt nel riquadro Input prompt o Contesto .
Il nome della variabile deve essere racchiuso tra doppie parentesi graffe, ad esempio: {{topic}}.
È possibile inserire automaticamente le variabili facendo clic sull'icona Aggiungi variabile 
nel riquadro e selezionando una variabile dall'elenco, oppure premendo Ctrl+Spazio nel riquadro e selezionando una variabile.
- Facoltativo: Impostare i token nel riquadro Parametri per limitare la lunghezza degli output generati.
Un token è una raccolta di caratteri che ha un significato semantico per un modello. Le parole nel testo del prompt vengono convertite in token prima che vengano elaborate da LLM. Il risultato non elaborato di un modello è anche token. I token di output vengono riconvertiti in parole da visualizzare come risultato.
- I valori minimo e massimo sono impostati su 1 e 50 per impostazione predefinita.
- Il valore minimo non può essere 0.
- Il limite del valore massimo varia in base al modello selezionato.
- Fare clic su Genera.
È anche possibile fare clic sull'icona prompt grezzo 
per visualizzare i prompt grezzi. In Visualizza prompt grezzo, è possibile vedere il contesto, l'input del prompt e gli esempi di addestramento utilizzati per ottenere l'output generato.
È anche possibile fare clic sull'icona Salva come esempio 
per visualizzare l'input richiesto e l'output generato come esempio di addestramento.
- Regolare il prompt per ottenere risultati migliori, se necessario.
- Facoltativo: è anche possibile aggiungere esempi di addestramento.
È possibile aggiungere esempi al prompt per migliorare la precisione, la qualità e la stabilità dell'output generato con il prompt.
Specificare una o più coppie di input di esempio e output corrispondente.
In generale, più coppie di input/output si forniscono, migliori sono i risultati. Tuttavia, se hai troppi esempi, potrebbero prendere lo spazio token nel token di input massimo consentito dal modello e il token massimo complessivo consentito sia per i token di input che per quelli generati.
- Nel riquadro Esempio di addestramento , fare clic su Nuovo esempio.
- Immettere l'input e l'output previsto
- Fare clic su Genera per verificare il prompt. Verificare se l'output generato è stato migliorato.
Operazioni successive
Una volta terminata la creazione del modello AI generativo, è possibile utilizzarlo in altri modelli nel proprio servizio di decisione: