Quando ottimizzare un modello di fondazione
Scopri quando l'ottimizzazione di un modello può aiutarti a utilizzare un modello di base per raggiungere i tuoi obiettivi.
Mettere a punto un modello di fondazione quando si trova un modello di fondazione che soddisfa i propri criteri, ma che deve essere un po' personalizzato per le proprie esigenze.
La messa a punto può aiutare a realizzare i seguenti obiettivi:
- Personalizzare lo stile dell'output del modello di fondazione
- Forse si vuole potenziare un assistente virtuale che aiuta i clienti con le richieste di assistenza. È possibile sintonizzare un modello di fondazione per generare risposte con un tono coerente con il marchio aziendale.
- Introdurre la specializzazione
- La messa a punto può affinare le capacità generali di un modello per compiti specifici. Ad esempio, la messa a punto è stata utilizzata per specializzare i modelli di base Granite per creare modelli derivati per usi di chat e codice.
- Aggiungi conoscenze specifiche del dominio
- È possibile integrare le conoscenze del modello di base con un vocabolario non rappresentato nei dati di preformazione, come ad esempio la terminologia arcana del settore legale o finanziario.
- Incorporare dati proprietari
- La vostra azienda potrebbe disporre di dati proprietari altamente rilevanti per il vostro caso d'uso specifico. Affinando il modello con esempi che incorporano questi dati, è possibile conferire una parte di questa conoscenza al modello senza doverlo addestrare da zero.
- Risolvere i casi limite
- I modelli preaddestrati sono addestrati su modelli comuni. Non conoscono le situazioni specifiche della vostra azienda e quindi non sono mai state trattate in modo specifico durante la formazione preliminare. La messa a punto di un modello su esempi etichettati di tali situazioni è un modo efficace per garantire che i casi limite siano trattati in modo appropriato.
- Creare un modello di base che sia in grado di svolgere molti compiti diversi
- Sebbene sia meglio utilizzare la sintonizzazione fine completa solo per sintonizzare un modello di base per un compito specifico, le tecniche di adattamento di basso livello ( LoRA ) e di adattamento quantizzato di basso livello ( QLoRA ) possono essere utilizzate per personalizzare un modello per compiti multipli. Poiché la messa a punto completa modifica tutti i pesi del modello base, il modello messo a punto potrebbe perdere la competenza in altri compiti generici per i quali era stato addestrato in precedenza a causa di ciò che è noto come "oblio catastrofico ". La dimenticanza catastrofica è un fenomeno in cui la messa a punto completa fa sì che il modello perda le sue conoscenze fondamentali. Con le tecniche dell' LoRA, o dell' QLoRA, i pesi del modello base non vengono modificati durante l'esperimento di messa a punto. Poiché queste tecniche sono più veloci e richiedono meno risorse, è possibile creare più adattatori specifici per attività che possono essere serviti utilizzando lo stesso modello di base per risparmiare sui costi.
Quando non regolare un modello
L'ottimizzazione di un modello non è sempre l'approccio corretto per migliorare l'output di un modello. Ad esempio, la messa a punto di un modello non può aiutarti a fare la seguente cosa:
- Migliorare l'accuratezza delle risposte nell'output del modello
- Se si sta utilizzando un modello di base per il richiamo dei dati in uno scenario di risposta alle domande, l'ottimizzazione migliorerà marginalmente l'accuratezza delle risposte. Per ottenere risposte fattuali, è necessario fornire informazioni fattuali come parte dell'input per il modello. La messa a punto può essere utilizzata per aiutare le risposte fattuali generate a conformarsi a un formato che può essere utilizzato più facilmente da un processo a valle in un flusso di lavoro. Per informazioni sui metodi per la restituzione delle risposte fattuali, consultare Retreival - augmented generation.
- Fai in modo che il modello utilizzi un vocabolario specifico nei suoi risultati in modo coerente.
- I modelli linguistici di grandi dimensioni, addestrati su grandi quantità di dati, formulano un vocabolario basato su quel set iniziale di dati. È possibile introdurre termini significativi nel modello dai dati di addestramento utilizzati per ottimizzare il modello. Tuttavia, il modello potrebbe non utilizzare questi termini preferiti in modo affidabile nei suoi risultati.
- Insegnare a un modello di base a svolgere un compito completamente nuovo
- Sperimentare con il prompt engineering è un primo passo importante perché aiuta a comprendere il tipo di output che un modello di base è in grado di generare e quello che non è in grado di generare. È possibile utilizzare la messa a punto per modificare, personalizzare e modellare l'output che un modello di base è in grado di restituire.