Metodi di distribuzione del modello di fondazione in watsonx.ai
È possibile scegliere tra una raccolta di modelli di terze parti e della fondazione " IBM " per l'inferenza in IBM watsonx.ai. Trova i modelli di base che meglio si adattano alle esigenze della tua applicazione di IA generativa e al tuo budget.
Puoi ospitare modelli di fondazione in watsonx.ai in vari modi.
In base a come i modelli di fondazione sono ospitati in watsonx.ai, sono classificati come:
- Fornito modelli di fondazione
- Modelli di fondazione personalizzati
- Modelli di fondazione perfezionati
Confronto dei metodi di distribuzione
Per aiutarti a scegliere il metodo di distribuzione più adatto al tuo caso d'uso, consulta la tabella di confronto.
| Tipo di distribuzione | Meccanismo di distribuzione | Politica di dismissione |
|---|---|---|
| Modelli di fondazione forniti | Curato e fornito da IBM | Obsoleto secondo il ciclo di vita pubblicato. Vedi Ciclo di vita del modello di fondazione. |
| Modelli di fondazione personalizzati | Curato e distribuito da voi | Non deprecato |
| Modelli di fondazione perfezionati | Messa a punto e implementata da voi | Non deprecato |
Fornito modelli di fondazioni pronti all'uso
Si può scegliere di distribuire i modelli di fondazione in watsonx.ai da una raccolta di modelli di terze parti e IBM curati da IBM. È possibile richiedere questi modelli di fondazione nel sito Prompt Lab o in modo programmatico. Tutti i IBM modelli di fondazione in watsonx.ai sono indennizzati da IBM.
Per informazioni sui requisiti della GPU per i modelli di base supportati, consultare Modelli di base nella IBMSoftware Hub documentazione.
Per iniziare a dedurre un modello di fondazione fornito, completare questi passaggi:
- Aprire il sito Prompt Lab.
- Nel campo Modello, selezionare Visualizza tutti i modelli di fondazione.
- Fare clic su una piastrella del modello di fondazione, quindi fare clic su Seleziona modello.
Modelli di fondazione personalizzati
Oltre a lavorare con i modelli di fondazioni curati da IBM, puoi caricare e distribuire i tuoi modelli di fondazioni. Dopo che i modelli personalizzati sono stati distribuiti e registrati con watsonx.ai, è possibile creare prompt che deducano i modelli personalizzati dall' Prompt Lab o dall' watsonx.ai.
Per saperne di più su come caricare, registrare e distribuire un modello di fondazione personalizzato, vedere Distribuire un modello di fondazione personalizzato.
Modelli di fondazione perfezionati
Un sottoinsieme dei modelli di fondazione forniti, che è possibile personalizzare per le proprie esigenze, mettendo a punto il modello dall'API watsonx.ai o da Tuning Studio. Quando si perfeziona un modello di base, si genera e si distribuisce un nuovo modello.
È possibile personalizzare i vari modelli di fondazione ottimizzandoli in watsonx.ai. Per ulteriori dettagli, consultare la sezione Scelta di un modello di base da ottimizzare.
Ulteriori informazioni
Per l'elenco completo dei modelli con cui è possibile lavorare in watsonx.ai, vedere Modelli di fondazioni supportati.