Modelli di fondazione di terze parti
È possibile scegliere tra una serie di modelli di fondazioni di terze parti su IBM watsonx.ai.
I seguenti modelli sono disponibili per essere distribuiti in watsonx.ai:
- allam-1-13b-instruct
- codestral-2501
- codestral-2508
- devstral-medium-2507
- devstral-medium-2512
- devstral-small-2512
- gpt-oss-20b
- gpt-oss-120b
- llama-4-maverick-17b-128e-instruct-fp8
- llama-3-3-70b-instruct
- llama-3-2-1b-instruct
- llama-3-2-3b-instruct
- llama-3-2-11b-vision-instruct
- llama-3-2-90b-vision-instruct
- llama-guard-3-11b-vision
- llama-3-1-70b-instruct
- llama-3-1-8b
- llama-3-1-70b
- llama-3-1-70b-gptq
- magistral-small-2509
- magistral-medium-2509
- ministral-3-8b-instruct-2512
- ministral-3b-instruct-2512
- ministral-8b-instruct
- ministral-14b-instruct-2512
- mistral-large-2512
- mistral-large-instruct-2411
- mistral-medium-2505
- mistral-medium-2508
- mistral-small-3-2-24b-instruct-2506
- mistral-small-3-1-24b-instruct-2503
- nvidia-nemotron-nano-12b-v2-vl-fp8
- nvidia-nemotron-3-nano-30b-a3b-fp8
- pixtral-12b
- pixtral-large-instruct-2411
- voxtral-small-24b-2507
- voxtral-mini-2507
Per saperne di più sui vari modi in cui questi modelli possono essere distribuiti e per vedere un riepilogo delle informazioni sulla lunghezza della finestra di contesto per i modelli, vedere Modelli di fondazione supportati.
Per informazioni sui requisiti della GPU per i modelli di base supportati, vedere Modelli di base.
Per informazioni dettagliate sui modelli di fondazione IBM, consultare IBM modelli di fondazione.
Come scegliere un modello
Per esaminare i fattori che possono aiutare a scegliere un modello, come le attività e le lingue supportate, vedere Scelta di un modello e benchmark del modello Foundation.
Un modello di base obsoleto viene evidenziato con un'icona di avviso di obsolescenza. 
Un modello di fondazione ritirato è contrassegnato da un'icona di avviso di ritiro. Per ulteriori informazioni sulla deprecazione e il ritiro dei modelli, consultare la sezione "Ciclo di vita dei modelli di base".
Dettagli del modello di fondazione
I modelli di base di watsonx.ai supportano una serie di casi d'uso sia per i linguaggi naturali che per i linguaggi di programmazione. Per vedere i tipi di compiti che questi modelli possono svolgere, rivedete e provate i suggerimenti di esempio.
allam-1-13b-instruct
Questo modello di base è stato deprecato nella versione 2.4.0. Vedere il ciclo di vita del modello Foundation.
Il modello di base " allam‑1‑13b‑instruct " è un modello linguistico di grandi dimensioni bilingue (arabo e inglese) fornito dal Centro Nazionale per l'Intelligenza Artificiale. Il modello è sostenuto dall'Autorità saudita per i dati e l'intelligenza artificiale ed è stato ottimizzato per supportare attività di conversazione. La serie " ALLaM " è una raccolta di potenti modelli linguistici progettati per far progredire la tecnologia linguistica araba. Questi modelli vengono inizializzati con i pesi di Llama-2 e sottoposti ad addestramento sia in lingua araba che in lingua inglese.
- Utilizzo
- Supporta Q&A, riassunto, classificazione, generazione, estrazione e traduzione in arabo.
- Dimensione
- 13 miliardi di parametri
- Provate
- Sperimentare con i campioni:
- Limiti dei gettoni
- Lunghezza della finestra contestuale (ingresso + uscita): 4,096
- Lingue naturali supportate
- Arabo (arabo moderno standard) e inglese
- Informazioni sulla messa a punto delle istruzioni
- allam-1-13b-instruct si basa sul modello " Allam-13b-base ", un modello di base preaddestrato su un totale di 3 trilioni di token in inglese e arabo, compresi i token presenti al momento della sua inizializzazione. Il dataset arabo contiene 500 miliardi di token dopo la pulizia e la deduplicazione. I dati aggiuntivi sono raccolti da collezioni open source e da web crawls. Il modello di base allam-1-13b-instruct è stato messo a punto con un set curato di 4 milioni di coppie di domande e risposte in arabo e 6 milioni in inglese.
- Modello di architettura
- Solo decoder
- Licenza
- Licenza comunitariaLlama 2 e licenzaALLaM
codestral-2508
Il modello di fondazione dell' codestral-2508 è un modello di codifica all'avanguardia sviluppato da Mistral AI. Il modello si basa sul modello originale " codestral-22b " e presenta un'architettura più efficiente e un tokenizzatore migliorato. Il modello " codestral-2501 " esegue la generazione e il completamento del codice circa due volte più velocemente del modello originale.
- Utilizzo
L' codestral-2508 è ottimizzato per scenari di utilizzo ad alta frequenza e bassa latenza e supporta operazioni quali il fill-in-the-middle (FIM), la correzione del codice e la generazione di casi di test.
- Dimensione
22 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra di contesto (input + output): 256.000 Nota:
- Il numero massimo di nuovi token, ovvero i token generati dal modello di base per ogni richiesta, è limitato a 8.192.
- Lingue naturali supportate
Inglese
- Informazioni sulla messa a punto delle istruzioni
Il modello " codestral-2508 " è in grado di gestire oltre 80 linguaggi di programmazione, tra cui Python, Java, C, C++, JavaScript, e Bash. Il modello funziona bene anche con linguaggi più specializzati come Swift e l' Fortran.
- Modello di architettura
decodificatore
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Post sul blog per Codestral 25.08
codestral-2501
Il modello di fondazione dell' codestral-2501, sviluppato dall' Mistral AI, è un modello di codifica all'avanguardia. Il modello si basa sul modello originale dell' codestral-22b, ma ha un'architettura più efficiente e un tokenizer migliorato. Il modello " codestral-2501 " esegue la generazione e il completamento del codice circa due volte più velocemente del modello originale.
Questo modello di base è stato deprecato nella versione 2.4.0. Vedere il ciclo di vita del modello Foundation.
- Utilizzo
L' codestral-2501 è ottimizzato per scenari di utilizzo ad alta frequenza e bassa latenza e supporta operazioni quali il fill-in-the-middle (FIM), la correzione del codice e la generazione di casi di test.
- Dimensione
22 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra di contesto (input + output): 256.000 Nota:
- Il numero massimo di nuovi token, ovvero i token generati dal modello di base per ogni richiesta, è limitato a 8.192.
- Lingue naturali supportate
Inglese
- Informazioni sulla messa a punto delle istruzioni
Il modello " codestral-2501 " è in grado di gestire oltre 80 linguaggi di programmazione, inclusi linguaggi popolari come " Python ", Java, C, C++, " JavaScript, " e Bash. Il modello funziona bene anche con linguaggi più specializzati come Swift e l' Fortran.
- Modello di architettura
decodificatore
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Leggete le seguenti risorse:
devstral-medium-2507
Il modello di base " devstral-medium-2507 " è un modello ad alte prestazioni per la generazione di codice e il ragionamento agente, sviluppato congiuntamente da Mistral AI e All Hands AI. Il modello è progettato per la generalizzazione tra stili di prompt e utilizzo di strumenti in agenti di codice e framework.
- Utilizzo
Ideale per la generalizzazione tra stili di prompt e utilizzo di strumenti in agenti di codice e framework.
- Dimensione
48 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 128,000
- Lingue naturali supportate
Inglese
- Informazioni sulla messa a punto delle istruzioni
Il modello di base " devstral-medium-2507 " è una versione ottimizzata del modello Mistral Medium 3, con miglioramenti relativi al comportamento autonomo e all'esecuzione di compiti strutturati.
- Modello di architettura
decodificatore
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Post sul blog per Devstral
devstral-medium-2512
Il modello di base " devstral-medium-2512 " è un modello di codifica open source all'avanguardia appartenente alla famiglia di modelli Devstral 2, sviluppato da Mistral AI. Il modello è stato progettato per gli sviluppatori e consente di esplorare i codici sorgente e modificare più file contemporaneamente, mantenendo il contesto a livello di architettura.
- Utilizzo
Ideale per attività di chat, di tipo agentico e basate su istruzioni in contesti di programmazione quali gli assistenti di codice basati sull'intelligenza artificiale.
Limitazione:Il
devstral-medium-2512modello non supporta la chat con immagini.- Dimensione
123 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra di contesto (input + output): 256.000
- Linguaggi di programmazione supportati
Diversi linguaggi di programmazione. Il modello può essere ottimizzato per dare priorità a lingue specifiche oppure per gestire codici di grandi dimensioni.
- Modello di architettura
decodificatore
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Post sul blog per Devstral 2
devstral-small-2512
Il modello di base " devstral-small-2512 " è un modello di codifica open source all'avanguardia appartenente alla famiglia di modelli Devstral 2 sviluppata da Mistral AI. Il modello è pensato per gli sviluppatori e consente di esplorare i codici sorgente e apportare modifiche su più file. Il modello è una versione più compatta del modello devstral-medium-2512 e può essere facilmente implementato in locale.
Le dimensioni ridotte del modello garantiscono un'inferenza più rapida, cicli di feedback rapidi e una facile personalizzazione grazie a un runtime sicuro integrato nel dispositivo. Il modello supporta anche input di immagini ed è in grado di alimentare agenti multimodali.
- Utilizzo
- Ideale per attività di chat, di tipo agentico e basate su istruzioni in contesti di programmazione quali gli assistenti di codice basati sull'intelligenza artificiale.
- Dimensione
- 24 miliardi di parametri
- Provate
- Esempi
- Limiti dei gettoni
- Lunghezza della finestra di contesto (input + output): 256.000
- Linguaggi di programmazione supportati
- Diversi linguaggi di programmazione. Il modello può essere ottimizzato per dare priorità a lingue specifiche oppure per gestire codici di grandi dimensioni.
- Modello di architettura
- decodificatore
- Licenza
- licenzaApache 2.0
- Ulteriori informazioni
- Post sul blog per Devstral 2
modelli gpt-oss
I modelli di base gpt-oss, gpt-oss-20b e gpt-oss-120b, sono modelli open-weight OpenAI’s progettati per un ragionamento potente, compiti agentici e vari casi d'uso degli sviluppatori. I modelli sono progettati per la produzione, l'uso generico e il ragionamento di alto livello e possono essere ottimizzati per vari casi d'uso specifici.
È possibile impostare il livello di spiegazione nei messaggi di sistema in base alle proprie esigenze, scegliendo tra tre livelli:
- Basso : risposte rapide per dialoghi generici.
- Medio : Velocità e dettagli equilibrati.
- Alto : analisi approfondita e dettagliata.
- Utilizzo
- Supporta domande e risposte, sintesi, classificazione, generazione, estrazione, traduzione, chiamata di funzioni, generazione e conversione di codice.
- Dimensione
- 20 miliardi di parametri
- 120 miliardi di parametri
- 20 miliardi di parametri
- Limiti dei gettoni
- Lunghezza della finestra di contesto (input + output):
- gpt-oss-20b: 131.072
- gpt-oss-120b: 131.072
- Lingue naturali supportate
- Inglese. Il modello di base " gpt-oss-120b " supporta la comprensione multilingue.
- Informazioni sulla messa a punto delle istruzioni
- Pre-addestrato su un set di dati prevalentemente in lingua inglese e solo testuale, con particolare attenzione alle discipline STEM, alla programmazione e alla cultura generale.
- Modello di architettura
- decodificatore
- Licenza
- licenzaApache 2.0
- Ulteriori informazioni
- Leggete le seguenti risorse:
Llama 4 Modelli di costruzione
La collezione Llama 4 di modelli di fondazione forniti da Meta. Il modello " llama-4-maverick-17b-128e-instruct-fp8 " è un modello multimodale che utilizza un'architettura "mixture-of-experts" ( MoE ) per garantire prestazioni ottimizzate e all'avanguardia nella comprensione di testi e immagini. I modelli quantizzati llama-4-maverick-17b-128e-instruct-int4 e llama-4-scout-17b-16e-instruct-int4 sono modelli quantizzati dei modelli di base.
Il modello Llama 4 Maverick è un modello multimodale a 17 miliardi di parametri attivi con 128 esperti. Il modello Llama 4 Scout è un modello multimodale a 17 miliardi di parametri attivi con 16 esperti.
- Utilizzo
Genera dialoghi multilingue come un chatbot, utilizza un formato di prompt specifico per il modello, ottimizzato per il riconoscimento visivo, il ragionamento sulle immagini, le didascalie e la risposta a domande generali su un'immagine.
- Dimensione
17 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra di contesto (input + output):
- llama-4-maverick-17b-128e-instruct-fp8 solo: 131.072
- llama-4-maverick-17b-128e-instruct-int4: 131.072
- llama-4-scout-17b-16e-instruct-int4: 131.072
Il numero massimo di nuovi token, ovvero i token generati dai modelli della fondazione per ogni richiesta, è limitato a 8.192.
- Lingue naturali supportate
Arabo, inglese, francese, tedesco, hindi, indonesiano, italiano, portoghese, spagnolo, tagalog, tailandese e vietnamita.
- Informazioni sulla messa a punto delle istruzioni
Llama 4 è stato preaddestrato su un corpus più ampio di 200 lingue. Il modello Llama 4 Scout è stato preaddestrato su circa 40 trilioni di token, mentre il modello Llama 4 Maverick è stato preaddestrato su circa 22 trilioni di token di dati multimodali provenienti da informazioni disponibili pubblicamente e su licenza da Meta.
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
Llama 3.3 70B Instruct
Il modello linguistico multilingue (LLM) di grandi dimensioni Meta Llama 3.3 è un modello generativo preaddestrato e ottimizzato per l'istruzione (input di testo/output di testo) con 70 miliardi di parametri.
L' llama-3-3-70b-instruct è una revisione del popolare modello base Llama 3.1 70B Instruct. Il modello di base dell' Llama 3.3 è migliore nella codifica, nel ragionamento passo dopo passo e nella chiamata degli strumenti. Nonostante le dimensioni ridotte, le prestazioni del modello Llama 3.3 sono simili a quelle del modello Llama 3.1 405b, il che lo rende un'ottima scelta per gli sviluppatori.
- Utilizzo
Genera output di dialogo multilingue come un chatbot. Utilizza un formato di richiesta specifico per il modello.
- Dimensione
70 miliardi di parametri
- Provate
Sperimentare con i campioni:
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 131,072
- Lingue naturali supportate
Inglese, tedesco, francese, italiano, portoghese, hindi, spagnolo e tailandese
- Informazioni sulla messa a punto delle istruzioni
Llama 3.3 è stato pre-addestrato su 15 trilioni di token di dati provenienti da fonti pubblicamente disponibili. I dati per la messa a punto includono set di istruzioni disponibili pubblicamente e oltre 25 milioni di esempi generati sinteticamente.
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
Llama 3.2 Instruct
La collezione di modelli di fondazione Llama 3.2 di 'Meta è fornita da 'Meta. I modelli llama-3-2-1b-instruct e llama-3-2-3b-instruct sono i modelli più piccoli della serie Llama 3.2 compatibili con i dispositivi mobili. Si tratta di modelli leggeri, di solo testo, che possono essere utilizzati per costruire agenti altamente personalizzati e su dispositivo.
Ad esempio, si può chiedere ai modelli di riassumere gli ultimi dieci messaggi ricevuti o di riassumere gli impegni del mese successivo.
- Utilizzo
Generare output di dialogo come un chatbot. Utilizzare un formato di richiesta specifico per il modello. Le loro dimensioni ridotte e i modesti requisiti di risorse di calcolo e di memoria consentono ai modelli di Llama 3.2 Instruct di essere eseguiti localmente sulla maggior parte dell'hardware, compresi i dispositivi mobili e altri dispositivi edge.
- Dimensioni
- 1 miliardo di parametri
- 3 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita)
- llama-3-2-1b-instruct: 131.072
- llama-3-2-3b-instruct: 131.072
Il numero massimo di nuovi token, ovvero i token generati dai modelli della fondazione per ogni richiesta, è limitato a 8.192.
- Lingue naturali supportate
Inglese, tedesco, francese, italiano, portoghese, hindi, spagnolo e tailandese
- Informazioni sulla messa a punto delle istruzioni
Pre-addestrato su fino a 9 trilioni di token di dati provenienti da fonti pubblicamente disponibili. I logit dei modelli Llama 3.1 8B e 70B sono stati incorporati nella fase di preaddestramento dello sviluppo del modello, dove gli output (logit) di questi modelli più grandi sono stati utilizzati come target a livello di token. Nella fase di post-addestramento, abbiamo allineato il modello preaddestrato utilizzando il fine-tuning supervisionato (SFT), il campionamento per rifiuto (RS) e l'ottimizzazione diretta delle preferenze (DPO).
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
Llama 3.2 Vision Instruct
La Meta raccolta di modelli di base Llama 3.2 è fornita da Meta. I modelli llama-3-2-11b-vision-instruct e llama-3-2-90b-vision-instruct sono costruiti per casi d'uso che prevedono l'inserimento di immagini e l'uscita di testo, come la comprensione a livello di documento, l'interpretazione di grafici e diagrammi e la didascalia di immagini.
- Utilizzo
Genera dialoghi simili a quelli di un chatbot ed è in grado di svolgere attività di visione artificiale quali classificazione, rilevamento e identificazione di oggetti, trascrizione di immagini in testo (compresa la scrittura a mano), domande e risposte contestuali, estrazione ed elaborazione dei dati, confronto di immagini e assistenza visiva personalizzata. Utilizza un formato di richiesta specifico per il modello.
- Dimensioni
- 11 miliardi di parametri
- 90 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita)
- llama-3-2-11b-vision-instruct : 131.072
- llama-3-2-90b-vision-instruct: 131.072
Il numero massimo di nuovi token, ovvero i token generati dai modelli della fondazione per ogni richiesta, è limitato a 8.192. I token conteggiati per un'immagine inviata al modello non sono inclusi nella lunghezza della finestra di contesto.
- Lingue naturali supportate
Inglese, tedesco, francese, italiano, portoghese, hindi, spagnolo e tailandese con input di solo testo. Inglese solo quando un'immagine è inclusa nell'input.
- Informazioni sulla messa a punto delle istruzioni
i modelli Llama 3.2 Vision utilizzano pesi di adattamento per il ragionamento delle immagini che vengono addestrati separatamente dai pesi del modello linguistico principale. Questa separazione preserva la conoscenza generale del modello e lo rende più efficiente sia in fase di preaddestramento sia in fase di esecuzione. I modelli " Llama 3.2 Vision sono stati preaddestrati su 6 miliardi di coppie di immagini e testi, il che ha richiesto risorse di calcolo molto inferiori a quelle necessarie per il preaddestramento del solo modello di fondazione Llama 3.1 70B. I modelli Llama 3.2i funzionano in modo efficiente anche perché possono attingere a maggiori risorse di calcolo per l'elaborazione delle immagini solo quando richiesto dall'input.
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
llama-guard-3-11b-vision
La Meta raccolta di modelli di base Llama 3.2 è fornita da Meta. Il modello llama-guard-3-11b-vision è un'evoluzione multimodale del modello Llama-Guard-3 di solo testo. Il modello può essere utilizzato per classificare come sicuri o non sicuri i contenuti delle immagini e dei testi inseriti dagli utenti (classificazione dei messaggi).
- Utilizzo
Usate il modello per verificare la sicurezza dell'immagine e del testo in un prompt immagine-testo.
- Dimensione
- 11 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 131,072
Il numero massimo di nuovi token, ovvero i token generati dai modelli della fondazione per ogni richiesta, è limitato a 8.192. I token conteggiati per un'immagine inviata al modello non sono inclusi nella lunghezza della finestra di contesto.
- Lingue naturali supportate
Inglese, tedesco, francese, italiano, portoghese, hindi, spagnolo e tailandese con input di solo testo. Inglese solo quando un'immagine è inclusa nell'input.
- Informazioni sulla messa a punto delle istruzioni
Modello pre-addestrato che viene messo a punto per la classificazione della sicurezza dei contenuti. Per ulteriori informazioni sui tipi di contenuti classificati come non sicuri, consultare la scheda modello.
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
magistral-small-2509
Il modello " magistral-small-2509 " si basa su Mistral Small 3.2 ed è un modello di ragionamento compatto ed efficiente.
- Utilizzo
- Adatto per la classificazione, l'estrazione, l'invocazione di funzioni, la generazione, la risposta alle domande, la generazione potenziata dal recupero, la sintesi e la traduzione.
- Dimensione
- 24 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra contestuale (ingresso + uscita): 128,000
- Lingue naturali supportate
- Inglese, francese, tedesco, greco, hindi, indonesiano, italiano, giapponese, coreano, malese, nepalese, polacco, portoghese, rumeno, russo, serbo, spagnolo, turco, ucraino, vietnamita, arabo, bengalese, cinese e farsi.
- Linguaggi di programmazione supportati
- Nessuna
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere regolato.
Architettura del modello: architettura Transformer autoregressiva, solo decodificatore
- Licenza
- licenzaApache 2.0
magistral-medium-2509
Il modello " magistral-medium-2509 " è una versione aggiornata del modello 2507, che presenta miglioramenti nei benchmark relativi alla matematica e alla programmazione, oltre al supporto per l'input di immagini.
- Utilizzo
- Adatto per la classificazione, la codifica, la correzione dei codici, la spiegazione dei codici, la generazione di codici, l'estrazione, la chiamata di funzioni, la risposta alle domande, la generazione potenziata dal recupero, la sintesi e la traduzione.
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra contestuale (ingresso + uscita): 128,000
- Linguaggi di programmazione supportati
- Nessuna
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere regolato.
Architettura del modello: architettura Transformer autoregressiva, solo decodificatore
- Licenza
- licenzaApache 2.0
Ministral 3
L' ministral-14b-instruct-2512 è un modello di base ottimizzato per l'istruzione sviluppato da Mistral AI. La famiglia Ministral 3 è progettata per l'implementazione edge e offre la flessibilità necessaria per eseguire modelli in una vasta gamma di ambienti diversi. Il modello di base " ministral-14b-instruct-2512 " è un modello linguistico potente ed efficiente dotato di funzionalità di visione. Il modello è ideale per casi d'uso legati alla chat e alla formazione.
- Utilizzo
- Adatto per la classificazione, la generazione, l'estrazione, la traduzione, il recupero, la generazione potenziata, la codifica, la chiamata di funzioni e altro ancora.
Dimensione: 14 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra di contesto (input + output):
- 14b: 262.144
- Lingue naturali supportate
- Inglese, francese, spagnolo, tedesco, italiano, portoghese, olandese, cinese, giapponese, coreano, arabo e decine di altre lingue.
- Linguaggi di programmazione supportati
- I modelli di base di Ministral 3 sono stati addestrati su diversi linguaggi di programmazione.
- Informazioni sulla messa a punto delle istruzioni
- I modelli di base della serie Ministral 3 sono stati addestrati utilizzando una grande quantità di dati multilingue e di codice.
- Modello di architettura
- Solo decoder
- Licenza
- licenzaApache 2.0
- Ulteriori informazioni
- Leggete le seguenti risorse:
ministral-3b-instruct-2512
Il modello più piccolo della famiglia Ministral 3, Ministral 3 3B, è un modello linguistico compatto, potente ed efficiente dotato di funzionalità di visione.
- Utilizzo
- Adatto per la classificazione, l'estrazione, l'invocazione di funzioni, la generazione, la risposta alle domande, la generazione potenziata dal recupero, la sintesi e la traduzione. Questo modello è la versione addestrata per le istruzioni presente su FP8, ottimizzata per compiti di istruzione, il che lo rende ideale per casi d'uso basati sulla chat e sulle istruzioni.
- Dimensione
- 3 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra di contesto (input + output): 256.000
- Lingue naturali supportate
- Inglese, francese, spagnolo, tedesco, italiano, portoghese, olandese, cinese, giapponese, coreano, arabo
- Linguaggi di programmazione supportati
- Nessuna
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere regolato.
- Modello di architettura
- Architettura multimodale basata su trasformatori.
voxtral-mini-2507
Voxtral Mini è una versione potenziata di Ministral 3B, che integra funzionalità di input audio all'avanguardia pur mantenendo prestazioni di sintesi vocale ai vertici della categoria.
- Utilizzo
- Adatto per la chiamata di funzioni, la generazione di contenuti, la risposta a domande, la sintesi e la traduzione.
- Dimensione
- 5 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra contestuale (input + output): 32.000
- Lingue naturali supportate
- Inglese, spagnolo, francese, portoghese, hindi, tedesco, olandese, italiano
- Linguaggi di programmazione supportati
- Nessuna
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere regolato.
- Modello di architettura
- Realizzato su una infrastruttur Ministral-3B e con funzionalità aggiuntive di codifica audio
ministral-3-8b-instruct-2512
Modello equilibrato della famiglia Ministral 3, Ministral 3 8B è un modello linguistico compatto, potente ed efficiente, dotato di funzionalità di visione.
- Utilizzo
- Adatto per la classificazione, l'estrazione, l'invocazione di funzioni, la risposta alle domande, la generazione potenziata dal recupero, la sintesi e la traduzione
- Dimensione
- 8 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra di contesto (input + output): 256.000
- Lingue naturali supportate
- Supporta decine di lingue, tra cui inglese, francese, spagnolo, tedesco, italiano, portoghese, olandese, cinese, giapponese, coreano e arabo.
- Linguaggi di programmazione supportati
- Nessuna
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere regolato.
Architettura del modello: Transformer multimodale, autoregressivo, solo decodificatore
- Licenza
- licenzaApache 2.0
ministral-8b-instruct
Questo modello di base è stato deprecato nella versione 2.4.0. Vedere il ciclo di vita del modello Foundation.
Il modello di fondazione ministral-8b-instruct è un modello di perfezionamento delle istruzioni sviluppato da 'Mistral AI. Il modello " ministral-8b-instruct " è ottimizzato per l'elaborazione sul dispositivo, l'intelligenza locale e i casi d'uso edge. Il modello funziona bene per le applicazioni critiche che vengono eseguite su dispositivi edge e che richiedono un'inferenza privacy-first.
- Utilizzo
Adatto per attività di traduzione, chiamata di funzioni e ragionamento, tra cui comprensione e trasformazione di testi, assistenti intelligenti offline, analisi locale e robotica autonoma.
- Dimensione
8 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 128,000
Nota:
- Sebbene il modello supporti una finestra di contesto lunga 128.000, la finestra è limitata a 32.768 per ridurre il tempo necessario al modello per generare una risposta.
- Il numero massimo di nuovi token, ovvero i token generati dal modello di fondazione per ogni richiesta, è limitato a 16.384.
- Lingue naturali supportate
Inglese, francese, tedesco, italiano, spagnolo e decine di altre lingue.
- Linguaggi di programmazione supportati
Il modello ministral-8b-instruct è stato addestrato su diversi linguaggi di programmazione.
- Informazioni sulla messa a punto delle istruzioni
Il modello di base ministral-8b-instruct è stato addestrato su un'ampia percentuale di dati multilingue e di codici.
- Modello di architettura
Solo decoder
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
Leggete le seguenti risorse:
mistral-large-2512
L' mistral-large-2512, noto anche come Mistral Large 3, è un modello linguistico di grandi dimensioni sviluppato da Mistral AI. Il modello di base " mistral-large-2512 " è un modello multimodale all'avanguardia, a peso libero e per uso generico, dotato di un'architettura granulare di tipo "mixture-of-experts". Il modello è stato sottoposto a un addestramento successivo e progettato per garantire affidabilità e comprensione di contesti estesi. I modelli di base Mistral Large 3 sono progettati per assistenti di livello industriale, sistemi di recupero potenziato, carichi di lavoro scientifici e flussi di lavoro aziendali complessi. mistral-large-2512 dispone di una finestra di contesto di grandi dimensioni, il che significa che è possibile aggiungere documenti di grandi dimensioni come informazioni contestuali nei prompt inviati per i casi d'uso della generazione potenziata dal recupero (RAG).
Per ulteriori informazioni su come iniziare, consultare la paginawatsonx.ai sul sito web di 'Mistral AI.
- Utilizzo
Adatto a compiti complessi di ragionamento multilingue, tra cui la comprensione del testo, la trasformazione e la generazione di codice. Ideale per chat, interazioni interattive e scenari didattici. A causa dell'ampia finestra contestuale del modello, utilizzare il parametro max tokens per specificare un limite di token quando si richiede il modello.
- Provate
- Limiti dei gettoni
Lunghezza della finestra di contesto (input + output): 256.000
- Lingue naturali supportate
Inglese, francese, tedesco, italiano, spagnolo, cinese, giapponese, coreano, portoghese, olandese, polacco e decine di altre lingue.
- Linguaggi di programmazione supportati
Il modello " mistral-large-2512 " è stato addestrato su oltre 80 linguaggi di programmazione, tra cui Python, Java, C, C++, JavaScript, Bash, Swift e Fortran.
- Informazioni sulla messa a punto delle istruzioni
Il modello di base " mistral-large-2512 " è stato preaddestrato su diversi set di dati, quali testi, codici sorgente e dati matematici provenienti da vari ambiti.
- Modello di architettura
Solo decoder
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Leggete le seguenti risorse:
mistral-large-instruct-2411
Il modello di base " mistral-large-instruct-2411 " Mistral AI appartiene alla famiglia di modelli Mistral Large 2. Il modello è specializzato in ragionamento, conoscenza e codifica. Il modello estende le capacità del modello di base dell' Mistral-Large-Instruct-2407, per includere una migliore gestione di contesti prompt lunghi, istruzioni prompt di sistema e richieste di chiamata di funzioni.
- Utilizzo
Il modello della fondazione " mistral-large-instruct-2411 " è multilingue, esperto in codifica, incentrato sugli agenti e aderisce ai prompt di sistema per aiutare nelle attività di generazione aumentata di recupero e in altri casi d'uso in cui è necessario gestire prompt con un ampio contesto.
- Dimensione
123 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 131,072
- Lingue naturali supportate
Molteplici lingue e particolarmente forte in inglese, francese, tedesco, spagnolo, italiano, portoghese, cinese, giapponese, coreano, arabo e hindi.
- Linguaggi di programmazione supportati
Il modello di base " mistral-large-instruct-2411 " è stato addestrato su oltre 80 linguaggi di programmazione, tra cui Python, Java, C, C++, JavaScript, Bash, Swift e Fortran.
- Informazioni sulla messa a punto delle istruzioni
Il modello di fondazione dell' mistral-large-instruct-2411, estende il modello di fondazione dell' Mistral-Large-Instruct-2407, da Mistral AI. La formazione ha migliorato le capacità di ragionamento del modello. La formazione si è anche concentrata sulla riduzione delle allucinazioni, affinando il modello per renderlo più cauto e perspicace nelle sue risposte e per riconoscere quando non riesce a trovare soluzioni o non ha informazioni sufficienti per fornire una risposta sicura.
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Leggete le seguenti risorse:
Modelli Mistral Medium
Questo modello di base è stato deprecato nella versione 2.4.0. Vedere il ciclo di vita del modello Foundation.
Mistral Medium 3 è una famiglia di modelli linguistici sviluppata da Mistral AI. I modelli Mistral Medium dispongono di un'ampia finestra contestuale, il che significa che è possibile aggiungere documenti di grandi dimensioni come informazioni contestuali nei prompt inviati per casi d'uso di generazione potenziata dal recupero (RAG).
Il modello di base di mistral-medium-2505 è fluente e comprende la grammatica e il contesto culturale di molte lingue. Il modello è inoltre in grado di elaborare input visivi e si dimostra efficace nella programmazione, nel ragionamento matematico, nella comprensione dei documenti e nel dialogo.
Il modello di base dell' mistral-medium-2508 è un miglioramento del modello dell' mistral-medium-2505, con prestazioni all'avanguardia nella codifica e nella comprensione multimodale.
- Utilizzo
- Adatto a complesse attività di ragionamento multilingue, alla comprensione di documenti di grandi dimensioni, alla generazione di codice, alla chiamata di funzioni e ai flussi di lavoro basati su agenti.
Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 131,072
Nota: Il numero massimo di nuovi token, ovvero i token generati dal modello di fondazione per ogni richiesta, è limitato a 16.384.
- Lingue naturali supportate
Arabo, farsi, urdu, ebraico, turco, indonesiano, laotiano, malese, thailandese, tagalog, vietnamita, hindi, bengalese, gujarati, kannada, marathi, nepalese, punjabi, tamil, telugu, bretone, catalano, ceco, danese, greco, finlandese, croato, olandese, norvegese, polacco, rumeno, svedese, serbo, ucraino, francese, tedesco, spagnolo, portoghese, italiano, giapponese, coreano, russo, cinese.
- Linguaggi di programmazione supportati
Il modello Mistral-Medium è stato addestrato su oltre 80 linguaggi di programmazione, tra cui Python Java, C, C++, JavaScript, Bash, Swift e Fortran.
- Informazioni sulla messa a punto delle istruzioni
Il modello di base Mistral-Medium è stato preaddestrato su diversi set di dati, quali testi, codici sorgente e dati matematici provenienti da vari settori.
- Modello di architettura
Solo decoder
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Leggete le seguenti risorse:
mistral-small-3-2-24b-instruct-2506
Il modello di fondazione Mistral Small 3.2 si basa sul Mistral Small 3.1 sviluppato da Mistral AI. L' mistral-small-3-2-24b-instruct-2506 e migliora l'esecuzione delle istruzioni, la chiamata delle funzioni e produce meno output ripetitivi o infiniti. Il modello è ottimizzato per le istruzioni e offre prestazioni migliorate in termini di testo, esecuzione delle istruzioni, assistenza conversazionale, comprensione delle immagini, comprensione multimodale e ragionamento avanzato. Costruito per supportare le applicazioni agenziali, con l'aderenza ai prompt di sistema e alle chiamate di funzione con generazione di output JSON.
Per ulteriori informazioni su come iniziare, consulta la pagina " watsonx.ai " (Inizia a usare) sul Mistral AI sito web.
- Utilizzo
- Adatto agli agenti di conversazione e alle chiamate funzionali.
- Dimensione
- 24 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra contestuale (ingresso + uscita): 131,072
- Lingue naturali supportate
- Inglese, francese, tedesco, greco, hindi, indonesiano, italiano, giapponese, coreano, malese, nepalese, polacco, portoghese, rumeno, russo, serbo, spagnolo, svedese, turco, ucraino, vietnamita, arabo, bengalese, cinese, farsi e molte altre lingue.
- Linguaggi di programmazione supportati
- Il modello " mistral-small-3-2-24b-instruct-2506 " è stato addestrato su oltre 80 linguaggi di programmazione, tra cui Python, Java, C, C++, JavaScript, Bash, Swift e Fortran.
- Informazioni sulla messa a punto delle istruzioni
- Il modello di base " mistral-small-3-2-24b-instruct-2506 " è stato preaddestrato su diversi set di dati, quali testi, codici sorgente e dati matematici provenienti da vari ambiti.
- Modello di architettura
- Solo decoder
- Licenza
- licenzaApache 2.0
- Ulteriori informazioni
mistral-small-3-1-24b-instruct-2503
Il modello di base Mistral Small 3.1 si basa su Mistral Small 3 sviluppato da Mistral AI, migliorando la comprensione della visione e le capacità di contesto lungo senza compromettere le prestazioni del testo. Il modello mistral-small-3-1-24b-instruct-2503 è perfezionato per l'istruzione ed è dotato di prestazioni migliorate per quanto riguarda il testo, il seguire le istruzioni, l'assistenza alla conversazione, la comprensione delle immagini, la comprensione multimodale e il ragionamento avanzato. Il modello è stato progettato per supportare applicazioni basate su agenti, con il rispetto dei prompt di sistema e la chiamata di funzioni con generazione di output JSON.
Per ulteriori informazioni su come iniziare, consultare la paginawatsonx.ai sul sito web di 'Mistral AI.
- Utilizzo
Adatto agli agenti di conversazione e alle chiamate funzionali.
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 131,072
Nota: Il numero massimo di nuovi token, ovvero i token generati dal modello di fondazione per ogni richiesta, è limitato a 16.384.
- Lingue naturali supportate
Inglese, francese, tedesco, greco, hindi, indonesiano, italiano, giapponese, coreano, malese, nepalese, polacco, portoghese, rumeno, russo, serbo, spagnolo, svedese, turco, ucraino, vietnamita, arabo, bengalese, cinese, farsi e decine di altre lingue.
- Linguaggi di programmazione supportati
Il modello " mistral-small-3-1-24b-instruct-2503 " è stato addestrato su oltre 80 linguaggi di programmazione, tra cui Python, Java, C, C++, JavaScript, Bash, Swift e Fortran.
- Informazioni sulla messa a punto delle istruzioni
Il modello di base " mistral-small-3-1-24b-instruct-2503 " è stato preaddestrato su diversi set di dati, quali testi, codici sorgente e dati matematici provenienti da vari ambiti.
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
pixtral-12b
Questo modello è stato rimosso nella versione 2.4.0. Vedere il ciclo di vita del modello Foundation.
Pixtral 12B è un modello multimodale sviluppato da Mistral AI. Il modello di base " pixtral-12b " è stato addestrato per comprendere sia immagini reali che documenti. Il modello è in grado di analizzare le immagini alla loro risoluzione e alle loro proporzioni originali, garantendo flessibilità nel numero di token utilizzati per elaborare un'immagine. Il modello di fondazione supporta più immagini nella sua lunga finestra contestuale. Il modello è efficace in compiti multimodali di tipo image-in e text-out ed eccelle nel seguire le istruzioni.
- Utilizzo
Comprensione di grafici e figure, risposta a domande su documenti, ragionamento multimodale e seguire le istruzioni.
- Dimensione
12 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 128,000
Il numero massimo di nuovi token, ovvero i token generati dai modelli della fondazione per ogni richiesta, è limitato a 8.192.
- Lingue naturali supportate
Inglese
- Informazioni sulla messa a punto delle istruzioni
Il modello pixtral-12b viene addestrato con dati di immagini e testi interlacciati e si basa sul modello Mistral Nemo con un codificatore di visione da 400 milioni di parametri addestrato da zero.
- Modello di architettura
Solo decoder
- Licenza
- Ulteriori informazioni
Leggete le seguenti risorse:
nvidia-nemotron-nano-12b-v2-vl-fp8
nvidia-nemotron-nano-12b-v2-vl-fp8 è la versione quantizzata del modello Nemotron Nano VL V2 di NVIDIA, un modello di linguaggio auto-regressivo per la visione artificiale che utilizza un'architettura Transformer ottimizzata.
- Utilizzo
- Adatto per la classificazione, l'estrazione, la generazione potenziata dal recupero, la codifica, la chiamata di funzioni, la generazione, la risposta alle domande, la sintesi e la traduzione.
- Dimensione
- 12 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra contestuale (ingresso + uscita): 128,000
- Lingue naturali supportate
- Tedesco, spagnolo, francese, italiano, coreano, portoghese, russo, giapponese, cinese, inglese
- Linguaggi di programmazione supportati
- Linguaggi di programmazione generici
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere ottimizzato
- Modello di architettura
- Architettura ibrida Mamba-Transformer
nvidia-nemotron-3-nano-30b-a3b-fp8
nvidia-nemotron-3-nano-30b-a3b-fp8 è una versione quantizzata di nemotron-nano-3-30b-a3b ed è un modello linguistico di grandi dimensioni (LLM) addestrato da zero dall' NVIDIA e progettato come modello unificato sia per compiti di ragionamento che per quelli non di ragionamento. Risponde alle richieste e alle attività degli utenti generando innanzitutto una traccia del ragionamento e concludendo poi con una risposta finale.
- Utilizzo
- Adatto per la classificazione, l'estrazione, la generazione potenziata dal recupero, la codifica, la chiamata di funzioni, la generazione, la risposta alle domande, la sintesi e la traduzione.
- Dimensione
- 30 miliardi di parametri
- Provate
- Prompt di esempio
- Limiti dei gettoni
- Lunghezza della finestra di contesto (input + output): 256.000
- Lingue naturali supportate
- inglese, tedesco, spagnolo, francese, italiano e giapponese
- Linguaggi di programmazione supportati
- Linguaggi di programmazione generici
- Informazioni sulla messa a punto delle istruzioni
- Questo modello non può essere ottimizzato
- Modello di architettura
- Ibrido Mamba2-Transformer Metodo degli esperti ( MoE )
pixtral-large-instruct-2411
Il modello dell' pixtral-large-instruct-2411, sviluppato da Mistral AI. Il modello è costruito sulla base del modello Mistral Large 2 ( Mistral-Large-Instruct-2407 ). Pixtral Large è un modello multimodale della famiglia di modelli Pixtral e dimostra una comprensione avanzata delle immagini. In particolare, il modello è in grado di comprendere documenti, grafici e immagini naturali, pur mantenendo la superiore comprensione del solo testo di Mistral Large 2.
- Utilizzo
Comprensione di grafici e figure, comprensione di immagini naturali, risposta a domande su documenti, ragionamento multimodale e seguire le istruzioni.
- Dimensione
124 miliardi di parametri
- Provate
- Limiti dei gettoni
Lunghezza della finestra contestuale (ingresso + uscita): 128,000
Il numero massimo di nuovi token, ovvero i token generati dai modelli di base per richiesta, è limitato a 16.384.
- Lingue naturali supportate
Inglese
- Informazioni sulla messa a punto delle istruzioni
Il modello " pixtral-large-instruct-2411 " è addestrato con dati di testo e immagini interlacciate e si basa sul modello "Mistral Nemo" con un codificatore di visione a 400 milioni di parametri addestrato da zero.
- Modello di architettura
Solo decoder
- Licenza
Per i termini di utilizzo, comprese le informazioni sulle protezioni contrattuali relative all'indennizzo limitato, vedere Informazioni sulla licenza.
- Ulteriori informazioni
- Post sul blog per Pixtral Large
voxtral-small-24b-2507
Il modello voxtral-small-24b-2507 è stato sviluppato da Mistral AI. Il modello si basa sul modello " mistral-large-instruct-2407 " della famiglia Mistral Small 3.1, integrando funzionalità audio e prestazioni di elaborazione del testo all'avanguardia. Il modello di base " voxtral-small-24b-2507 " può funzionare in modalità di trascrizione vocale pura ed è in grado di elaborare fino a 30 minuti di audio.
- Utilizzo
- Audio, risposta alle domande, generazione, sintesi, classificazione, estrazione, generazione potenziata dal recupero, richiamo di funzioni e traduzione.
- Dimensione
- 24 miliardi di parametri
- Limiti dei gettoni
- Lunghezza della finestra contestuale (input + output): 32.000
- Lingue naturali supportate
- Inglese, spagnolo, francese, portoghese, hindi, tedesco, olandese, italiano
- Informazioni sulla messa a punto delle istruzioni
- Il modello " voxtral-small-24b-2507 " è stato preaddestrato su diversi set di dati, quali testi, file audio e dati matematici provenienti da vari ambiti.
- Modello di architettura
- Solo decoder
- Licenza
- licenzaApache 2.0