Ottenere informazioni sul modello di fondazione

Ottenere un elenco dei modelli di fondazioni utilizzati in watsonx.ai e filtrare l'elenco in modo utile.

Modi per sviluppare

È necessario generare credenziali per l'autenticazione con le API di watsonx.ai. Per ulteriori dettagli, consultare Generazione di un token portatore.

È possibile ottenere informazioni sui modelli di fondazioni disponibili utilizzando questi metodi di programmazione:

In alternativa, è possibile visualizzare l'elenco dei modelli di base e filtrarli dall'hub delle risorse nell'interfaccia utente di watsonx.ai. Per maggiori dettagli, consultare le seguenti risorse:

API REST

È possibile utilizzare il metodo List the available foundation models (Elenca i modelli di fondazione disponibili ) dell'API di Volvo Construction Equipment ( watsonx.ai ) per ottenere informazioni sui modelli di fondazione disponibili.

Le informazioni sul modello restituite includono l'ID del modello, necessario per fare riferimento al modello dal codice.

Elencare i modelli di fondazioni disponibili

Il metodo Elenca i modelli di fondazione disponibili nell'API di watsonx.ai ottiene informazioni sui modelli di fondazione distribuiti nel cluster e per l'inferenza.

Da un'installazione del motore leggero watsonx.ai, la richiesta restituisce anche informazioni su eventuali modelli di fondazione personalizzati disponibili.

curl -X GET \
  'https://cpd-<namespace-name>.apps.<OCP-domain>/ml/v1/foundation_model_specs?version=2024-05-01'

Dopo aver ottenuto l'ID del modello, puoi fare riferimento all'ID del modello nella tua richiesta API come segue:

curl --request POST 'https://cpd-<namespace-name>.apps.<OCP-domain>/ml/v1/text/generation?version=2023-05-02'
-H 'Authorization: Bearer ${TOKEN}'
-H 'Content-Type: application/json'
-H 'Accept: application/json'
--data-raw '{
  "model_id": "ibm/granite-8b-code-instruct",
  "input": "Tell me a story",
  "project_id": "63dc4cf1-252f-424b-b52d-5cdd9814987f"
}'

ID dei modelli per dedurre i modelli di base

Il seguente elenco mostra i valori da utilizzare nel parametro " {model_id} " quando si inferisce un modello di fondazione dall'API.

allam-1-13b-instruct
```
sdaia/allam-1-13b-instruct
```
codestral-22b
```
mistralai/codestral-22b
```
devstral-medium-2507
```
mistralai/devstral-medium-2507
```
codestral-2501
```
mistralai/codestral-2501
```
codestral-2508
```
mistralai/codestral-2508
```
gpt-oss-20b
```
openai/gpt-oss-20b
```
gpt-oss-120b
```
openai/gpt-oss-120b
```
granite-4-h-tiny
```
ibm/granite-4-h-tiny
```
granite-4-h-small
```
ibm/granite-4-h-small
```
granite-4-h-micro
```
ibm/granite-4-h-micro
```
granite-13b-instruct-v2
```
ibm/granite-13b-instruct-v2
```
granite-3-2-8b-instruct
```
ibm/granite-3-2-8b-instruct
```
granite-3-2b-instruct
```
ibm/granite-3-2b-instruct
```
granite-3-8b-instruct
```
ibm/granite-3-8b-instruct
```
granite-docling-258M
```
ibm/granite-docling-258M
```
granite-guardian-3-2-5b
```
ibm/granite-guardian-3-2-5b
```
granite-guardian-3-2b
```
ibm/granite-guardian-3-2b
```
granite-guardian-3-8b
```
ibm/granite-guardian-3-8b
```
granite-3b-code-instruct
```
ibm/granite-3b-code-instruct
```
granite-8b-code-instruct
```
ibm/granite-8b-code-instruct
```
granite-20b-code-instruct
```
ibm/granite-20b-code-instruct
```
granite-34b-code-instruct
```
ibm/granite-34b-code-instruct
```
granite-vision-3-3-2b
```
ibm/granite-vision-3-3-2b
```
granite-vision-3-2-2b
```
ibm/granite-vision-3-2-2b
```
ibm-defense-3-3-8b-instruct
```
ibm/ibm-defense-3-3-8b-instruct
```
ibm-defense-4-0-micro
```
ibm/ibm-defense-4-0-micro
```
jais-13b-chat
```
core42/jais-13b-chat
```

llama-4-maverick-17b-128e-instruct-fp8

meta-llama/llama-4-maverick-17b-128e-instruct-fp8

llama-4-maverick-17b-128e-instruct-int4

redhatai/llama-4-maverick-17b-128e-instruct-int4

llama-4-scout-17b-16e-instruct

meta-llama/llama-4-scout-17b-16e-instruct

llama-4-scout-17b-16e-instruct-int4

redhatai/llama-4-scout-17b-16e-instruct-int4

llama-3-3-70b-instruct
```
meta-llama/llama-3-3-70b-instruct
```
llama-3-2-1b-instruct
```
meta-llama/llama-3-2-1b-instruct
```
llama-3-2-3b-instruct
```
meta-llama/llama-3-2-3b-instruct
```

llama-3-2-11b-vision-instruct

meta-llama/llama-3-2-11b-vision-instruct

llama-3-2-90b-vision-instruct

meta-llama/llama-3-2-90b-vision-instruct

llama-guard-3-11b-instruct
```
meta-llama/llama-guard-3-11b-vision
```
llama-3-1-8b-instruct
```
meta-llama/llama-3-1-8b-instruct
```
llama-3-1-70b-instruct
```
meta-llama/llama-3-1-70b-instruct
```
llama-3-405b-instruct
```
meta-llama/llama-3-405b-instruct
```
llama-2-13b-chat
```
meta-llama/llama-2-13b-chat
```
ministral-8b-instruct
```
mistralai/ministral-8b-instruct
```
maestrale-grande
```
mistralai/mistral-large
```
mistral-medium-2505
```
mistralai/mistral-medium-2505
```
mistral-medium-2508
```
mistralai/mistral-medium-2508
```
mistral-large-instruct-2411
```
mistralai/mistral-large-instruct-2411
```

mistral-small-3-1-24b-instruct-2503

mistralai/mistral-small-3-1-24b-instruct-2503

mistral-piccolo-istruzione
```
mistralai/mistral-small-instruct
```

mistral-small-24b-instruct-2501

mistralai/mistral-small-24b-instruct-2501

mixtral-8x7b-instruct-v01
```
mistralai/mixtral-8x7b-instruct-v01
```
pixtral-12b
```
mistralai/pixtral-12b
```
pixtral-large-instruct-2411
```
mistralai/pixtral-large-instruct
```
voxtral-small-24b-2507
```
mistralai/voxtral-small-24b-2507
```