Obtener información sobre modelos de base
Obtenga una lista de los modelos de bases desplegados en watsonx.ai y filtre la lista de forma útil.
Formas de desarrollarse
Debe generar credenciales para autenticarse con las API de watsonx.ai. Para obtener más información, consulte Generar un token de portador.
Puede obtener información sobre los modelos de bases disponibles utilizando estos métodos de programación:
También puede ver la lista de modelos base y filtrarlos desde el centro de recursos en la interfaz de usuario de watsonx.ai. Para más detalles, consulte los siguientes recursos:
API REST
Puede utilizar el método List the available foundation models (Enumerar los modelos de base de maquillaje disponibles ) de la API de watsonx.ai para obtener información sobre los modelos de base de maquillaje disponibles.
La información del modelo que se devuelve incluye el ID del modelo, que necesita para hacer referencia al modelo desde su código.
Enumera los modelos de base disponibles
El método List the available foundation models (Enumerar los modelos de base disponibles ) en la API de watsonx.ai obtiene información sobre los modelos de base que se implementan en su clúster y para inferencias.
Desde una instalación de motor ligero watsonx.ai, la solicitud también devuelve información sobre cualquier modelo de base personalizado que esté disponible.
curl -X GET \
'https://cpd-<namespace-name>.apps.<OCP-domain>/ml/v1/foundation_model_specs?version=2024-05-01'
Una vez obtenido el ID del modelo, puede hacer referencia al ID del modelo en su solicitud de API de la siguiente manera:
curl --request POST 'https://cpd-<namespace-name>.apps.<OCP-domain>/ml/v1/text/generation?version=2023-05-02'
-H 'Authorization: Bearer ${TOKEN}'
-H 'Content-Type: application/json'
-H 'Accept: application/json'
--data-raw '{
"model_id": "ibm/granite-8b-code-instruct",
"input": "Tell me a story",
"project_id": "63dc4cf1-252f-424b-b52d-5cdd9814987f"
}'
Identificadores de modelos para inferir modelos de base
La siguiente lista muestra los valores que se deben utilizar en el parámetro " {model_id} " cuando se infiere un modelo de base de la API.
allam-1-13b-instruct
sdaia/allam-1-13b-instructcodestral-22b
mistralai/codestral-22bdevstral-medium-2507
mistralai/devstral-medium-2507codestral-2501
mistralai/codestral-2501codestral-2508
mistralai/codestral-2508gpt-oss-20b
openai/gpt-oss-20bgpt-oss-120b
openai/gpt-oss-120bgranite-4-h-tiny
ibm/granite-4-h-tinygranite-4-h-small
ibm/granite-4-h-smallgranite-4-h-micro
ibm/granite-4-h-microgranite-13b-instruct-v2
ibm/granite-13b-instruct-v2granite-3-2-8b-instruct
ibm/granite-3-2-8b-instructgranite-3-2b-instruct
ibm/granite-3-2b-instructgranite-3-8b-instruct
ibm/granite-3-8b-instructgranite-docling-258M
ibm/granite-docling-258Mgranite-guardian-3-2-5b
ibm/granite-guardian-3-2-5bgranite-guardian-3-2b
ibm/granite-guardian-3-2bgranite-guardian-3-8b
ibm/granite-guardian-3-8bgranite-3b-code-instruct
ibm/granite-3b-code-instructgranite-8b-code-instruct
ibm/granite-8b-code-instructgranite-20b-code-instruct
ibm/granite-20b-code-instructgranite-34b-code-instruct
ibm/granite-34b-code-instructgranite-vision-3-3-2b
ibm/granite-vision-3-3-2bgranite-vision-3-2-2b
ibm/granite-vision-3-2-2bibm-defense-3-3-8b-instruct
ibm/ibm-defense-3-3-8b-instructibm-defense-4-0-micro
ibm/ibm-defense-4-0-microjais-13b-chat
core42/jais-13b-chatllama-4-maverick-17b-128e-instruct-fp8
meta-llama/llama-4-maverick-17b-128e-instruct-fp8llama-4-maverick-17b-128e-instruct-int4
redhatai/llama-4-maverick-17b-128e-instruct-int4llama-4-scout-17b-16e-instruct
meta-llama/llama-4-scout-17b-16e-instruct- llama-4-scout-17b-16e-instruct-int4
redhatai/llama-4-scout-17b-16e-instruct-int4llama-3-3-70b-instruct
meta-llama/llama-3-3-70b-instructllama-3-2-1b-instruct
meta-llama/llama-3-2-1b-instructllama-3-2-3b-instruct
meta-llama/llama-3-2-3b-instructllama-3-2-11b-vision-instruct
meta-llama/llama-3-2-11b-vision-instructllama-3-2-90b-vision-instruct
meta-llama/llama-3-2-90b-vision-instructllama-guard-3-11b-instruct
meta-llama/llama-guard-3-11b-visionllama-3-1-8b-instruct
meta-llama/llama-3-1-8b-instructllama-3-1-70b-instruct
meta-llama/llama-3-1-70b-instructllama-3-405b-instruct
meta-llama/llama-3-405b-instructllama-2-13b-chat
meta-llama/llama-2-13b-chatministral-8b-instruct
mistralai/ministral-8b-instructmistral grande
mistralai/mistral-largemistral-medium-2505
mistralai/mistral-medium-2505mistral-medium-2508
mistralai/mistral-medium-2508mistral-large-instruct-2411
mistralai/mistral-large-instruct-2411mistral-small-3-1-24b-instruct-2503
mistralai/mistral-small-3-1-24b-instruct-2503mistral-pequeño-instrumento
mistralai/mistral-small-instructmistral-small-24b-instruct-2501
mistralai/mistral-small-24b-instruct-2501mixtral-8x7b-instruct-v01
mistralai/mixtral-8x7b-instruct-v01pixtral-12b
mistralai/pixtral-12bpixtral-large-instruct-2411
mistralai/pixtral-large-instructvoxtral-small-24b-2507
mistralai/voxtral-small-24b-2507