Obtener información sobre modelos de base

Obtenga una lista de los modelos de bases desplegados en watsonx.ai y filtre la lista de forma útil.

Formas de desarrollarse

Debe generar credenciales para autenticarse con las API de watsonx.ai. Para obtener más información, consulte Generar un token de portador.

Puede obtener información sobre los modelos de bases disponibles utilizando estos métodos de programación:

También puede ver la lista de modelos base y filtrarlos desde el centro de recursos en la interfaz de usuario de watsonx.ai. Para más detalles, consulte los siguientes recursos:

API REST

Puede utilizar el método List the available foundation models (Enumerar los modelos de base de maquillaje disponibles ) de la API de watsonx.ai para obtener información sobre los modelos de base de maquillaje disponibles.

La información del modelo que se devuelve incluye el ID del modelo, que necesita para hacer referencia al modelo desde su código.

Enumera los modelos de base disponibles

El método List the available foundation models (Enumerar los modelos de base disponibles ) en la API de watsonx.ai obtiene información sobre los modelos de base que se implementan en su clúster y para inferencias.

Desde una instalación de motor ligero watsonx.ai, la solicitud también devuelve información sobre cualquier modelo de base personalizado que esté disponible.

curl -X GET \
  'https://cpd-<namespace-name>.apps.<OCP-domain>/ml/v1/foundation_model_specs?version=2024-05-01'

Una vez obtenido el ID del modelo, puede hacer referencia al ID del modelo en su solicitud de API de la siguiente manera:

curl --request POST 'https://cpd-<namespace-name>.apps.<OCP-domain>/ml/v1/text/generation?version=2023-05-02'
-H 'Authorization: Bearer ${TOKEN}'
-H 'Content-Type: application/json'
-H 'Accept: application/json'
--data-raw '{
  "model_id": "ibm/granite-8b-code-instruct",
  "input": "Tell me a story",
  "project_id": "63dc4cf1-252f-424b-b52d-5cdd9814987f"
}'

Identificadores de modelos para inferir modelos de base

La siguiente lista muestra los valores que se deben utilizar en el parámetro " {model_id} " cuando se infiere un modelo de base de la API.

  • allam-1-13b-instruct

    sdaia/allam-1-13b-instruct
    
  • codestral-22b

    mistralai/codestral-22b
    
  • devstral-medium-2507

    mistralai/devstral-medium-2507
    
  • codestral-2501

    mistralai/codestral-2501
    
  • codestral-2508

    mistralai/codestral-2508
    
  • gpt-oss-20b

    openai/gpt-oss-20b
    
  • gpt-oss-120b

    openai/gpt-oss-120b
    
  • granite-4-h-tiny

    ibm/granite-4-h-tiny
    
  • granite-4-h-small

    ibm/granite-4-h-small
    
  • granite-4-h-micro

    ibm/granite-4-h-micro
    
  • granite-13b-instruct-v2

    ibm/granite-13b-instruct-v2
    
  • granite-3-2-8b-instruct

    ibm/granite-3-2-8b-instruct
    
  • granite-3-2b-instruct

    ibm/granite-3-2b-instruct
    
  • granite-3-8b-instruct

    ibm/granite-3-8b-instruct
    
  • granite-docling-258M

    ibm/granite-docling-258M
    
  • granite-guardian-3-2-5b

    ibm/granite-guardian-3-2-5b
    
  • granite-guardian-3-2b

    ibm/granite-guardian-3-2b
    
  • granite-guardian-3-8b

    ibm/granite-guardian-3-8b
    
  • granite-3b-code-instruct

    ibm/granite-3b-code-instruct
    
  • granite-8b-code-instruct

    ibm/granite-8b-code-instruct
    
  • granite-20b-code-instruct

    ibm/granite-20b-code-instruct
    
  • granite-34b-code-instruct

    ibm/granite-34b-code-instruct
    
  • granite-vision-3-3-2b

    ibm/granite-vision-3-3-2b
    
  • granite-vision-3-2-2b

    ibm/granite-vision-3-2-2b
    
  • ibm-defense-3-3-8b-instruct

    ibm/ibm-defense-3-3-8b-instruct
    
  • ibm-defense-4-0-micro

    ibm/ibm-defense-4-0-micro
    
  • jais-13b-chat

    core42/jais-13b-chat
    
  • llama-4-maverick-17b-128e-instruct-fp8

    meta-llama/llama-4-maverick-17b-128e-instruct-fp8
    
  • llama-4-maverick-17b-128e-instruct-int4

    redhatai/llama-4-maverick-17b-128e-instruct-int4
    
  • llama-4-scout-17b-16e-instruct

    meta-llama/llama-4-scout-17b-16e-instruct
    
    • llama-4-scout-17b-16e-instruct-int4
    redhatai/llama-4-scout-17b-16e-instruct-int4
    
  • llama-3-3-70b-instruct

    meta-llama/llama-3-3-70b-instruct
    
  • llama-3-2-1b-instruct

    meta-llama/llama-3-2-1b-instruct
    
  • llama-3-2-3b-instruct

    meta-llama/llama-3-2-3b-instruct
    
  • llama-3-2-11b-vision-instruct

    meta-llama/llama-3-2-11b-vision-instruct
    
  • llama-3-2-90b-vision-instruct

    meta-llama/llama-3-2-90b-vision-instruct
    
  • llama-guard-3-11b-instruct

    meta-llama/llama-guard-3-11b-vision
    
  • llama-3-1-8b-instruct

    meta-llama/llama-3-1-8b-instruct
    
  • llama-3-1-70b-instruct

    meta-llama/llama-3-1-70b-instruct
    
  • llama-3-405b-instruct

    meta-llama/llama-3-405b-instruct
    
  • llama-2-13b-chat

    meta-llama/llama-2-13b-chat
    
  • ministral-8b-instruct

    mistralai/ministral-8b-instruct
    
  • mistral grande

    mistralai/mistral-large
    
  • mistral-medium-2505

    mistralai/mistral-medium-2505
    
  • mistral-medium-2508

    mistralai/mistral-medium-2508
    
  • mistral-large-instruct-2411

    mistralai/mistral-large-instruct-2411
    
  • mistral-small-3-1-24b-instruct-2503

    mistralai/mistral-small-3-1-24b-instruct-2503
    
  • mistral-pequeño-instrumento

    mistralai/mistral-small-instruct
    
  • mistral-small-24b-instruct-2501

    mistralai/mistral-small-24b-instruct-2501
    
  • mixtral-8x7b-instruct-v01

    mistralai/mixtral-8x7b-instruct-v01
    
  • pixtral-12b

    mistralai/pixtral-12b
    
  • pixtral-large-instruct-2411

    mistralai/pixtral-large-instruct
    
  • voxtral-small-24b-2507

    mistralai/voxtral-small-24b-2507