Implementación de modelos ajustados desde la interfaz de usuario
Puede implementar modelos ajustados desde la interfaz de usuario de watsonx. Implemente los activos de experimentos de ajuste almacenados en su proyecto o implemente modelos ajustados desde Tuning Studio.
Como alternativa, puede implementar modelos base o modelos fundamentales personalizados proporcionados por IBM utilizando la API. Para obtener más información, consulte Implementación de modelos ajustados con código.
- Permisos necesarios
- Para implementar modelos ajustados, debe tener el rol de administrador o editor en un proyecto.
Procedimiento
Cuando utilice Tuning Studio para crear su experimento de ajuste, podrá implementar directamente el modelo ajustado resultante.
Para implementar un modelo ajustado almacenado como un activo de experimento de ajuste en su proyecto, complete los siguientes pasos:
En la pestaña Activos del proyecto, haz clic en el tipo de activo Experimentos.
Haga clic para abrir el experimento de ajuste del modelo que desea implementar.
En la lista de modelos ajustados, busque el experimento de ajuste completado y, a continuación, haga clic en Nueva implementación.
Nombra el modelo ajustado.
El nombre del experimento de ajuste se utiliza como nombre del modelo ajustado si no lo cambia. El nombre va seguido de un número entre paréntesis, que cuenta las implementaciones. El número comienza en uno y se incrementa en uno cada vez que implementa este experimento de ajuste.
Opcional : Añade una descripción y etiquetas.
Para el contenedor de implementación, elija una de las siguientes opciones:
- Este proyecto
Implementa el modelo ajustado y lo añade a tu proyecto, donde podrás probarlo. Puede promover la implementación del modelo ajustado a un espacio de implementación en cualquier momento. Elija esta opción si desea realizar más pruebas del modelo ajustado antes de utilizarlo en producción.
- Espacio de despliegue
Promueve el modelo ajustado a un espacio de implementación e implementa el modelo ajustado. Un espacio de implementación es independiente del proyecto en el que se crea el activo. Esta separación le permite promocionar activos de varios proyectos a un espacio y desplegar activos en más de un espacio. Elija esta opción cuando el modelo ajustado esté listo para ser promovido para su uso en producción.
Un espacio de implementación está asociado a un almacenamiento de objetos basado en la nube, como IBM Cloud Object Storage o Amazon S3.
- Importante: Para la conexión al almacenamiento de objetos basado en la nube, debe proporcionar el punto final URL y las credenciales que tengan acceso de lectura y escritura a los depósitos en el almacenamiento de objetos.
- Seleccione un espacio de implementación en el campo Espacio de implementación de destino.
Si no tienes un espacio de implementación, crea uno nuevo. Para obtener más información, consulte Creación de espacios de implementación.
Añade una etiqueta para la implementación en el nombre del servicio de implementación.
El nombre puede tener hasta 36 caracteres. Los caracteres admitidos son [ a-z,0-9,_].
Consejo: El nombre del servicio se utiliza en el punto final de la API ( URL ) que identifica su implementación. Añadir un nombre legible para los humanos resulta útil porque el nombre especificado sustituye a un ID largo generado por el sistema que se crea automáticamente. El nombre del servicio también abstrae la implementación de los detalles de la instancia del servicio. Las aplicaciones pueden hacer referencia a este nombre, lo que permite cambiar la instancia del servicio subyacente sin afectar a los usuarios.
Seleccione la opción para ver después de crear, de modo que pueda encontrar fácilmente su modelo ajustado una vez completado el proceso de implementación, y haga clic en Implementar. Después de implementar el modelo ajustado, se almacena una copia del mismo en su proyecto como un recurso de modelo.
Inferencia del despliegue para probar tu modelo ajustado.
A partir de la versión 2.3.1, la API de generación de texto queda obsoleta y se eliminará en el futuro.
- En el espacio de implementación
- En la pestaña Implementaciones de su proyecto, haga clic en el nombre del activo del modelo implementado en su proyecto o en el nombre del espacio de implementación donde implementó el modelo ajustado.
- Haga clic en la pestaña Prueba.
- En el campo Datos de entrada, añada una indicación que siga el patrón de indicaciones que su modelo ajustado está entrenado para reconocer y, a continuación, haga clic en Generar. Puede hacer clic en Ver configuración de parámetros para ver los parámetros de solicitud que se aplican al modelo de forma predeterminada. Para cambiar los parámetros del indicador, debe ir a la página Prompt Lab.
- En el proyecto
- En el proyecto, haga clic en Abrir en Prompt Lab. Si está trabajando en un espacio de implementación, se le pedirá que elija el proyecto en el que desea trabajar con el modelo.
- En la sección Probar, añada una indicación al campo Entrada que siga el patrón de indicaciones que su modelo ajustado está entrenado para reconocer y, a continuación, haga clic en Generar.