La organización de directores de sistemas de información de IBM optimiza sus modelos de IA con la ayuda de watsonx
La plataforma de nube híbrida de IBM se enfrenta a un desafío complejo: alojar nuevas aplicaciones de inteligencia artificial (IA) junto con casi 2000 cargas de trabajo existentes que comprenden las operaciones comerciales en IBM.1 Al alojar aplicaciones de IA en una plataforma de nube híbrida, se deben considerar estos requisitos:
- Las aplicaciones de IA deben cumplir con los requisitos de propiedad intelectual (PI) de la empresa.
- Las herramientas para desarrolladores deben ser sencillas y fomentar la productividad cuando se emplean para crear aplicaciones que usan contenido de IA generativa.
- Los datos confidenciales deben gestionarse de forma segura durante la ingesta y el uso.
- Los entornos de alojamiento deben ser rentables en términos de recursos de hardware, desarrollo y operaciones.
- Algunas cargas de trabajo de IA deben alojarse on premises y requieren soporte para los mismos entornos de IA en hardware local.
Inicialmente, la organización del director de sistemas de información (CIO) de IBM alojaba una base de datos vectorial y modelos de IA generativa que empleaban unidades de procesamiento de gráficos (GPU) aprovisionadas y de alto costo. Aunque esta opción fue efectiva, no fue óptima. Durante las horas pico, la competencia por los recursos entre los equipos de desarrollo y producción dio lugar a la adquisición de GPU adicionales, que permanecieron inactivas durante las horas de menor actividad.
Además, este complejo entorno requería que el equipo de operaciones dedicara tiempo adicional a gestionar clústeres de IA. Esto implicó la adquisición de recursos, la aplicación de parches y la gestión de la resiliencia.
1Los datos de las aplicaciones de nube híbrida de IBM se obtuvieron a través del panel Superset IBM Application Portfolio Management (APM) ServiceNow el 30 de septiembre de 2024.
La necesidad de simplificar el entorno de la organización del CIO era evidente. Por lo tanto, el modelo de IA y las cargas de trabajo de gestión, desarrollo y producción de datos se transfirieron a IBM® watsonx as a Service en IBM® Cloud.
Ahora, las herramientas y los recursos que necesitan los equipos de aplicaciones para apoyar el desarrollo y entrenamiento de modelos de IA son compatibles con watsonx. Incluso el despliegue de modelos de IA para la inferencia de aplicaciones es manejado por el entorno integrado de watsonx.
La integración con IBM watsonx.data e IBM watsonx.ai en IBM Cloud permite al CIO gestionar de manera eficiente los datos específicos del dominio y los servicios de IA.
También proporciona una serie de beneficios que son importantes para el negocio:
- El modelo de precios basado en el consumo se basa en los recursos empleados.
- Los picos en el uso de la GPU se manejan mediante la elasticidad de Watsonx as a Service en IBM Cloud, y el equipo de operaciones ya no gestiona los recursos de la GPU.
- Las herramientas necesarias para el desarrollo.
- Despliegue seguro de los modelos.
- El entorno watsonx está disponible en Red Hat OpenShift, lo que permite flexibilidad, incluida la colocación de cargas de trabajo on premises.
- Cuando se combina con watsonx.governance, en algunos escenarios, IBM ofreció indemnización por propiedad intelectual al resultado generado por los modelos cubiertos, incluidos los modelos fundacionales desarrollados por IBM y algunos de terceros que están disponibles en watsonx.ai.
Las aplicaciones de IA están revolucionando la forma en que IBM opera al integrar la IA en sus sistemas y procesos. Aplicaciones como AskIBM, el asistente digital impulsado por IA que automatiza las tareas empresariales diarias, están en producción. Al aprovechar las ofertas de la plataforma en la nube de IBM, la organización del CIO tiene la capacidad de escalar soluciones de acuerdo con sus necesidades específicas.
La organización del director de sistemas de información (CIO) de IBM lidera la estrategia de TI interna de IBM y es responsable de entregar, proteger, modernizar y admitir las soluciones de TI que utilizan los empleados de IBM para hacer su trabajo todos los días. La estrategia de la organización del CIO abarca la creación de una plataforma de TI adaptable que facilite el acceso a las herramientas, aplicaciones y sistemas de TI en toda la empresa, acelere la resolución de problemas y sirva como motor de innovación para IBM, catalizando el crecimiento empresarial
Legal
© Copyright IBM Corporation 2024. IBM, el logotipo de IBM, Granite, IBM Cloud, IBM watsonx, watsonx.ai, y watsonx.data son marcas comerciales o marcas registradas de IBM Corp. en EE. UU. o en otros países. Este documento está actualizado a la fecha inicial de publicación e IBM puede modificarlo en cualquier momento. No todas las ofertas están disponibles en todos los países en los que opera IBM.
Red Hat y OpenShift son marcas o marcas registradas de Red Hat, Inc. o sus subsidiarias en los Estados Unidos y otros países.
Los ejemplos de los clientes se presentan como ilustraciones de cómo esos clientes han utilizado los productos de IBM y los resultados que pueden haber logrado. El rendimiento real, el costo, los ahorros u otros resultados en otros entornos operativos pueden variar.