La organización del director de sistemas de información de IBM optimiza sus modelos de IA con la ayuda de watsonx
La plataforma en la nube híbrida de IBM se enfrenta a un desafío complejo: alojar nuevas aplicaciones de IA junto con casi 2000 cargas de trabajo internas existentes que comprenden operaciones de IBM.1 Al alojar aplicaciones de IA en una plataforma en la nube híbrida, hay que tener en cuenta estos requisitos:
- Las aplicaciones de IA deben cumplir con los requisitos de propiedad intelectual (IP) de la empresa.
- Las herramientas para desarrolladores deben ser sencillas y fomentar la productividad cuando se utilicen para crear aplicaciones que utilicen contenidos de IA generativa.
- Los datos confidenciales deben gestionarse de forma segura durante la ingesta y el uso.
- Los entornos de alojamiento deben ser rentables en términos de recursos de hardware, desarrollo y operaciones.
- Algunas cargas de trabajo de IA deben hospedarse en las instalaciones y requieren compatibilidad con los mismos entornos de IA en hardware local.
Inicialmente, la organización del director de sistemas de información (CIO) de IBM albergaba una base de datos vectorial y modelos de IA generativa que utilizaban unidades de procesamiento gráfico (GPU) aprovisionadas y de alto coste. Aunque esta opción era efectiva, no era la óptima. Durante las horas punta, la competencia por recursos entre los equipos de Desarrollo y Producción se tradujo en la adquisición de más GPU, que permanecieron inactivas durante las horas valle.
Además, este complejo entorno exigía que el equipo de operaciones dedicara tiempo extra a gestionar los clusters de IA. Esto implicó la adquisición de recursos, la aplicación de parches y la gestión de la resiliencia.
1Los datos de las aplicaciones de IBM Hybrid Cloud se obtuvieron a través de Superset IBM Application Portfolio Management (APM) ServiceNow Dashboard el 30 de septiembre de 2024.
La necesidad de simplificar el entorno de la organización del CIO era evidente. Por lo tanto, el modelo de IA y las cargas de trabajo de gestión, desarrollo y producción de datos se transfirieron a IBM watsonx como servicio en IBM Cloud.
Ahora, las herramientas y los recursos necesarios para los equipos de aplicaciones para apoyar el desarrollo y el entrenamiento de modelos de IA están respaldados por watsonx. Incluso la implementación de modelos de IA para la inferencia de aplicaciones es manejada por el entorno integrado de watsonx.
La integración con IBM watsonx.data e IBM watsonx.ai en IBM Cloud permite a la organización CIO gestionar de manera eficiente los datos específicos del dominio y los servicios de IA.
También proporciona una serie de ventajas que son importantes para el negocio:
- El modelo de precios basado en el consumo se basa en los recursos utilizados.
- Los picos de uso de la GPU se gestionan gracias a la elasticidad de watsonx como servicio en IBM Cloud, por lo que el equipo de operaciones deja de gestionar los recursos de la GPU.
- Las herramientas necesarias para el desarrollo.
- Implementación segura de modelos.
- El entorno watsonx está disponible en Red Hat OpenShift, lo que permite flexibilidad, incluida la ubicación de la carga de trabajo en las instalaciones.
- Cuando se combina con watsonx.governance, en algunos escenarios, IBM ha ofrecido indemnización por propiedad intelectual al resultado que generan los modelos cubiertos, incluidos los modelos fundacionales desarrollados por IBM y algunos de terceros que están disponibles en watsonx.ai.
Las aplicaciones de IA están revolucionando la forma en que IBM opera al integrar la IA en sus sistemas y procesos. Aplicaciones como AskIBM, el asistente digital con IA que automatiza las tareas empresariales cotidianas, están en producción. Al aprovechar las ofertas de la plataforma en la nube de IBM, la organización del CIO tiene la capacidad de escalar soluciones según sus necesidades específicas.
La organización del director de sistemas de información (CIO) de IBM lidera la estrategia informática interna de IBM y es responsable de ofrecer, proteger, modernizar y dar soporte a las soluciones de TI que los empleados, clientes y socios de IBM utilizan para hacer su trabajo todos los días. La estrategia de la organización del CIO abarca la creación de una plataforma de TI adaptable que facilite el acceso a las herramientas, aplicaciones y sistemas de TI en toda la empresa, acelere la resolución de problemas y sirva como motor de innovación para IBM, catalizando el crecimiento del negocio.
Legal
© Copyright IBM Corporation 2024. IBM, el logotipo de IBM, Granite, IBM Cloud, IBM watsonx, watsonx.ai, y watsonx.data son marcas comerciales o marcas registradas de IBM Corp., en los EE. UU. y/o en otros países. Este documento está actualizado a la fecha inicial de publicación y puede ser modificado por IBM en cualquier momento. No todas las ofertas están disponibles en todos los países en los que opera IBM.
Red Hat y OpenShift son marcas comerciales o marcas registradas de Red Hat, Inc. o sus subsidiarios en los Estados Unidos y otros países.
Los ejemplos de clientes se presentan como ilustraciones de cómo dichos clientes han utilizado los productos de IBM y los resultados que pueden haber obtenido. El desempeño, los costes, los ahorros reales u otros resultados en sus entornos operativos podrían variar.