Cuando el rendimiento de la infraestructura de servidores de IA choca con la pared

By | 3 minute read | diciembre 1, 2017

Obtener nuevos insights para hacer crecer el negocio es un gran incentivo para agregar inteligencia artificial (IA) y deep learning a las capacidades de TI de una organización. Las organizaciones que no adoptan estas tecnologías cognitivas para obtener una ventaja corren el riesgo de perder frente a la competencia. Muchos dan el primer paso experimentando con el software AI en su infraestructura existente.

Sin embargo, en algún momento es probable que se “golpeen con la pared”, es decir, se queden sin el rendimiento de la infraestructura de la misma manera que un maratonista bien entrenado puede quedarse sin energía antes de llegar a la meta. Según una encuesta reciente de IDC, el 77.1 por ciento de los encuestados dice que encontró una o más limitaciones con su infraestructura de AI local (IDC White Paper, patrocinado por IBM, “Hitting the wall with server infrastructure for artificial intelligence“, septiembre de 2017) . Y el 90.3 por ciento de los usuarios que ejecutan tecnología cognitiva en la nube se encontraron con estos mismos tipos de limitaciones.

Desafíos de rendimiento de IA

La IA y deep learning son extremadamente exigentes en la infraestructura de servidores. Requieren un potente procesamiento en paralelo, y creemos que la investigación de nuevas soluciones durante la fase experimental inicial del desarrollo de inteligencia artificial es fundamental para los equipos de infraestructura. La misma encuesta de IDC muestra que las empresas toman una variedad de caminos mientras llevan a cabo la experimentación. Por ejemplo, algunos desarrollan su solución en una máquina virtual (VM) y luego migran a un servidor dedicado. Otros inician una prueba de concepto (PoC) en una partición de un sistema de ampliación y luego optan por pasar a un clúster de servidores.

Creemos que elegir el hardware del servidor correcto juega un papel decisivo. Según el white paper de IDC citado anteriormente, las respuestas de las empresas que ejecutan aplicaciones de IA indican que un clúster de servidores de socket único y dual con alto rendimiento por núcleo y parámetros de E / S combinados con aceleradores como GPUs, son muy adecuados como configuración de infraestructura para aplicaciones cognitivas. Escalar estos nodos de cálculo acelerados no es tan sencillo como escalar las CPUs. Como resultado, las empresas deben buscar un proveedor de servidores que tenga conocimiento sobre la ampliación de las aplicaciones de inteligencia artificial.

El camino correcto para el desarrollo

Además de los resultados de la encuesta citados anteriormente, el white paper de IDC también incluye recomendaciones de analistas para los enfoques de desarrollo de IA. Para iniciativas de IA pequeñas y medianas, IDC recomienda desarrollar una solución interna para permitir que el equipo de infraestructura adquiera nuevos conjuntos de habilidades. Como contrapunto, el white paper de IDC continúa informando que, debido a la complejidad del esfuerzo de desarrollo requerido, las iniciativas más integrales de IA pueden beneficiarse de soporte externo.

Aquí está el resultado: si está desarrollando capacidades de inteligencia artificial o ampliando las capacidades existentes de inteligencia artificial, es probable que chocar contra un muro de rendimiento de la infraestructura sea solo una cuestión de tiempo. En ese caso, choquese de una manera “estrictamente controlada”, según lo recomendado por los analistas de IDC. Y hágalo no solo “a sabiendas y en plena posesión de los detalles”, según el documento oficial de IDC, sino también colabore estrechamente con un proveedor de servidores que ofrezca desde la etapa inicial de toda la empresa hasta la producción avanzada y una guía de explotación completa. En IBM, nos encontramos en una excelente posición para estar listos para ayudar a las empresas a cumplir con las demandas de rendimiento de sus iniciativas cognitivas. Ofrecemos una pila completa de hardware y software de AI, desde servidores IBM Power Systems con GPU NVIDIA hasta nuestro framework de software PowerAI. También ofrecemos una amplia gama de soporte y consultoría.

Encuesta y recomendaciones

Si cree que su organización necesita avanzar hacia la inteligencia artificial y deep learning, puede recurrir a los muchos casos de uso de IA bien definidos en todas las industrias que sean aplicables. Descargue el white paper completo de IDC, patrocinado por IBM, que identifica más de una docena de posibilidades y las rutas para llegar hasta allí.