¿Qué es la inferencia de la IA?

La inferencia de la IA es crítica para el avance de las tecnologías en este campo y sustenta sus aplicaciones más interesantes, como la IA generativa, la capacidad que impulsa la popular aplicación ChatGPT. Los modelos de IA se basan en la inferencia de la misma para imitar la forma en que las personas piensan, razonan y responden a las instrucciones.

La inferencia de la IA comienza al entrenar un modelo de IA en un gran conjunto de datos con algoritmos de toma de decisiones. Los modelos de IA consisten en algoritmos de toma de decisiones que se entrenan en redes neuronales (modelos de lenguaje de gran tamaño (LLM) que se construyen como un cerebro humano. Por ejemplo, un modelo de IA diseñado para el reconocimiento facial podría entrenarse con millones de imágenes del rostro humano. Con el tiempo, aprende a identificar con precisión características como el color de los ojos, la forma de la nariz y el color del pelo, y puede utilizarlos para reconocer a un individuo en una imagen.

Aunque están estrechamente relacionados, la inferencia de la IA y el machine learning (ML) son dos pasos diferentes en el ciclo de vida del modelo de IA.

• El machine learning es el proceso de utilizar algoritmos y datos de entrenamiento, a través del proceso de aprendizaje supervisado, para hacer que la IA imite la forma en que aprenden los humanos, que van mejorando gradualmente su precisión.
• La inferencia de la IA hace referencia al proceso de aplicar lo que el modelo de IA ha aprendido a través del ML para tomar decisiones, realizar predicciones o extraer conclusiones a partir de los datos.

Si los modelos de IA no se entrenan en un conjunto de datos sólido y apropiado para su aplicación, simplemente no son efectivos. Dada la naturaleza sensible de la tecnología y el minucioso examen que recibe en la prensa¹, las empresas deben ser cautelosas. Sin embargo, con aplicaciones que abarcan sectores y ofrecen el potencial de la transformación digital y la innovación escalable, sus beneficios son múltiples:

• Resultados precisos y exactos: a medida que avanza la tecnología, los modelos de IA son cada vez más precisos y exactos. Por ejemplo, los LLM más recientes pueden elegir palabras, frases y gramática para imitar el tono de un autor concreto. En el ámbito del arte y el vídeo, pueden hacer lo mismo: seleccionar colores y estilos para transmitir un estado de ánimo, un tono o un estilo artístico concretos.

• Mejora del control de calidad: una de las aplicaciones más recientes y potencialmente más emocionantes de la IA se encuentra en el campo de la monitorización e inspección de sistemas. Los modelos de IA entrenados con conjuntos de datos que abarcan desde la calidad del agua hasta los patrones meteorológicos se están utilizando para monitorizar la salud de los equipos industriales in situ.

• Aprendizaje robótico: los robots y la robótica con capacidades de inferencia de la IA se están implementando para diversas tareas con el fin de añadir valor empresarial. Quizás la aplicación más popular del aprendizaje robótico sean los vehículos sin conductor o autónomos. Las empresas de vehículos autónomos como Tesla, Waymo y Cruz utilizan ampliamente la inferencia de la IA para enseñar a las redes neuronales a reconocer y obedecer las normas de tráfico.

• Aprendizaje sin dirección: la inferencia de la IA se entrena con datos sin ser programada, lo que reduce la necesidad de intervención humana y los recursos necesarios para funcionar de manera eficaz. Por ejemplo, un modelo de IA entrenado con imágenes de entornos agrícolas puede utilizarse para ayudar a los agricultores a identificar y mitigar las malas hierbas y los cultivos poco saludables.

• Orientación y toma de decisiones informadas: una de las aplicaciones más interesantes de la inferencia de la IA es su capacidad para comprender los matices y la complejidad y ofrecer asesoramiento basado en los conjuntos de datos sobre los que ha aprendido. Por ejemplo, los modelos de IA entrenados en principios financieros son capaces de ofrecer un asesoramiento sólido en materia de inversiones e identificar actividades potencialmente fraudulentas. Del mismo modo, la IA puede eliminar el potencial de error humano de procedimientos arriesgados como el diagnóstico de una enfermedad o el pilotaje de un avión.

• Capacidades de edge computing: la inferencia de la IA y el edge computing ofrecen todas los beneficios de la IA en tiempo real, sin necesidad de trasladar los datos a un centro de datos para procesarlos. El potencial de la inferencia de la IA en el edge tiene amplias repercusiones, desde la gestión y monitorización de los niveles de existencias en un almacén hasta las reacciones a la velocidad de milisegundos necesarias para el funcionamiento seguro de un vehículo autónomo.

Aunque la inferencia de IA tiene muchos beneficios, al tratarse de una tecnología joven y de rápido crecimiento, no está exenta de dificultades. Estos son algunos de los problemas a los que se enfrenta el sector y que las empresas que pretenden invertir en IA deberían tener en cuenta:

• Cumplimiento normativo:  la tarea de regular las aplicaciones y la inferencia de la IA es ardua y está en constante cambio. Un ejemplo de ello es el ámbito de la soberanía de los datos, el concepto de que los datos están sujetos a las leyes del país o región donde se han generado. Las empresas globales que recopilan, almacenan y procesan datos con fines de IA en más de un territorio se encuentran con el reto de seguir cumpliendo las leyes en varios territorios sin dejar de innovar de forma que beneficie a su negocio.

• Calidad: en el entrenamiento de modelos de IA, la calidad de los datos con los que se entrenan los modelos es un elemento crítico para su éxito. Al igual que los humanos que aprenden de un mal profesor, un modelo de IA entrenado con datos de mala calidad tendrá un mal rendimiento. Los conjuntos de datos deben estar claramente etiquetados y ser hiperrelevantes para la habilidad que el modelo de IA intenta aprender. Un reto clave de la IA (de la precisión de la inferencia de la IA, en particular) es seleccionar el modelo adecuado para el entrenamiento.

• Complejidad: al igual que ocurre con la calidad de los datos, su complejidad también puede causar problemas con los modelos de IA. Volvamos a emplear la analogía con un estudiante humano: cuanto más sencilla sea la tarea para la que se entrena la IA, más fácil será aprender. Los modelos de IA que abordan problemas sencillos, como un chatbot de atención al cliente o un agente de viajes virtual, son relativamente fáciles de entrenar en comparación con los modelos diseñados para problemas más complejos, como la obtención de imágenes médicas o el asesoramiento financiero.

• Mejora de habilidades: por muy emocionante que pueda ser imaginar las posibilidades de un campo nuevo y en rápido crecimiento como es el de la IA, crear aplicaciones que funcionen e inferencias de precisas requiere tiempo y recursos. Hasta que las fuentes de talento no se pongan al día con el ritmo de la innovación, los expertos en este campo seguirán siendo muy solicitados y su contratación seguirá siendo cara.

• Dependencia de Taiwán: el 60 % de los semiconductores del mundo y el 90 % de sus chips avanzados (incluidos los aceleradores de IA necesarios para la inferencia de la IA) se fabrican en la isla de Taiwán.²Además, la mayor empresa de hardware y software de IA del mundo, Nvidia, depende casi exclusivamente de una sola empresa, la Taiwan Semiconductor Manufacturing Corporation (TSMC), para sus aceleradores de IA. Las catástrofes naturales u otros incidentes imprevistos podrían amenazar la fabricación y distribución de los chips necesarios para alimentar la inferencia de la IA y sus numerosas aplicaciones.

La inferencia de IA es un proceso complejo que implica entrenar un modelo de IA en conjuntos de datos apropiados hasta que este pueda proporcionar respuestas precisas. Se trata de un proceso muy intensivo desde el punto de vista informático que requiere hardware y software especializados. Antes de examinar el proceso de entrenamiento de modelos de IA para la inferencia de IA, exploremos algunos de los equipos especializados que lo permiten.

La unidad central de procesamiento (CPU) es el principal componente funcional de un ordenador. En el entrenamiento y la inferencia de la IA, la CPU ejecuta el sistema operativo y ayuda a gestionar los recursos informáticos necesarios para el entrenamiento.

Las unidades de procesamiento gráfico (GPU), o circuitos electrónicos creados para el procesamiento de imágenes y gráficos informáticos de alto rendimiento, se utilizan en diversos dispositivos, como tarjetas de vídeo, placas base y teléfonos móviles. Sin embargo, debido a su capacidad de procesamiento paralelo, también se utilizan cada vez más en el entrenamiento de modelos de IA. Uno de los métodos consiste en conectar muchas GPU a un único sistema de IA para aumentar la capacidad de procesamiento de dicho sistema.

Las matrices de puerta programable en campo (FPGA) son aceleradores de IA altamente personalizables que dependen de conocimientos especializados para ser reprogramados con un fin específico. A diferencia de otros aceleradores de IA, las FPGA tienen un diseño único que se adapta a una función específica, que suele tener que ver con el procesamiento de datos en tiempo real, algo crítico para la inferencia de la IA. Las FPGA son reprogramables a nivel de hardware, lo que permite un mayor nivel de personalización.

Los ASIC son aceleradores de IA diseñados con un propósito o una carga de trabajo específicos, como el deep learning en el caso del acelerador WSE-3 ASICs producido por Cerebras. Los ASIC ayudan a los científicos de datos a acelerar las capacidades de inferencia de la IA y a reducir el coste. A diferencia de las FPGA, los ASIC no pueden reprogramarse, pero como se fabrican con un propósito singular, suelen superar a otros aceleradores de uso más general. Un ejemplo de ellos es la unidad de procesamiento tensorial (TPU) de Google, desarrollada para el machine learning de redes neuronales mediante el software TensorFlow propio de Google.

Las empresas que deseen invertir en aplicaciones de IA como parte de su transformación digital deben informarse sobre los beneficios y desafíos de la inferencia de IA. Para quienes hayan investigado a fondo sus diversas aplicaciones y estén listos para ponerla en práctica, a continuación se muestran cinco pasos para establecer una inferencia de IA eficaz:

Según el tipo de aplicación de IA que necesite la empresa, esta podrá elegir entre distintos tipos de inferencia de IA. Si una empresa desea crear un modelo de IA para utilizarlo con una aplicación de Internet de las Cosas (IoT), la inferencia en tiempo real (con sus capacidades de medición) es probablemente la opción más adecuada. Sin embargo, si el modelo de IA está diseñado para interactuar con humanos, la inferencia en línea (con sus capacidades de LLM) sería una mejor opción. Estos son los tres tipos de inferencia de IA y las características que los hacen únicos.

La inferencia dinámica, también conocida como inferencia en línea, es el tipo de inferencia de IA más rápido y se utiliza en las aplicaciones de IA de LLM más populares, como ChatGPT de OpenAI. La inferencia dinámica genera outputs y predicciones de inmediato y requiere una baja latencia y un acceso rápido a los datos para funcionar. Otra característica de la inferencia dinámica es que los outputs pueden llegar tan rápido que no hay tiempo para revisarlos antes de que lleguen al usuario final. Por este motivo, algunas empresas añaden una capa de monitorización entre el output y el usuario final para garantizar el control de calidad.

La inferencia por lotes genera predicciones de IA fuera de línea mediante el uso de grandes volúmenes de datos. Con este enfoque, los datos recopilados previamente se aplican a los algoritmos de ML. Aunque no es ideal para situaciones en las que se requieren outputs en unos segundos o incluso menos, la inferencia por lotes es una buena opción para las predicciones de IA que se actualizan regularmente a lo largo del día o de una semana, como los paneles de control de ventas o marketing o las evaluaciones de riesgos.

La inferencia de streaming utiliza una canalización de datos, normalmente suministrada a través de mediciones regulares de sensores, y la introduce en un algoritmo que utiliza los datos para realizar cálculos y predicciones de manera continua. Las aplicaciones IoT, como la IA utilizada para monitorizar una central eléctrica o el tráfico de una ciudad a través de sensores conectados a internet, se basan en la inferencia de streaming para tomar sus decisiones.