La IA agéntica y lo que debemos entender: una sesión de preguntas y respuestas con Phaedra Boinodiris

¿Necesita planificar un viaje? ¿Reservar un tren? ¿Planificar algunas comidas? La IA agéntica puede hacer eso y mucho más. El intuitivo sistema de IA es sofisticado y está diseñado para decidir de forma autónoma. Pero requiere una gobernanza sólida debido a su autonomía en la toma de decisiones

La necesidad de estructuras de gobierno integrales se vuelve primordial a medida que estos sistemas de IA agéntica ganan popularidad en todas las organizaciones. La capacidad de estos sistemas para decidir de forma independiente subraya la necesidad crítica de marcos sólidos que garanticen una conducta ética, la transparencia y la rendición de cuentas. Phaedra Boinodiris, líder global de IA confiable de IBM, analiza el “bombo” en torno a la IA agéntica y la necesidad de una gobernanza de la IA en esta sesión de preguntas y respuestas.

Teaganne Finn: Por favor, explique la IA agéntica. ¿Está justificada la emoción que rodea a esta tecnología?  

Phaedra Boinodiris: Hay un enorme interés por la IA agéntica. Si lo pensamos bien, es como tener varias soluciones de IA o modelos de IA diferentes encadenados, donde la salida de un modelo de IA servirá como entrada para otro modelo de IA.

TF: ¿Podría compartir algunos ejemplos de la IA agéntica en acción?

PB: Claro. Comencemos con los vehículos autónomos, un ejemplo clásico. Estos sistemas van más allá del simple reconocimiento de imágenes; incorporan capacidades de procesamiento del lenguaje natural, toma de decisiones e incluso planificación. No solo ven, sino que razonan y actúan.

Un ejemplo más cercano podría ser un robot inteligente de limpieza doméstica. Mapea su espacio vital, evita obstáculos, aprende rutas de limpieza óptimas y decide cuándo limpiar en función de su horario o preferencias. Es un agente que actúa con autonomía en un entorno físico.

O considere un agente de IA personal inteligente. Digamos que está planeando un viaje a Madrid. Le dice la ubicación de su hotel, sus intereses (música, comida, arte) y sus limitaciones, como un presupuesto de 50 EUR y un límite de diez millas a pie. En respuesta, el agente de IA cura un itinerario, hace reservas y lo optimiza en función del tiempo, la proximidad y las preferencias. No se trata solo de responder a sus preguntas, sino de hacer el trabajo por usted.

Ahora permítanme compartir algunos casos de uso de nivel empresarial en los que IBM ha trabajado:

En los servicios financieros, una solución de IA agéntica clasifica y tria las quejas de los clientes. Mediante el procesamiento del lenguaje natural, identifica palabras clave y sentimientos, como "reembolso", "lesión" o "seguridad", para priorizar y enrutar los mensajes de forma adecuada. El sistema puede incluso redactar respuestas personalizadas alineadas con el tono y la política de la empresa. 

Al estructurar los mensajes no estructurados en categories y acciones claras, la IA reduce los tiempos de resolución y garantiza que los asuntos urgentes se escalen para su revisión humana. IBM ha implementado soluciones similares con los principales bancos para mejorar la experiencia del cliente y el cumplimiento normativo.

En las ciencias biológicas, la IA agéntica se utiliza para optimizar la documentación normativa. Una solución de IBM genera automáticamente borradores de informes de alta calidad a partir de datos de ensayos clínicos, publicaciones de investigación y documentación técnica. Entrenada en base a presentaciones reglamentarias anteriores, la IA produce contenido en formatos estructurados compatibles con las directrices de la agencia.

Los revisores humanos permanecen en el bucle, garantizando la precisión y la trazabilidad. No solo acelera el tiempo de comercialización de los nuevos fármacos, sino que también reduce el esfuerzo manual y los errores, lo cual es crítico en una industria altamente regulada.

Para los fabricantes de electrodomésticos, IBM ha proporcionado herramientas de autoservicio impulsadas por IA para gestionar consultas complejas y de cola larga de los clientes, como encontrar piezas de repuesto, comparar productos o solucionar problemas. Estas consultas son diversas y poco frecuentes, a menudo demasiado específicas para los chatbots tradicionales. La solución agéntica extrae información de bases de conocimiento dispar para proporcionar respuestas precisas, reduciendo la carga en los centros de contacto y mejorando la satisfacción del cliente a escala.

TF: Las nuevas tecnologías conllevan mayores riesgos relacionados con la ética y la gobernanza de la IA. ¿Puede explicar algunas de esas preocupaciones? 

PB: La IA predictiva o tradicional conlleva riesgos que necesitan guardarraíles seguros. Hay muchas noticias que detallan cómo organizaciones con buenas intenciones desplegaron modelos de IA tradicionales inexactos o injustos. La IA generativa amplificó esos riesgos e introdujo otros nuevos. Ahora, con una mayor autonomía en los agentes de IA, existen riesgos nuevos y amplificados. 

Para las organizaciones que tal vez no cuenten con una gobernanza de la IA fundamental, las organizaciones que buscan dar el salto a la IA agéntica tienen un alcance aún mayor. Una curva de aprendizaje aún mayor a la hora de averiguar cómo nos aseguramos de que estas soluciones de IA son confiables. 

Para aprovechar realmente el potencial de la IA, las organizaciones no solo deben "aplicar la IA adecuada", es decir, elegir los casos de uso de modelos de IA adecuados en los que invertir y que estén alineados con la estrategia de la misión, sino también "aplicar la IA correctamente". Para aplicar bien la IA, las organizaciones deben ir más allá de una atención centrada en la infraestructura, los modelos y las operaciones para abordar el desafío sociotécnico de ganarse la confianza.

La confianza en los sistemas de IA no puede lograrse únicamente mediante soluciones técnicas, sino que requiere un enfoque holístico que abarque a las personas, los procesos y las herramientas. La confianza debe construirse intencionadamente a través de la transparencia, la formación y la inclusión.

TF: Una crítica cuando se trata de la IA responsable es la sofocación de la innovación. ¿Podría describir este equilibrio entre ética y creatividad? 

PB: Creo que cuando las personas se muestran críticas con respecto al tema de la ética y el gobierno de la IA, o con respecto al tema de la regulación en lo que se refiere a la IA, lo que expresan es su preocupación por la posible represión de la innovación y la creatividad. Pero yo señalaría la estadística de fracaso del 75 % a la que hacen referencia muchos analistas. 

El 75 % de las inversiones en IA fracasan. Se quedan estancados. Se quedan estancados en la prueba de concepto. Nunca aportan el retorno de la inversión (ROI) esperado que buscan los inversores. Y una de las principales razones por las que fracasan es porque no se han ganado la confianza de la gente o la gente confía DEMASIADO en la IA.  

El objetivo principal debe ser elegir la IA adecuada para resolver el problema que aumentará nuestra inteligencia, y luego hacer esa IA correctamente haciendo el trabajo duro necesario para ganarse la confianza de las personas. No hay una opción fácil aquí.

Los sistemas de IA deben estar seguros contra los adversarios. Deben reflejar la intención de manera adecuada. Deben tener resultados justos, ser transparentes y verdaderamente explicables, y mantener nuestra privacidad de datos. Los agentes deben ser observables para que podamos rastrear lo que realmente está sucediendo. Y sí, dado el insaciable apetito que la IA tiene por la energía y el agua, necesitamos que estos sistemas también sean ambientalmente sostenibles. 

No se puede tener confianza sin tener responsabilidad. He escrito mucho sobre el tema de la responsabilidad y hemos publicado muchos documentos del IBV sobre este tema. Gartner publicó este año un artículo excelente en el que detallaba a sus clientes cómo responsabilizar contractualmente a los proveedores de los resultados de la IA.  

Y como he mencionado anteriormente, nada de esto es fácil. No hay una opción fácil para desarrollar la IA de una manera que merezca nuestra confianza, pero el esfuerzo es de vital importancia. Y una vez que hace el esfuerzo fundacional, ENTONCES puede ir rápido como se explica bien en esta analogía de la pista de carreras. Especialmente a medida que nuevas tecnologías como la IA agéntica continúan evolucionando, será necesaria una mayor gobernanza.