Los agentes de IA evolucionan rápidamente, lo que supone un reto para la supervisión humana

El inversor de Silicon Valley Marc Andreessen ha transferido 50 000 USD en Bitcoin a un bot de IA de X. El destinatario, conocido como “Truth Terminal” o @truth_terminal, es un agente de IA semiautónomo que ha estado activo en la plataforma desde mediados de junio y que se ha ganado seguidores entre los entusiastas de la tecnología y los aficionados a la IA.

El intercambio comenzó cuando Andreessen, cofundador de la empresa de capital riesgo Andreessen Horowitz, preguntó por los objetivos y las necesidades financieras del bot. Tras debatirlo, acordó proporcionar una subvención única de 50 000 USD, y la transacción se completó utilizando bitcoins. La IA proporcionó una dirección de monedero para la transferencia, lo que marcó una notable intersección entre las criptomonedas y la inteligencia artificial.

Truth Terminal, creada por Andy Ayrey, se describe como una IA que funciona con cierto nivel de independencia. El papel de Ayrey es aprobar las publicaciones del bot y decidir con quién interactúa en X. Esta configuración representa una nueva frontera en el desarrollo de la IA, en la que se dota a los agentes artificiales de una autonomía cada vez mayor en sus interacciones con los humanos.

Algunos observadores afirman que la aparición de agentes de IA como Truth Terminal marca un punto de inflexión en la inteligencia artificial. A diferencia de las herramientas tradicionales de IA que realizan tareas específicas basadas en la entrada humana, estos agentes pueden tomar decisiones independientes e interactuar con su entorno de formas cada vez más complejas.

Benjamin Lee, un profesor de la Universidad de Pensilvania, explica cómo los agentes de IA podrían mejorar la interacción del usuario con la IA generativa: “En lugar de proporcionar instrucciones individuales, el usuario humano podría establecer un objetivo general y pedir a un agente de IA que desarrollara un plan o una secuencia de análisis que permitiera alcanzar dicho objetivo”. Lee añade que los agentes de IA podrían operar tanto en mundos virtuales como ciberfísicos, ampliando las capacidades de la IA generativa e interactuando con el entorno físico.

Alan Chan, investigador del Centre for the Governance of AI, ofrece una perspectiva similar sobre el potencial de los agentes de IA. “Los futuros agentes de IA más capaces podrían ser útiles para automatizar tareas esenciales que son tediosas, peligrosas o indeseables por otros motivos”, afirma Chan. Él imagina que la IA puede abordar retos complejos, como “analizar un código base en busca de vulnerabilidades de seguridad” o realizar investigaciones científicas independientes.

Sin embargo, ambos expertos subrayan la necesidad de medidas de seguridad. Lee sugiere que “los agentes de IA deberían poder producir explicaciones interpretables o detallar su plan. Los humanos deberían poder inspeccionar o diagnosticar las causas de los resultados o acciones de un agente”. También propone una nueva salvaguarda en la que “el agente podría aprender y proponer una secuencia de análisis o pasos hacia un objetivo, pero el usuario humano podría necesitar aprobar ese plan antes de la ejecución”.

Chan se hace eco de este sentimiento y señala: “Todavía hay que trabajar para averiguar qué salvaguardas serían apropiadas y cuándo”. Las posibles medidas incluyen “restringir las acciones que un agente puede realizar en nombre del usuario, mantener la capacidad del usuario de detener al agente y dejarle claro al usuario lo que está haciendo el agente”.

El reto de controlar a los agentes de IA se vuelve aún más abrumador a medida que se acercan o superan la inteligencia humana. Roman V. Yampolskiy, distinguido profesor de la Universidad de Louisville, señala un reto importante: “Si se vuelven más inteligentes que los humanos, actualmente no tenemos ninguna técnica para controlarlos en una dirección positiva o negativa”.

Los posibles impactos sociales de la adopción generalizada de la IA son sustanciales. Yampolskiy sugiere que los agentes de IA avanzados podrían “hacer todos los trabajos y, por lo tanto, provocar casi un 100 % de desempleo”. Este escenario plantea preguntas sobre las estructuras sociales y los sistemas económicos.

Lee ofrece una visión más mesurada: “Aunque la IA generativa ha sido sorprendentemente capaz, aún no hemos visto un impacto generalizado en el empleo humano y las estructuras sociales”. Señala que la IA puede mejorar la productividad de los trabajadores en campos como la programación informática o el trabajo paralegal, lo que podría reducir las necesidades de contratación. Lee también señala que “la IA también puede aumentar el volumen de contenido generado artificialmente y cambiar la forma en que los humanos perciben y consumen los medios”.

Koustuv Saha, profesor adjunto de Informática en la Universidad de Illinois, enfatiza la cautela en campos sensibles. “A menos que haya pruebas suficientes de que la IA no es probable que cause daño, no debe llevarse a la práctica”, advierte Saha, especialmente en áreas como la atención médica.

A medida que los agentes de IA se hacen más frecuentes, las cuestiones de responsabilidad legal y ética se vuelven cada vez más complejas. ¿Quién es responsable cuando una IA autónoma toma una decisión que provoca daños? Estas preguntas desafían los marcos legales y los principios éticos existentes.

La posibilidad de que los agentes de IA sean manipulados o secuestrados con fines malintencionados añade otro motivo de preocupación. La investigación de Chan se centra en el desarrollo de salvaguardas y sistemas de control para detectar y prevenir estos usos indebidos. “Al utilizar o interactuar con un agente, es posible que también desee algún tipo de monitor que le indique si el agente está siendo manipulado”, sugiere.

En cuanto al potencial de los agentes de IA para desarrollar sus propios objetivos o motivaciones, Lee afirma: “En la actualidad, es posible que los agentes de IA no tengan suficiente contexto para proponer nuevos objetivos”. Explica que “es probable que los usuarios humanos proporcionen el objetivo, mientras que es probable que los agentes deduzcan los pasos intermedios necesarios para lograrlo”.

A pesar de estos retos, el desarrollo de los agentes de IA continúa a un ritmo acelerado, impulsado por sus inmensos beneficios potenciales y su ventaja competitiva para las empresas.

El informe Total Economic Impact de Forrester de IBM® watsonx Assistant reveló que los clientes de la solución de IA obtuvieron 23 millones de dólares en beneficios durante un periodo de tres años, lo que equivale a un ROI del 370 %. En la práctica, esto se traduce en un mayor compromiso con el cliente y en mejores experiencias tanto para el usuario como para el agente humano.

La clave de este éxito es la confianza, y saber cuándo se necesita la entrada humana para reforzarla. “Queremos asegurarnos de que los usuarios sepan que los datos que dan y reciben son precisos y seguros”, explicó Morgan Carroll, ingeniero sénior de IA de IBM, en un episodio reciente del pódcast La IA en acción. Carroll también subrayó la importancia de informar a los clientes desde el principio cuando hablan con un agente de IA.

Cuando las necesidades de un cliente se vuelven más matizadas o se prefiere un toque más personal, es cuando interviene un ser humano. “A veces hay lugares en los que necesitamos introducir a un ser humano”, afirmó Jeannie Walters, ponente y formadora en experiencia del cliente, en el episodio. “Necesitamos tanto la empatía que puede aportar un ser humano como... esa comprensión”.

A medida que los sistemas de IA se hacen más inteligentes y más independientes, los expertos reclaman mejores medidas de seguridad y un trabajo en equipo global. Las decisiones que tomemos ahora sobre la IA determinarán el desarrollo de la tecnología y la sociedad en el futuro. Truth Terminal es solo un ejemplo de estos nuevos agentes de IA. Es pronto, pero estos programas ya están planteando grandes preguntas. A medida que avanza la IA, tenemos que reflexionar profundamente sobre qué es la inteligencia y cómo encajan los seres humanos en un mundo en el que las máquinas pueden actuar por sí mismas.