La brecha de la rendición de cuentas en la IA autónoma 

Los agentes de IA ya no son experimentales. Ya están realizando transacciones, modificando la infraestructura, consultando datos confidenciales y actuando en los sistemas de la empresa, a menudo con muy poca intervención humana. Lo que ha cambiado no es solo la automatización. Es la agencia.

Y la agencia cambia todo lo relacionado con la identidad, el acceso y la responsabilidad.
Estos sistemas no solo ejecutan instrucciones; deciden qué acciones tomar, delegan autoridad y operan continuamente en lugar de solo cuando se activan. Inician herramientas, API y sistemas de forma autónoma, a menudo actuando en nombre de usuarios, equipos u otras máquinas. Al hacerlo, introducen ambigüedad en torno a la intención, la autoridad y la responsabilidad.

La mayoría de las empresas siguen gobernando el acceso mediante el uso de modelos de identidad diseñados en las últimas dos décadas: modelos creados para operadores humanos, no para máquinas. Como resultado, las organizaciones corren el riesgo de desplegar agentes autónomos sin la capacidad de responder con confianza a preguntas básicas de responsabilidad.

Estas preguntas no solo vendrán de auditores, entes reguladores y su junta directiva. Las organizaciones corren el riesgo de que sus clientes cuestionen las transacciones que se realicen. Estas preguntas se presentan de muchas formas:

• ¿Quién autorizó esta transacción de principio a fin?
• ¿Qué humanos son responsables del proceso general y, si es necesario, proporcionan el consentimiento en tiempo de ejecución?
• ¿Todos los agentes y usuarios se autenticaron utilizando el método de autenticación más seguro disponible?
• ¿Para qué estaba configurado exactamente el agente y solo hizo eso?
• ¿El agente perdió el privilegio una vez que se realizó esa transacción?
• ¿Puede mostrarme una pista de auditoría que vincule la responsabilidad total en toda la transacción?
• ¿Podemos revocar la autoridad del agente al instante, en todas partes?

Si usted no puede responder esas preguntas, no tiene la gobernanza que necesita para evitar auditorías fallidas y daños a su reputación.

La gestión de acceso a identidades (IAM) tradicional se basa fundamentalmente en la idea de que el acceso se puede planificar con anticipación: se puede asignar a identidades conocidas, revisar periódicamente y aplicar al iniciar sesión. Ese enfoque funciona cuando el comportamiento es predecible y acotado. La IAM tradicional asume tres cosas:

1. Las identidades son máquinas humanas o estáticas.
2. El acceso se basa en sesiones y se aprovisiona de acuerdo con un ciclo de vida periódico.
3. La autenticación desbloquea la sesión, y la autorización es en gran medida imprecisa, mientras que el acceso se concede en función de atributos generales y amplios, como el rol o el departamento del usuario.

La IA agéntica desafía estas tres suposiciones. Los agentes autónomos son no determinísticos, operan a la velocidad de una máquina y actúan de manera continua en diferentes API, herramientas y entornos. En este modelo, la identidad ya no es una cuenta humana estable ni un principio de servicio de larga duración. Puede ser efímera y estar diseñada específicamente para una capacidad, un flujo de trabajo o incluso una sola transacción, y luego revocarse inmediatamente después de su ejecución.

Un flujo agéntico de extremo a extremo tiene muchos agentes que inician sesión una vez, cada uno de los cuales ejecuta una actividad discreta. No “inician sesión” una vez. Pueden tomar miles de decisiones por hora, a menudo en nombre de usuarios, sistemas u otros agentes. Tienen identidad propia e interactúan entre sí en flujos transaccionales de extremo a extremo que cruzan los límites de la confianza.

Cuando las organizaciones aplican patrones de IAM humanos a los agentes, surgen 4 fallas sistémicas:

• Exceso de privilegios sin visibilidad: los agentes acumulan acceso permanente porque revocar y volver a aprobar permisos ralentiza la innovación. Ese acceso casi nunca caduca.
• Delegación invisible:
  muchos agentes reutilizan los token de los usuarios en lugar de recibir la autoridad delegada. Este método elimina la separación de auditoría y traslada la responsabilidad a personas que nunca aprobaron la acción.
• No hay control donde se realizan las acciones: es posible que existan políticas, pero las acciones concretas (como las llamadas a la API, el acceso a los datos y los cambios de configuración) suelen llevarse a cabo sin controles en tiempo real.
• Ausencia total de rendición de cuentas cuando las cosas salen mal: tras un incidente, los equipos no pueden reconstruir de manera confiable qué sucedió, por qué ni bajo la autoridad de quién.

Este problema no es una falta de herramientas; es una falta de gobernanza que hay que subsanar.

El principal error que cometen las empresas es tratar la identidad de los agentes como un problema de credenciales. Las credenciales son importantes, pero en los sistemas agénticos ya no son un único evento de inicio de sesión que establece confianza en todo lo que sigue. 

Por el contrario, los agentes operan de manera continua, ejecutan múltiples herramientas, interactúan entre sistemas y realizan numerosas acciones independientes a lo largo del tiempo. Eso significa que la identidad y la autorización no se pueden “establecer una vez” al comienzo de una sesión; deben validarse y aplicarse a lo largo del flujo de trabajo.

La IA agéntica requiere un cambio del control de acceso al control de autoridad. Esto significa:

• Cada usuario que participe en un flujo agéntico debe pasar por un proceso de autenticación sólida para que se pueda garantizar la integridad y la rendición de cuentas.
• Cada agente debe tener una identidad verificable de primera clase.
• Cada acción debe estar vinculada a una intención y aprobación explícitas.
• Cada permiso debe tener un alcance y un límite de tiempo y ser revocable.
• Cada decisión de autorización debe poder demostrarse a posteriori.

No se trata de frenar el avance de la IA, sino de garantizar que la autonomía sea segura. Si bien la autenticación sigue siendo una demanda central de cualquier sistema, la autorización debe convertirse en un actor de primera clase en un sistema de gestión de acceso. Esto tiene serias implicaciones para quienes implementan programas de IAM.  

Muchas organizaciones intentan reducir el riesgo de los agentes implementando controles de gobernanza en fragmentos. Cada fragmento resuelve parte del problema, pero ninguno puede demostrar quién autorizó qué, bajo qué condiciones y con qué credenciales. Estos fragmentos incluyen:

• Plataformas de identidad que entienden a los usuarios, pero no a las máquinas
• Plataformas secretas que emiten credenciales, pero carecen de contexto
• Motores de políticas desconectados de la aplicación del tiempo de ejecución

Ninguno de estos elementos por sí solo puede gobernar a los agentes. La gobernanza real surge solo cuando la identidad, la política y las credenciales operan dentro de un único plano de control, donde la identidad responde quién y por qué, y las credenciales responden qué y cuánto tiempo. Se integran en un caso de uso para ofrecer integridad y responsabilidad.

Es aquí donde la combinación de IBM Verify y HashiCorp Vault cobra una eficacia única. En conjunto, acortan la brecha entre el contexto de identidad y el control de credenciales, vinculando la intención, la política y la aprobación con los secretos y tokens reales que los agentes utilizan en tiempo de ejecución. En lugar de tratar la identidad y los secretos como dominios separados, Verify y Vault crean un plano de control unificado para gobernar la autoridad del agente con una aplicación real, no solo documentación.

IBM Verify determina quiénes son los usuarios y los agentes, qué acciones están autorizadas para los agentes y bajo qué condiciones los usuarios y los agentes están autorizados a realizarlas.  

HashiCorp Vault almacena y negocia secretos de forma segura, genera credenciales dinámicas bajo demanda, aplica TTL, renovación y revocación y proporciona registros centralizados de políticas y auditorías. Por tanto, los agentes nunca necesitan credenciales permanentes codificadas o flujos de trabajo.

En conjunto, crean algo que las empresas nunca han tenido para los agentes de IA: control demostrable sin cuellos de botella humanos.

Los entes reguladores ya están actuando. Los auditores ya no se conforman con el enfoque tradicional de la gestión de identidades humanas y del ciclo de vida; ahora buscan evaluaciones de los procesos en tiempo de ejecución. Exigen:

• Identidades únicas de agentes con controles estrictos de gestión de acceso
• Diseños que consideran conjuntamente las identidades humanas y de las máquinas
• Registros de auditoría completos de principio a fin
• Procesos claros en torno al acceso justo a tiempo y el acceso justo con revocación

Los atacantes se mueven más rápido que los defensores, y atacan a los agentes de IA precisamente porque es probable que operen con privilegios acumulados y poca supervisión.

La IA agéntica no va a llegar. Ya está aquí. La pregunta ya no es si los agentes ejecutarán acciones críticas para el negocio, sino si las empresas pueden probar que esas acciones fueron autorizadas, definidas y responsables.

Las organizaciones que inviertan ahora en gobernanza deliberada estarán listas: preparadas para auditorías de forma predeterminada, y serán resilientes bajo escrutinio y capaces de desplegar autonomía sin miedo. Así es como se logra que la IA agéntica pase de ser un riesgo a convertirse en una ventaja duradera.