¿Qué es la gestión de agentes de IA?

El concepto ha ganado atención a medida que los sistemas de inteligencia artificial se han vuelto más autónomos e integrados en las operaciones empresariales. Los primeros sistemas de IA solían realizar tareas específicas bajo la supervisión directa de personas. Los agentes de IA modernos pueden completar flujos de trabajo de varios pasos, interactuar con sistemas externos y tomar decisiones con una intervención mínima.

A medida que las organizaciones despliegan un mayor número de agentes en distintos departamentos y plataformas, necesitan cada vez más métodos centralizados para gestionar la seguridad de los agentes y el control operativo. Gartner predice que, para 2028, el 33 % de las aplicaciones de software empresarial incluirá IA agéntica, frente a menos del 1 % en 2024.¹

La gestión de agentes de IA suele combinar controles técnicos con políticas operativas. Los controles técnicos pueden incluir herramientas de monitoreo, sistemas de permisos y registros de actividad. Las políticas operativas suelen definir quién puede desplegar agentes, qué tareas pueden realizar y cómo debe funcionar la revisión humana. En conjunto, estos controles ayudan a las organizaciones a gestionar los riesgos sin impedir que los agentes trabajen de manera eficiente.

Las organizaciones suelen abordar la gestión de los agentes de IA como una capa intermedia entre los modelos de IA y las operaciones comerciales. Esta capa de gestión puede coordinar varios agentes, distribuir tareas y realizar un seguimiento del rendimiento a lo largo del tiempo. También puede ayudar a las organizaciones a estandarizar la forma en que los agentes acceden a los sistemas internos o a las aplicaciones externas.

Muchas organizaciones ahora conectan esta capa con la idea más amplia de un plano de control de agentes, que proporciona supervisión centralizada para la orquestación del agente, los permisos, la gestión de identidades y las operaciones del ciclo de vida. Esta estructura permite ampliar los despliegues de agentes con mayor visibilidad y coherencia operativa.

El campo también refleja un cambio más amplio en la forma en que las empresas piensan sobre la adopción de la IA. El software tradicional suele seguir reglas fijas que los desarrolladores definen de antemano. Los agentes de IA pueden comportarse de manera menos predecible porque responden dinámicamente las instrucciones, los datos y los entornos cambiantes. Muchos de estos sistemas se construyen sobre modelos de lenguaje grandes (LLM) y tecnologías de IA generativa que pueden adaptar respuestas en tiempo de ejecución. Esa flexibilidad genera nuevas oportunidades, pero también plantea retos en materia de gobernanza de los agentes de IA que muchas de las prácticas actuales de gestión de TI no fueron diseñadas para abordar.

La gestión de agentes de IA se está volviendo esencial para escalar los despliegues de IA agéntica. Sin una supervisión coordinada, los despliegues pueden volverse fragmentados, incompatibles con las políticas de gobernanza y una visibilidad limitada sobre la actividad de los sistemas. Este problema a veces se denomina expansión de agentes de IA, donde un gran número de agentes desconectados se vuelve difícil de monitorear, mantener o gobernar de manera efectiva. En respuesta, los proveedores están introduciendo plataformas dedicadas que llevan la orquestación, el gobierno y la observabilidad a una capa de gestión unificada.

Los agentes de IA están cambiando la forma en que operan las organizaciones. Los clientes de Salesforce informan que los agentes de IA y asistentes están generando un sólido retorno de la inversión (ROI) en TI, ventas y atención al cliente.² A medida que los agentes asumen responsabilidades más amplias, las organizaciones necesitan estructuras más claras para coordinar su actividad y gestionar la forma en que interactúan con los empleados y los sistemas.

El cambio hacia la IA agéntica también cambia la forma en que las empresas piensan sobre la supervisión operativa. Los sistemas de software tradicionales son predecibles y tienen un alcance estrecho. Los agentes de IA operan con mayor flexibilidad, ya que pueden interpretar objetivos, hacer recomendaciones e interactuar con múltiples herramientas en tiempo real. Esta flexibilidad mejora la eficiencia, aunque al mismo tiempo introduce complejidad. Las organizaciones necesitan métodos centralizados para supervisar el comportamiento, gestionar los permisos y mantener la visibilidad en redes extensas de agentes.

Cada vez más empresas están adoptando sistemas multiagente. Es posible que los distintos departamentos utilicen agentes especializados en finanzas, atención al cliente, seguridad o análisis de datos. Con el tiempo, estos sistemas pueden fragmentarse si cada equipo gestiona a los agentes de forma independiente. Una capa de gestión ayuda a las organizaciones a crear modelos de gobernanza coherentes, normas operativas compartidas y una supervisión centralizada en todos los departamentos y plataformas.

Los entornos con múltiples agentes están generando nuevas responsabilidades para los equipos de TI, seguridad, cumplimiento y plataformas. En algunas organizaciones, los grupos de gobernanza de la IA se están ampliando para incluir la supervisión de la orquestación de agentes, la gestión de identidades y las operaciones del ciclo de vida. A medida que aumenta su adopción, la gestión de agentes de IA se está convirtiendo en parte de la infraestructura general que respalda las operaciones empresariales y las iniciativas de IA a largo plazo.

Es probable que la importancia de la gestión de los agentes de IA aumente a medida que las organizaciones integren estos agentes de forma más profunda en los procesos empresariales fundamentales. La gestión de agentes de IA ayudará a las organizaciones a mantener el control sobre ecosistemas de agentes cada vez más complejos, al tiempo que apoyan esfuerzos más amplios de transformación del negocio.

Hay varios factores que están impulsando la adopción de la gestión de agentes de IA:

Preocupaciones sobre despliegues fragmentados: sin una supervisión centralizada, las organizaciones pueden tener dificultades con agentes desconectados, una gobernanza incongruente y una rendición de cuentas limitada entre los equipos.

Exigencia de mayor visibilidad: las empresas necesitan cada vez más información sobre el comportamiento de los agentes, a qué sistemas acceden y cómo se toman las decisiones en tiempo real.

Expansión de entornos multiagente: muchas empresas están desplegando agentes especializados para diferentes funciones o departamentos. Las plataformas de gestión ayudan a coordinar estos agentes dentro de un marco operativo común.

Aumento de la complejidad operativa: los agentes de IA pueden interactuar con diversos sistemas, herramientas y flujos de trabajo al mismo tiempo. Las organizaciones necesitan una coordinación centralizada a medida que estos entornos se vuelven cada vez más interconectados.

Integración con los sistemas empresariales: los agentes de IA están cada vez más conectados con las plataformas en la nube, las interfaces de programación de aplicaciones (API) y las aplicaciones empresariales internas. Esta integración aumenta la necesidad de contar con niveles de gestión operativa.

Necesidad de control centralizado: las organizaciones quieren políticas más congruentes en torno a permisos, aprobaciones y supervisión operativa a medida que se expanden los despliegues de agentes.

Pasar de la fase experimental a la escala operativa: muchas empresas están dejando atrás los proyectos piloto aislados de IA y desarrollando estrategias a largo plazo para gestionar los ecosistemas de agentes. La creciente disponibilidad de herramientas de IA, plataformas sin código y plantillas reutilizables también está facilitando el despliegue de agentes de IA en todos los equipos de la empresa.

Los casos de uso para la gestión de IA varían según la industria y el tamaño del negocio. La mayoría de las organizaciones adoptan la gestión de agentes de IA cuando los agentes comienzan a interactuar con múltiples sistemas, flujos de trabajo o equipos. Los casos de uso de agentes de IA en el mundo real incluyen:

Los agentes de IA se utilizan cada vez más en BPA para coordinar los flujos de trabajo entre los equipos de finanzas, adquisiciones y operaciones. Algunas organizaciones también están ampliando estos flujos de trabajo a entornos de la cadena de suministro, donde los agentes de IA ayudan a realizar un seguimiento de la actividad de inventario y a señalar las interrupciones. Por ejemplo, un agente de IA podría procesar envíos de gastos, detectar actividades inusuales y remitir solicitudes de gastos de alto valor para recibir comentarios adicionales.

Muchas empresas utilizan agentes de IA para gestionar solicitudes de asistencia, derivar tickets y recuperar información de los sistemas internos. La gestión de agentes de IA ayuda a las organizaciones a monitorear cómo interactúan los agentes con los clientes y a aplicar normas sobre aprobaciones o derivaciones. Estos sistemas se utilizan cada vez más para mejorar las experiencias digitales del cliente y, al mismo tiempo, mantener la supervisión humana para las interacciones sensibles. Por ejemplo, un agente de soporte podría manejar preguntas rutinarias de facturación por su cuenta, pero transferir los problemas más confidenciales a un representante humano.

Las organizaciones suelen desplegar agentes que buscan documentos internos, resumen información y apoyan los flujos de trabajo de investigación de los empleados. La gestión de agentes de IA ayuda a controlar el acceso a la información confidencial y a realizar un seguimiento de cómo los agentes recuperan o comparten datos. Por ejemplo, un agente de investigación jurídica puede acceder a los repositorios de documentos autorizados, pero no tiene acceso a los expedientes confidenciales de RR. HH.

Los agentes de IA pueden automatizar las tareas de monitoreo de infraestructura, respuesta a incidentes y mantenimiento del sistema. En estos entornos, las capas de gestión ayudan a las organizaciones a realizar un seguimiento de las acciones de los agentes y a mantener la visibilidad operativa en todas las plataformas en la nube o los sistemas internos. Por ejemplo, un agente de IA podría identificar actividades inusuales en el servidor y crear automáticamente un ticket de incidente mientras alerta a los equipos de seguridad.

Algunas organizaciones despliegan múltiples agentes especializados que colaboran dentro de flujos de trabajo más grandes. La gestión de agentes de IA ayuda a coordinar las responsabilidades entre estos agentes, al tiempo que se mantiene la visibilidad del proceso en su conjunto. Por ejemplo, un agente puede recopilar datos de los clientes, otro puede analizar el historial de la cuenta y un tercero puede generar recomendaciones para un equipo de ventas.

Industrias como la atención médica, los servicios financieros y los seguros a menudo requieren una mayor gobernanza y auditabilidad en torno a los sistemas de IA. La gestión de agentes de IA ayuda a las organizaciones a documentar la actividad de los agentes y a aplicar controles operativos que garanticen el cumplimiento de los requisitos normativos. Por ejemplo, una organización de atención médica puede usar herramientas de gestión para rastrear a qué sistemas accedió un agente de soporte clínico durante el flujo de trabajo del paciente.

Los equipos de seguridad pueden utilizar agentes de IA para analizar alertas, investigar anomalías o ayudar en la detección. Dado que estos agentes suelen interactuar con sistemas sensibles, las organizaciones suelen aplicar controles de supervisión y gobernanza más estrictos. Por ejemplo, un agente de seguridad podría recopilar información de múltiples herramientas de monitoreo antes de recomendar una respuesta para la aprobación humana.

Los equipos de desarrollo utilizan cada vez más agentes de IA para ayudar en las tareas de programación, pruebas y documentación. Las plataformas de gestión ayudan a coordinar cómo estos agentes acceden a los repositorios, interactúan con las herramientas de desarrollo y siguen las políticas de la organización. Por ejemplo, una organización podría permitir que los agentes de programación sugieran cambios mientras restringen los despliegues directos de producción sin revisión humana.

La gestión de agentes de IA es más compleja que las operaciones tradicionales de IA, ya que los agentes de IA son más dinámicos que los sistemas de IA anteriores. Los sistemas de IA tradicionales están diseñados para tareas específicas, como la clasificación, la predicción o la generación de contenido. El flujo de trabajo en torno a esos sistemas suele permanecer prácticamente inalterado.

Los agentes de IA funcionan de manera diferente porque pueden interpretar objetivos, tomar decisiones e interactuar con herramientas externas durante la ejecución. Ese cambio genera nuevos requisitos operativos que las prácticas estándar de gestión de la IA no están diseñadas para abordar.

Algunas de las diferencias más importantes incluyen:

• Estructura de despliegue: los despliegues tradicionales de IA a menudo se aíslan en aplicaciones o departamentos individuales. Los agentes de IA se despliegan cada vez más en entornos multiagente interconectados.
  
  
• Ámbito de la gobernanza: la gobernanza convencional de la IA se centra principalmente en el riesgo de los modelos y el manejo de datos. La gestión de agentes introduce más preocupaciones en torno a la autonomía y la aplicación de políticas.
  
  
• Enfoque de gestión: las operaciones tradicionales de IA suelen centrarse en modelos y pipelines de datos. La gestión de agentes de IA se centra en coordinar el comportamiento de los agentes en los flujos de trabajo y los sistemas conectados.
  
  
• Requisitos de monitoreo: el monitoreo tradicional a menudo mide la precisión del modelo o el tiempo de actividad. La gestión de agentes de IA también requiere visibilidad sobre las acciones, los permisos y los procesos de toma de decisiones.
  
  
• Flexibilidad operativa: los sistemas de IA anteriores suelen operar dentro de límites predefinidos. Los agentes de IA pueden adaptar sus acciones en función del contexto o de las entradas. En muchos entornos, los agentes están diseñados para una mayor concientización del contexto. Esta capacidad les permite responder dinámicamente a medida que los flujos de trabajo y los patrones de flujo de datos cambian durante la ejecución.

La gestión de agentes de IA incluye las capacidades operativas y de gobernanza que utilizan las organizaciones para desplegar, coordinar y supervisar agentes de IA a escala. Aunque las plataformas puedan diferir en su enfoque, la mayoría de las estrategias empresariales se centran en un conjunto similar de componentes fundamentales. Estos incluyen:

Las capacidades de gobernanza definen las reglas y los límites que guían el comportamiento de los agentes. Estos controles pueden incluir flujos de trabajo de aprobación, políticas de uso, restricciones operativas y requisitos de cumplimiento que se aplican en toda la organización.

Muchas organizaciones incluyen mecanismos de revisión humana dentro de los flujos de trabajo de los agentes, especialmente para tareas de alto riesgo o críticas para el negocio. La supervisión humana puede implicar aprobaciones, procesos de escalamiento o intervención manual cuando los agentes se encuentran con incertidumbre o resultados inesperados.

Los agentes de IA suelen interactuar con sistemas empresariales, API y fuentes de datos confidenciales. La gestión de identidad y acceso ayuda a las organizaciones a controlar el acceso de los agentes, las acciones y la gestión de permisos a lo largo del tiempo.

Los agentes de IA suelen depender de herramientas externas, software empresarial y servicios en la nube para realizar sus tareas. La gestión de la integración ayuda a coordinar estas conexiones, al tiempo que mantiene la coherencia operativa en todas las plataformas y entornos. Muchas organizaciones también confían en una pasarela de IA, herramientas de gestión de API y una infraestructura de conectores estandarizados para gestionar las interacciones entre agentes de IA y proveedores externos.

La gestión de agentes de IA también incluye procesos para desplegar, actualizar, probar y retirar agentes. La gestión del ciclo de vida ayuda a las organizaciones a mantener la coherencia en todos los entornos, mientras que respalda el control de versiones y la estabilidad operativa. Algunas organizaciones alinean estas actividades con prácticas más amplias del ciclo de vida de desarrollo de agentes (ADLC) para gestionar los sistemas de IA a lo largo de su ciclo de vida operativo.

La observabilidad proporciona visibilidad sobre cómo se comportan los agentes en tiempo de ejecución. Las organizaciones utilizan sistemas de monitoreo para rastrear acciones, revisar rutas de decisión, identificar fallas y analizar cómo los agentes interactúan con los usuarios o los sistemas conectados. Los paneles operativos y las métricas de rendimiento ayudan a los equipos a monitorear la actividad de los agentes a lo largo del tiempo.

La orquestación coordina la forma en que los agentes ejecutan tareas, interactúan con los sistemas y colaboran con otros agentes. En entornos con múltiples agentes, las capas de orquestación pueden enrutar solicitudes, asignar responsabilidades y gestionar flujos de trabajo entre diferentes herramientas o aplicaciones.

A medida que las organizaciones despliegan un mayor número de agentes de IA, muchas adoptan planos de control de agentes para proporcionar una coordinación centralizada y una supervisión operativa. Un plano de control de agentes actúa como la capa de gestión que conecta la orquestación, la gobernanza y la supervisión en los ecosistemas de agentes. En lugar de gestionar los agentes de forma individual, las organizaciones pueden utilizar un plano de control para supervisar el funcionamiento de los agentes en los distintos flujos de trabajo y sistemas.

Los planos de control de agentes suelen admitir varias funciones clave:

• Orquestación centralizada: los planos de control coordinan la forma en que los agentes ejecutan tareas, comparten información e interactúan con otros sistemas o agentes.
  
  
• Gobernanza y aplicación de políticas: las organizaciones pueden aplicar políticas operativas, restricciones de acceso y requisitos de aprobación en múltiples agentes desde una capa centralizada.
  
  
• Observabilidad y monitoreo: los planos de control ofrecen visibilidad sobre el comportamiento en tiempo de ejecución, las interacciones del sistema y la actividad de los agentes en todos los entornos.
  
  
• Gestión de identidades y permisos: muchos planos de control ayudan a las organizaciones a gestionar la autenticación, el acceso al sistema y los permisos basados en roles para los agentes.
  
  
• Coordinación del ciclo de vida: algunas plataformas también admiten la gestión de despliegue, el seguimiento de versiones y el mantenimiento operativo en todos los ecosistemas de agentes.

La creciente atención que se presta a los planos de control de los agentes refleja la creciente complejidad de los entornos de IA empresarial. A medida que las organizaciones avanzan hacia sistemas multiagente interconectados, las capas de gestión centralizadas son cada vez más importantes para mantener la visibilidad, la coordinación y la coherencia operativa.

La gestión de agentes de IA ayuda a las organizaciones a coordinar, gobernar y escalar los agentes de IA de manera más eficaz en todos los entornos empresariales. Los beneficios específicos incluyen:

• Mejor coordinación entre los flujos de trabajo: las capacidades de orquestación facilitan la colaboración entre los agentes, los sistemas empresariales y los procesos de negocio. Esta coordinación puede ayudar a agilizar las operaciones, optimizar el uso de los recursos y generar un mayor valor empresarial a partir de los despliegues de IA.
  
  
• Mayor transparencia: los registros de auditoría, los sistemas de aprobación y la supervisión en tiempo de ejecución ofrecen un registro más claro de cómo los agentes toman decisiones y llevan a cabo acciones.
  
  
• Mayor visibilidad operativa: las herramientas de monitoreo y observabilidad ayudan a las organizaciones a realizar un seguimiento del comportamiento de los agentes, las interacciones del sistema y la actividad de los flujos de trabajo en todos los entornos.
  
  
• Despliegues más escalables: los marcos de gestión estandarizados facilitan a las organizaciones ampliar el uso de agentes en todos los departamentos sin crear entornos fragmentados. Estos marcos también ayudan a las organizaciones a gestionar el creciente volumen de trabajo de los agentes, mientras que garantizan la escalabilidad a largo plazo en todas las operaciones de la empresa.
  
  
• Reducción de la fragmentación operacional: una capa de gestión unificada puede ayudar a las organizaciones a evitar despliegues desconectados y prácticas de gobernanza incongruentes.
  
  
• Gestión simplificada del ciclo de vida: los procesos centralizados de despliegue y mantenimiento ayudan a las organizaciones a gestionar las actualizaciones, las pruebas y el control de versiones de manera más eficiente.
  
  
• Una gestión más sólida: las políticas y estructuras de supervisión centralizadas ayudan a las organizaciones a aplicar normas operativas coherentes en todos los agentes y equipos.

Aunque la gestión de agentes de IA ofrece importantes ventajas operativas, las organizaciones también enfrentan desafíos importantes a medida que despliegan agentes a escala. Muchos riesgos derivan de la naturaleza dinámica y autónoma de los sistemas de IA agéntica.

• Expansión de agentes: a medida que más equipos comienzan a desplegar agentes de forma independiente, las organizaciones pueden perder rápidamente la visibilidad sobre cuántos agentes están operando en toda la empresa o a qué sistemas pueden acceder dichos agentes. Muchas organizaciones abordan este reto mediante la introducción de capas de coordinación centralizadas y normas de gobernanza compartidas que permiten obtener una visión operativa más unificada.
  
  
• Preocupaciones de cumplimiento y responsabilidad: las organizaciones pueden enfrentar dificultades para documentar cómo los agentes tomaron decisiones o realizaron acciones, especialmente en industrias reguladas. La documentación limitada y la débil capacidad de auditoría pueden crear desafíos para los equipos de cumplimiento y los esfuerzos internos de supervisión. Los registros de auditoría, los sistemas de presentación de informes y las políticas de gobernanza centralizadas pueden contribuir a reforzar la rendición de cuentas en todas las operaciones de los agentes.
  
  
• Gobernanza incongruente: los agentes de IA suelen implementarse a ritmos diferentes en las distintas unidades de negocio. Sin una supervisión centralizada, los equipos pueden seguir diferentes procesos de aprobación, prácticas de seguridad o políticas operativas. Estas incongruencias pueden generar confusión y preocupaciones de cumplimiento. Los marcos de gobernanza estandarizados pueden ayudar a las organizaciones a aplicar controles más coherentes en todos los despliegues.
  
  
• Observabilidad limitada: muchas organizaciones aún carecen de visibilidad clara sobre cómo se comportan los agentes en tiempo de ejecución. Cuando los agentes interactúan con múltiples sistemas o toman decisiones autónomas, puede resultar difícil rastrear las acciones o comprender por qué se produjeron determinados resultados. Las herramientas de monitoreo de tiempo de ejecución, el registro de actividades y las capacidades de auditoría cobran cada vez más importancia para mejorar la transparencia operativa.
  
  
• Imprevisibilidad operativa: a diferencia de los sistemas de software tradicionales, los agentes de IA responden de forma dinámica a los cambios en las entradas, las instrucciones y las condiciones de tiempo de ejecución. Esta flexibilidad puede mejorar la adaptabilidad, pero también hace que el comportamiento sea menos predecible en algunas situaciones. Muchas organizaciones reducen este riesgo incorporando procesos de prueba, mecanismos de revisión humana y barreras operativas en los flujos de trabajo de los agentes.
  
  
• Riesgos de seguridad y acceso: los agentes de IA suelen interactuar con sistemas y fuentes de datos confidenciales, lo que puede plantear nuevos retos en materia de permisos y gestión de identidades. Las organizaciones recurren cada vez más a marcos de gestión de identidades, controles de acceso basados en roles y flujos de trabajo de aprobación para reducir estos riesgos.
  
  
• Complejidad del flujo de trabajo: los entornos con múltiples agentes pueden resultar difíciles de coordinar, ya que los agentes interactúan entre plataformas, aplicaciones y servicios externos. Un despliegue sencillo puede evolucionar hacia entornos altamente interconectados. A medida que aumenta la complejidad, las plataformas de orquestación y las prácticas de integración estandarizadas pueden ayudar a las organizaciones a mantener una coordinación más coherente. A medida que los despliegues escalan, las organizaciones también pueden necesitar una supervisión estricta del uso de la infraestructura y los precios de los modelos.