¿Qué es la gestión de agentes de IA?

El concepto ha ganado atención a medida que los sistemas de inteligencia artificial se han vuelto más autónomos y se han integrado en las operaciones empresariales. Los primeros sistemas de IA realizaban a menudo tareas limitadas con supervisión humana directa. Los agentes modernos de IA pueden completar flujos de trabajo de varios pasos, interactuar con sistemas externos y tomar decisiones con una intervención limitada.

A medida que las organizaciones implementan un mayor número de agentes en diferentes departamentos y plataformas, cada vez necesitan más formas centralizadas de gestionar la seguridad y el control operativo de los agentes . Gartner predice que para 2028, el 33 % de las aplicaciones de software empresarial incluirán IA agéntica, frente a menos del 1 % en 2024¹.

La gestión de los agentes de IA suele combinar controles técnicos con políticas operativas. Los controles técnicos pueden incluir herramientas de monitorización, sistemas de permisos y registros de actividad. Las políticas operativas suelen definir quién puede implementar agentes, qué tareas pueden realizar los agentes y cómo debe funcionar la revisión humana. Juntos, estos controles ayudan a las organizaciones a gestionar el riesgo y, al mismo tiempo, permiten a los agentes operar de manera eficiente.

Las organizaciones suelen enfocar la gestión de agentes de IA como una capa entre los modelos de IA y las operaciones empresariales. Esta capa de gestión puede coordinar múltiples agentes, encaminar tareas y realizar un seguimiento del rendimiento a lo largo del tiempo. También puede ayudar a las organizaciones a estandarizar la forma en que los agentes acceden a los sistemas internos o a las aplicaciones externas.

Muchas organizaciones conectan ahora esta capa con la idea más amplia de un plano de control de agentes, que proporciona una supervisión centralizada para la orquestación de agentes, los permisos, la gestión de identidades y las operaciones del ciclo de vida. Esta estructura permite escalar las implementaciones de agentes con mayor visibilidad y coherencia operativa.

El campo también refleja un cambio más amplio en la forma en que las empresas piensan sobre la adopción de la IA. El software tradicional suele seguir reglas fijas que los desarrolladores definen de antemano. Los agentes de la IA pueden comportarse de forma menos predecible porque responden dinámicamente a las instrucciones, los datos y los entornos cambiantes. Muchos de estos sistemas se basan en modelos de lenguaje de gran tamaño (LLM) y en tecnologías de IA generativa que pueden adaptar las respuestas en tiempo de ejecución. Esa flexibilidad crea nuevas oportunidades, pero también introduce desafíos relativos al gobierno de agentes de IA que muchas prácticas de gestión de TI existentes no estaban diseñadas para abordar.

La gestión de agentes de IA se está volviendo esencial para ampliar las implementaciones de IA agéntica. Sin supervisión coordinada, las implementaciones pueden volverse fragmentadas, incompatibles con las políticas de gobierno y una visibilidad limitada sobre la actividad de los sistemas. Este problema se conoce a veces como proliferación de agentes de IA, situación en la que resulta difícil monitorizar, mantener o gestionar de forma eficaz un gran número de agentes desconectados entre sí. En respuesta, los proveedores están introduciendo plataformas dedicadas que aportan orquestación, gobierno y observabilidad en una capa de gestión unificada.

Los agentes de IA están cambiando la forma en que operan las organizaciones. Los clientes de Salesforce señalan que los agentes y asistentes de IA están generando un ROI elevado en los departamentos de TI, ventas y servicio de atención al cliente.² A medida que los agentes asumen responsabilidades más amplias, las organizaciones necesitan estructuras más claras para coordinar su actividad y gestionar la forma en que interactúan con los empleados y los sistemas.

El avance hacia la IA agéntica también cambia la forma en que las empresas conciben la supervisión operativa. Los sistemas de software tradicionales son predecibles y tienen un alcance bien definido. Los agentes de IA operan con mayor flexibilidad porque pueden interpretar objetivos, hacer recomendaciones e interactuar con múltiples herramientas en tiempo real. Esta flexibilidad mejora la eficiencia y, al mismo tiempo, introduce complejidad. Las organizaciones necesitan formas centralizadas de monitorizar el comportamiento, gestionar los permisos y mantener la visibilidad en grandes redes de agentes.

Cada vez más empresas se están pasando a sistemas multiagente. Los distintos departamentos pueden implementar agentes especializados en finanzas, atención al cliente, seguridad o análisis de datos. Con el tiempo, estos sistemas pueden fragmentarse si cada equipo gestiona los agentes de forma independiente. Una capa de gestión ayuda a las organizaciones a crear modelos de gobierno coherentes, estándares operativos compartidos y supervisión centralizada en todos los departamentos y plataformas.

Los entornos multiagente están dando lugar a nuevas responsabilidades para los equipos de TI, seguridad, cumplimiento y plataformas. En algunas organizaciones, los grupos de gobierno de la IA se están ampliando para incluir la supervisión de la orquestación de agentes, la gestión de identidades y las operaciones del ciclo de vida. A medida que crece la adopción, la gestión de agentes de IA se convierte en parte de la infraestructura más amplia que respalda las operaciones empresariales y las iniciativas de IA a largo plazo.

Es probable que la importancia de la gestión de los agentes de IA aumente a medida que las organizaciones los integren más profundamente en sus procesos de actividad principales. La gestión de los agentes de IA ayudará a las organizaciones a mantener el control sobre ecosistemas de agentes cada vez más complejos y respaldará sus esfuerzos generales de transformación empresarial.

Varios factores están impulsando la adopción de la gestión de agentes de IA:

Preocupación por las implementaciones fragmentadas: sin una supervisión centralizada, las organizaciones pueden tener problemas con agentes desconectados, un gobierno incoherente y una responsabilidad limitada entre los equipos.

Demanda de mayor visibilidad: las empresas necesitan cada vez más perspectivas sobre el comportamiento de los agentes, los sistemas a los que acceden y la toma de decisiones en tiempo de ejecución.

Expansión de los entornos con varios agentes: muchas empresas están implementando agentes especializados para diferentes funciones o departamentos. Las plataformas de gestión ayudan a coordinar a estos agentes dentro de un marco operativo compartido.

Creciente complejidad operativa: los agentes de IA pueden interactuar con varios sistemas, herramientas y flujos de trabajo al mismo tiempo. Las organizaciones necesitan una coordinación centralizada a medida que estos entornos están más interconectados.

Integración con sistemas empresariales: los agentes de IA están cada vez más conectados a plataformas en la nube, interfaces de programación de aplicaciones (API) y aplicaciones empresariales internas. Esta integración aumenta la necesidad de niveles de gestión operativa.

Necesidad de un gobierno centralizado: las organizaciones desean políticas más coherentes en torno a los permisos, las aprobaciones y la supervisión operativa a medida que se amplían las implementaciones de agentes.

Pasar de la experimentación a la escala operativa: muchas empresas están yendo más allá de los pilotos aislados de IA y construyendo estrategias a largo plazo para gestionar los ecosistemas de agentes. La creciente disponibilidad de herramientas de IA, plataformas no-code y plantillas reutilizables también está haciendo que la implementación de agentes de IA sea más accesible para los equipos empresariales.

Los casos de uso para la gestión de IA varían según el sector y el tamaño del negocio. La mayoría de las organizaciones adoptan la gestión de agentes de IA cuando estos empiezan a interactuar con múltiples sistemas, flujos de trabajo o equipos. Los casos de uso de agentes de IA en el mundo real incluyen:

Los agentes de IA se utilizan cada vez más en BPA para coordinar los flujos de trabajo entre los equipos de finanzas, compras y operaciones. Algunas organizaciones también están ampliando estos flujos de trabajo a los entornos de la cadena de suministro, en los que los agentes de IA ayudan a realizar un seguimiento de la actividad del inventario y señalan las interrupciones. Por ejemplo, un agente de IA podría procesar las solicitudes de gastos, detectar actividades inusuales y remitir las solicitudes de gastos de mayor cuantía para que sean objeto de una revisión más detallada.

Muchas empresas utilizan agentes de IA para gestionar las solicitudes de asistencia, derivar los tickets y recuperar información de los sistemas internos. La gestión de agentes con IA ayuda a las organizaciones a monitorizar cómo interactúan los agentes con los clientes y a aplicar normas sobre aprobaciones o escalados. Estos sistemas se utilizan cada vez más para mejorar las experiencias del cliente mientras mantienen la supervisión humana para las interacciones sensibles. Por ejemplo, un agente de asistencia puede gestionar las preguntas de facturación rutinarias por sí solo, pero transferir las cuestiones más delicadas a un representante humano.

Las organizaciones suelen implementar agentes que buscan documentos internos, resumen información y apoyan los flujos de trabajo de investigación de los empleados. La gestión de agentes de IA ayuda a controlar el acceso a la información confidencial y a realizar un seguimiento de cómo los agentes recuperan o comparten los datos. Por ejemplo, un agente de investigación legal puede acceder a los repositorios de documentos aprobados sin tener acceso a los registros confidenciales de RR. HH.

Los agentes de IA pueden automatizar la monitorización de infraestructuras, la respuesta a incidentes y las tareas de mantenimiento del sistema. En estos entornos, las capas de gestión ayudan a las organizaciones a rastrear las acciones de los agentes y a mantener la visibilidad operativa en plataformas en la nube o sistemas internos. Por ejemplo, un agente de IA podría identificar una actividad inusual del servidor y crear automáticamente un ticket de incidente al tiempo que alerta a los equipos de seguridad.

Algunas organizaciones implementan varios agentes especializados que colaboran en flujos de trabajo más grandes. La gestión de agentes de IA ayuda a coordinar las responsabilidades entre estos agentes, al tiempo que mantiene la visibilidad del proceso general. Por ejemplo, un agente puede recopilar datos de clientes, otro puede analizar el historial de la cuenta y un tercero puede generar recomendaciones para un equipo de ventas.

Sectores como la sanidad, los servicios financieros y los seguros suelen requerir un gobierno y una auditoría más sólidos en torno a los sistemas de IA. La gestión de agentes de IA ayuda a las organizaciones a documentar la actividad de los agentes y a aplicar controles operativos que respalden los requisitos de cumplimiento. Por ejemplo, una organización sanitaria puede utilizar herramientas de gestión para rastrear a qué sistemas ha accedido un agente de asistencia clínica durante el flujo de trabajo de un paciente.

Los equipos de seguridad pueden utilizar agentes de IA para analizar alertas, investigar anomalías o ayudar en la detección de amenazas. Dado que estos agentes a menudo interactúan con sistemas sensibles, las organizaciones suelen aplicar controles de monitorización y gobierno más estrictos. Por ejemplo, un agente de seguridad podría recopilar información de varias herramientas de monitorización antes de recomendar una respuesta para su aprobación humana.

Los equipos de desarrollo utilizan cada vez más agentes de IA para ayudar en las tareas de codificación, pruebas y documentación. Las plataformas de gestión ayudan a coordinar cómo estos agentes acceden a los repositorios, interactúan con las herramientas de desarrollo y siguen las políticas de la organización. Por ejemplo, una organización puede permitir que los agentes de codificación sugieran cambios, pero restringir las implementaciones directas en producción sin revisión humana.

La gestión de los agentes de IA es más compleja que las operaciones de IA tradicionales porque los agentes de IA son más dinámicos que los sistemas de IA anteriores. Los sistemas tradicionales de IA están diseñados para tareas limitadas como la clasificación, la predicción o la generación de contenidos. El flujo de trabajo en torno a esos sistemas suele permanecer prácticamente inalterado.

Los agentes de IA funcionan de forma diferente porque pueden interpretar objetivos, generar decisiones e interactuar con herramientas externas durante la ejecución. Ese cambio crea nuevos requisitos operativos para los que las prácticas estándar de gestión de la IA no se diseñaron.

Algunas de las diferencias más importantes incluyen:

• Estructura de implementación: las implementaciones tradicionales de la IA suelen estar aisladas en aplicaciones o departamentos individuales. Los agentes de IA se implementan cada vez más en entornos multiagente interconectados.
  
  
• Ámbito de gobierno: el gobierno convencional de la IA se centra principalmente en el riesgo de los modelos y el tratamiento de los datos. La gestión de los agentes introduce más preocupaciones en torno a la autonomía y la aplicación de las políticas.
  
  
• Enfoque de la gestión: las operaciones de IA tradicionales suelen centrarse en los modelos y los pipelines de datos. La gestión de agentes de IA se centra en la coordinación del comportamiento de los agentes en los flujos de trabajo y los sistemas conectados.
  
  
• Requisitos de monitorización: la monitorización tradicional suele medir la precisión o el tiempo de actividad del modelo. La gestión de los agentes de IA también requiere visibilidad de las acciones, los permisos y las vías de toma de decisiones.
  
  
• Flexibilidad operativa: los sistemas de IA anteriores suelen operar dentro de límites predefinidos. Los agentes de IA pueden adaptar sus acciones en función del contexto o de entradas cambiantes. En muchos entornos, los agentes están diseñados para una mayor conciencia del contexto. Esta capacidad les permite responder dinámicamente a medida que cambian los flujos de trabajo y los patrones de flujo de datos durante la ejecución.

La gestión de agentes de IA incluye las capacidades operativas y de gobierno que las organizaciones utilizan para implementar, coordinar y supervisar a los agentes de IA a escala. Aunque las plataformas pueden diferir en su enfoque, la mayoría de las estrategias empresariales se centran en un conjunto similar de componentes básicos. Entre ellos figuran:

Las capacidades de gobierno definen las reglas y límites que guían el comportamiento del agente. Estos controles pueden incluir flujos de trabajo de aprobación, políticas de uso, restricciones operativas y requisitos de cumplimiento que se aplican en toda la organización.

Muchas organizaciones incluyen mecanismos de revisión humana dentro de los flujos de trabajo de los agentes, especialmente para tareas de alto riesgo o críticas para el negocio. La supervisión humana puede implicar aprobaciones, procesos de escalada o intervención manual cuando los agentes se enfrentan a incertidumbre o resultados inesperados.

Los agentes de IA interactúan a menudo con sistemas empresariales, API y fuentes de datos sensibles. La gestión de identidades y accesos ayuda a las organizaciones a controlar el acceso de los agentes, las acciones y la gestión de permisos a lo largo del tiempo.

Los agentes de IA dependen a menudo de herramientas externas, software empresarial y servicios en la nube para completar las tareas. La gestión de la integración ayuda a coordinar estas conexiones al tiempo que mantiene la coherencia operativa entre plataformas y entornos. Muchas organizaciones también dependen de una pasarela de IA, herramientas de gestión de API y marcos de conectores estandarizados para gestionar las interacciones entre agentes de IA y proveedores externos.

La gestión de agentes de IA también incluye procesos para implementar, actualizar, probar y retirar agentes de IA. La gestión del ciclo de vida ayuda a las organizaciones a mantener la coherencia en todos los entornos, al tiempo que respalda el control de versiones y la estabilidad operativa. Algunas organizaciones alinean estas actividades con prácticas más amplias del ciclo de vida de desarrollo de agentes (ADLC) para gestionar los sistemas de IA a lo largo de su ciclo de vida operativo.

La observabilidad proporciona visibilidad sobre cómo se comportan los agentes en tiempo de ejecución. Las organizaciones utilizan sistemas de monitorización para realizar un seguimiento de las acciones, revisar las rutas de decisión, identificar fallos y analizar cómo interactúan los agentes con los usuarios o los sistemas conectados. Los paneles de control y las métricas de rendimiento ayudan a los equipos a monitorizar la actividad de los agentes a lo largo del tiempo.

La orquestación coordina cómo los agentes ejecutan tareas, interactúan con los sistemas y colaboran con otros agentes. En entornos multiagente, las capas de orquestación pueden enrutar solicitudes, asignar responsabilidades y gestionar flujos de trabajo entre distintas herramientas o aplicaciones.

A medida que las organizaciones implementan un mayor número de agentes de IA, muchas adoptan planos de control de agentes para proporcionar una coordinación centralizada y una supervisión operativa. Un plano de control de agentes actúa como la capa de gestión que conecta la orquestación, el gobierno y la monitorización en todos los ecosistemas de agentes. En lugar de gestionar los agentes individualmente, las organizaciones pueden utilizar un plano de control para supervisar cómo operan los agentes en los flujos de trabajo y los sistemas.

Los aviones de control de agentes suelen desempeñar varias funciones clave:

• Orquestación centralizada: los planos de control coordinan la forma en que los agentes ejecutan las tareas, comparten información e interactúan con otros sistemas o agentes.
  
  
• Gobierno y aplicación de políticas: las organizaciones pueden aplicar políticas operativas, restricciones de acceso y requisitos de aprobación en varios agentes desde una capa centralizada.
  
  
• Observabilidad y monitorización: los planos de control proporcionan visibilidad del comportamiento en tiempo de ejecución, las interacciones del sistema y la actividad de los agentes en los distintos entornos.
  
  
• Gestión de identidades y permisos: muchos planos de control ayudan a las organizaciones a gestionar la autenticación, el acceso al sistema y los permisos basados en roles para los agentes.
  
  
• Coordinación del ciclo de vida: algunas plataformas también admiten la gestión de implementación, el seguimiento de las versiones y el mantenimiento operativo en todos los ecosistemas de agentes.

La creciente atención prestada a los planos de control de los agentes refleja la creciente complejidad de los entornos empresariales de IA. A medida que las organizaciones avanzan hacia sistemas multiagente interconectados, las capas de gestión centralizadas son cada vez más importantes para mantener la visibilidad, la coordinación y la coherencia operativa.

La gestión de agentes de IA ayuda a las organizaciones a coordinar, gobernar y escalar los agentes de IA de forma más eficaz en todos los entornos empresariales. Entre los beneficios específicos se incluyen las siguientes:

• Mejor coordinación entre los flujos de trabajo: las capacidades de orquestación apoyan la colaboración entre agentes, sistemas empresariales y procesos de negocio. Esta coordinación puede ayudar a agilizar las operaciones, optimizar el uso de los recursos y generar más valor empresarial a partir de la implementación de la IA.
  
  
• Mayor responsabilidad: los registros de auditoría, los sistemas de aprobación y la monitorización en tiempo de ejecución proporcionan registros más claros de cómo los agentes toman decisiones y realizan acciones.
  
  
• Visibilidad operativa mejorada: las herramientas de monitorización y observabilidad ayudan a las organizaciones a realizar un seguimiento del comportamiento de los agentes, las interacciones del sistema y la actividad del flujo de trabajo en todos los entornos.
  
  
• Implementaciones más escalables: los marcos de gestión estandarizados facilitan a las organizaciones la ampliación del uso de agentes en todos los departamentos sin crear entornos fragmentados. Estos marcos también ayudan a las organizaciones a gestionar las crecientes cargas de trabajo de los agentes y, al mismo tiempo, a respaldar la escalabilidad a largo plazo en las operaciones empresariales.
  
  
• Reducción de la fragmentación operativa: una capa de gestión unificada puede ayudar a las organizaciones a evitar implementaciones desconectadas y prácticas de gobierno incoherentes.
  
  
• Gestión simplificada del ciclo de vida: los procesos centralizados de implementación y mantenimiento ayudan a las organizaciones a gestionar las actualizaciones, las pruebas y el control de versiones de forma más eficaz.
  
  
• Un gobierno más sólido: las políticas centralizadas y las estructuras de supervisión ayudan a las organizaciones a aplicar normas operativas coherentes en múltiples agentes y equipos.

Aunque la gestión de agentes de IA ofrece importantes ventajas operativas, las organizaciones también se enfrentan a importantes retos a la hora de implementar agentes a escala. Muchos riesgos derivan de la naturaleza dinámica y autónoma de los sistemas de IA agéntica.

• Proliferación de agentes: a medida que más equipos comienzan a implementar agentes de forma independiente, las organizaciones pueden perder rápidamente la visibilidad de cuántos agentes están operando en toda la empresa o a qué sistemas pueden acceder esos agentes. Muchas organizaciones abordan este reto introduciendo capas de orquestación centralizadas y normas de gobierno compartidas que crean una visión operativa más unificada.
  
  
• Problemas de cumplimiento y responsabilidad: las organizaciones pueden tener dificultades para documentar la forma en que los agentes toman decisiones o llevan a cabo las acciones, especialmente en los sectores regulados. La documentación limitada y la débil capacidad de auditoría pueden crear desafíos para los equipos de cumplimiento y los esfuerzos internos de supervisión. Los registros de auditoría, los sistemas de informes y las políticas de gobierno centralizadas pueden ayudar a reforzar la rendición de cuentas en las operaciones de los agentes.
  
  
• Gobierno incoherente: los agentes de IA se introducen a menudo a diferentes velocidades en las distintas unidades de negocio. Sin una supervisión centralizada, los equipos pueden seguir procesos de aprobación, prácticas de seguridad o políticas operativas diferentes. Estas incoherencias pueden crear confusión y problemas de cumplimiento. Los marcos de gobierno estandarizados pueden ayudar a las organizaciones a aplicar controles más coherentes en todas las implementaciones.
  
  
• Observabilidad limitada: muchas organizaciones aún carecen de una visibilidad clara del comportamiento de los agentes en tiempo de ejecución. Cuando los agentes interactúan con múltiples sistemas o toman decisiones autónomas, puede resultar difícil rastrear acciones o comprender por qué se produjeron ciertos resultados. Las herramientas de monitorización en tiempo de ejecución, el registro de actividades y las capacidades de auditoría son cada vez más importantes para mejorar la transparencia operativa.
  
  
• Imprevisibilidad operativa: a diferencia de los sistemas de software tradicionales, los agentes de IA responden de forma dinámica a los cambios en las entradas, las instrucciones y las condiciones de tiempo de ejecución. Esta flexibilidad puede mejorar la adaptabilidad, pero también hace que el comportamiento sea menos predecible en algunas situaciones. Muchas organizaciones reducen este riesgo al incorporar procesos de pruebas, mecanismos de revisión humana y barreras operativas en los flujos de trabajo de los agentes.
  
  
• Seguridad y riesgos de acceso: los agentes de IA suelen interactuar con sistemas y fuentes de datos confidenciales, lo que puede plantear nuevos retos en materia de permisos y gestión de identidades. Las organizaciones utilizan cada vez más marcos de gestión de identidades, controles de acceso basados en funciones y flujos de trabajo de aprobación para reducir estos riesgos.
  
  
• Complejidad del flujo de trabajo: los entornos multiagente pueden resultar difíciles de coordinar, ya que los agentes interactúan entre plataformas, aplicaciones y servicios externos. Una implementación simple puede evolucionar hacia entornos altamente interconectados. A medida que aumenta la complejidad, las plataformas de orquestación y las prácticas de integración estandarizadas pueden ayudar a las organizaciones a mantener una coordinación más coherente. A medida que las implementaciones crecen, las organizaciones también podrían necesitar una supervisión estricta del uso de infraestructuras y de los precios.