¿Qué es el ciclo de vida del desarrollo de agentes (ADLC)?

El poder y la proliferación de los agentes de IA (sistemas de software que utilizan modelos de lenguaje grande (LLM) como motor de decisión para planificar y ejecutar de manera autónoma las tareas necesarias para lograr un objetivo prescrito, ha precipitado una rápida transformación de los flujos de trabajo empresariales. La velocidad de esa transformación ha superado la capacidad de muchas organizaciones para adaptar las estructuras de TI tradicionales para reflejar las demandas únicas de la integración de la IA agéntica, produciendo un ecosistema fragmentado. El ADLC establece especificaciones comunes y prácticas compartidas para facilitar la creación de sistemas autónomos y confiables en diferentes herramientas, plataformas, proveedores y entornos empresariales.

Muchos de los procesos informáticos estándar actuales evolucionaron en el contexto del desarrollo de software tradicional y están adaptados a las suposiciones de sistemas estáticos y deterministas. Estos procesos a menudo no se adaptan a la naturaleza dinámica y probabilística de los LLM que impulsan el comportamiento de los agentes: se les llama “agentes de IA” porque literalmente tienen agencia para determinar cómo ejecutar tareas. Las normas y especificaciones compartidas que tengan en cuenta este cambio pueden reducir significativamente los riesgos asociados y acelerar la adopción responsable de la IA agéntica.

 Para que la IA agéntica escale de manera sostenible y eficaz, los agentes de IA deben integrarse de manera predecible en diferentes modelos, plataformas, proveedores y ecosistemas de la industria. En la actualidad, casi todas las plataformas para crear agentes de IA tienen su propio formato para la definición de agentes, el esquema de herramientas y funciones de llamada, el modelo de gestión de memoria y estado, el conjunto de pruebas, los protocolos de despliegue y el sistema de control de versiones. Esta fragmentación dificulta la interoperabilidad, lo que aumenta los costos de cambio y el vendor lock-in (dependencia de proveedores), que según una investigación reciente es una preocupación principal, solo superada por la seguridad, de los líderes empresariales y técnicos que navegan por el ecosistema de proveedores de agentes de IA.¹ Desde el punto de vista operativo, esa fragmentación también reduce el potencial de habilidades y flujos de trabajo transferibles.

Si bien las normas y prácticas estandarizadas pueden mitigar estas ineficiencias, es importante que las organizaciones adopten e implementen protocolos estructurales que funcionen en consonancia con las tendencias y preferencias establecidas de los desarrolladores, no en contra de estas. Por lo tanto, el ADLC tiene como objetivo traducir las prácticas emergentes de los desarrolladores en las mejores experiencias de agentes de su clase.

El ADLC integra principios fundamentales de DevSecOps para mapear el desarrollo de agentes de IA en una serie de fases interconectadas y en gran medida interdependientes. El propósito y las prácticas de cada fase, así como sus relaciones entre sí, se exploran más adelante en este artículo. Los detalles, sugerencias y especificaciones completos se proporcionan en la guía oficial de IBM para el ADLC.

Algunas de las suposiciones y mejores prácticas estándar del ciclo de vida tradicional del desarrollo de software (SDLC) no son adecuadas para construir agentes de IA. Para que las iniciativas de agentes de IA empresarial tengan éxito, las organizaciones deben comprender y tener en cuenta las diferencias fundamentales entre el software tradicional y los sistemas de agentes. 

• Determinista frente a probabilístico: al software tradicional se le proporcionan instrucciones explícitas y deterministas (en forma de código imperativo) en busca de un objetivo final que solo está implícito. A los agentes de IA se les proporciona un objetivo final explícito y barreras de seguridad de comportamiento, y luego se les asigna la tarea de usar herramientas, fuentes de datos y razonamiento autónomo para inferir la mejor manera de lograrlo. En un sistema agéntico, proporcionar la misma entrada dos veces podría producir dos resultados diferentes.

• Estático frente a adaptativo: el software tradicional tiene una funcionalidad fija, y su comportamiento solo cambia si se modifica activamente el código que lo controla. El comportamiento de un agente puede evolucionar en función del feedback de su entorno.

• Basado en código frente a impulsado por resultados: la naturaleza determinista y lineal del software tradicional permite a los desarrolladores predecir el éxito de un programa en términos de medidas estables y (relativamente) objetivas de la calidad de código. La naturaleza probabilística de la IA agéntica significa que la implementación óptima podría producir un rendimiento subóptimo del agente; sin embargo, las instrucciones desordenadas y subóptimas podrían producir resultados precisos. Por lo tanto, la evaluación de los sistemas agénticos requiere una medición sistemática de los resultados comerciales y el comportamiento de los agentes a lo largo del tiempo.

Quizás lo más crucial es que los sistemas agénticos y el software tradicional tienen modos de falla muy diferentes.

El software tradicional falla debido a errores lógicos o casos periféricos que “rompen” las instrucciones rígidas del código del software. Estas fallas suelen ser evidentes: el software se bloquea o produce resultados sin sentido. Debido a que el software tradicional es determinista, cualquier falla se puede rastrear hasta un defecto específico en el código (que luego puede depurar).

Los sistemas agénticos, por el contrario, suelen fallar a través de alucinaciones o problemas con la alineación. Los agentes de IA operan interpretando probabilísticamente la intención (proporcionada a través de instrucciones del sistema, barreras de seguridad y contexto), en lugar de ejecutar la estricta lógica basada en reglas del software tradicional. Un agente podría aparentemente “resolver” un problema violando restricciones o proporcionando con confianza un resultado incorrecto. Estas fallas son más fáciles de pasar por alto: una salida plausible, pero falsa es más difícil de detectar que una falla del sistema. También son más difíciles de rastrear: la falla general de un flujo de trabajo con agentes complejo de varios pasos podría deberse al resultado incorrecto de una única llamada a la herramienta probabilística, y el error infractor podría no reproducirse en una evaluación posterior.

Por lo tanto, el ADLC incorpora observabilidad, contención y evaluación continua en cada fase. El desarrollo agéntico debe equilibrar de manera eficaz la necesidad de realizar pruebas exhaustivas en situaciones reales con la necesidad de controlar los riesgos del mundo real.

El ciclo de vida del desarrollo de agentes (ADLC) divide el proceso de creación, despliegue, optimización y gestión de agentes de IA en fases diferenciadas, algunas de las cuales se combinan para formar ciclos iterativos.

• Planificar: involucre a todos los stakeholders para alinearse en casos de uso, objetivos, métricas de éxito y resultados empresariales ideales (para informar un marco de evaluación). Establezca y documente el comportamiento deseado de los agentes y los procedimientos operativos estándar en lenguaje natural.

• Codificar y crear: desarrolle agentes (que implica, entre otras cosas, selección de modelos, diseño de instrucciones y orquestación). Identifique los servicios externos relevantes, como herramientas, bases de datos y API para integrarlos en una capa empresarial mediante el protocolo de contexto de modelo (MCP). Aplique patrones bien pensados de control de versiones, sandbox y puertas de enlace.

• Probar y publicar: ejecute evaluaciones estructuradas con puntos de referencia predefinidos, aplique comprobaciones de políticas, realice pruebas de seguridad y ejercicios de equipos rojos, y certifique que los agentes están en un catálogo gobernado. Repita iterativamente los pasos de Codificar y Crear , y Probar y Publicar en un bucle según sea necesario.

• Desplegar: una vez certificados, lleve los agentes a los entornos de producción, desplegándolos por etapas progresivas para gestionar el riesgo. Adopte un patrón de puerta de enlace para permitir el control efectivo y la aplicación de políticas. Garantice la gobernanza del tiempo de ejecución mediante sandbox, control de versiones, estrategias de reversión, aplicación de seguridad y regulación del rendimiento.

• Operar: observe y optimice continuamente a los agentes desplegados, rastreando métricas en tiempo real (como precisión, latencia, costo y satisfacción del usuario) y permaneciendo alerta para la deriva del modelo o regresiones de rendimiento. Utilice estos bucles de feedback para optimizar las indicaciones, las herramientas, los modelos y las políticas de memoria para el rendimiento y la seguridad, repitiendo iterativamente el bucle Desplegar - Operar según sea necesario.

• Monitorear: una vez que el sistema se haya validado y optimizado completamente, continúe monitoreando y realizando auditorías continuas para garantizar la imparcialidad, la transparencia y el cumplimiento normativo. Mantenga un catálogo bien gestionado de agentes y herramientas para facilitar la observabilidad y la reproducibilidad.

Al adherirse a estas fases y a las prioridades para las que están diseñadas (cada una de las cuales se explora con mayor detalle en las siguientes secciones), las organizaciones pueden escalar agentes de forma segura y confiable manteniéndolos confiables, auditables y alineados con el valor del negocio.

El proceso de desarrollo de agentes comienza con la alineación de casos de uso, a partir de la cual se desarrollan todas las demás consideraciones de planificación.

Los resultados comerciales específicos que sus agentes deben lograr determinarán los indicadores clave de rendimiento (KPI) y otras métricas de éxito que se utilizarán para evaluar el rendimiento de los agentes. La automatización de la atención al cliente podría evaluarse principalmente en términos de satisfacción del usuario final y reducción de costos, mientras que a un agente de programación se le podría evaluar en función de la latencia y la calidad del código. Seleccionar la formulación matemática específica para estas métricas es una decisión arquitectónica crítica en sí misma, ya que diferentes métodos de cálculo pueden producir diferentes señales de éxito e incentivos operativos.

Los resultados comerciales específicos impulsados por agentes requieren que los agentes automaticen procesos, tareas y subtareas específicos, y muchas de esas tareas requerirán que los agentes de IA tengan acceso a herramientas, conjuntos de datos, bases de conocimiento y API específicos. Compilar (y adquirir) una lista de todos los recursos necesarios antes de la fase de código y compilación es esencial para un proceso de desarrollo eficiente y eficaz.

Dicho esto, la decisión más importante que hay que tomar en la fase de planificación es si realmente conviene desarrollar un agente de IA.

IBM recomienda encontrar la solución más sencilla que pueda abordar su necesidad empresarial específica. Si un problema se puede resolver con la automatización tradicional, los sistemas de recuperación de información o indicaciones bien pensadas, la IA agéntica podría introducir complicaciones innecesarias. Por ejemplo, un sistema para automatizar las respuestas a los correos electrónicos de los clientes requeriría un agente de IA, pero un sistema para clasificar correos electrónicos solo necesita un LLM y una instrucción bien diseñada.

Si se considera que el mejor rendimiento que la IA agéntica puede ofrecer frente a soluciones más simples para su caso de uso justifica el aumento asociado en el costo y la latencia, una implementación ideal de la IA agéntica en entornos empresariales suele implicar:

• Alcance de producto bien definido. Priorice problemas comerciales específicos que requieran juicio o razonamiento de varios pasos que no se puedan lograr adecuadamente con una amplia automatización basada en reglas. Los problemas que requieren juicio contextual, razonamiento multipaso y toma de decisiones complejas a escala son candidatos ideales para la IA agéntica.

• Métricas de éxito claras. La IA agéntica tiene éxito en escenarios en los que el éxito se puede evaluar de forma objetiva y cuantitativa y se pueden aplicar normas. Esto proporciona no sólo la sólida justificación necesaria desde el punto de vista del negocio, sino también los objetivos de optimización que se necesitan desde un punto de vista operativo.

• Complejidad manejable. La naturaleza probabilística de la IA agéntica significa que los sistemas multiagente conllevan riesgos de andamiaje en los que el fracaso de un solo paso podría tener consecuencias de gran alcance. Los beneficios teóricos de un sistema agéntico deberían superar claramente la complejidad operativa.

Un análisis exhaustivo de los despliegues empresariales de IA agéntica ha arrojado patrones específicos que presentan un valor constante y un riesgo manejable: procesos con gran cantidad de documentos, atención al cliente (o servicio al cliente) y trabajo de conocimiento documentable. Estos son lugares ideales para comenzar.

Una vez que todos los stakeholders relevantes acordaron los objetivos, requisitos, restricciones y criterios de medición, los equipos pasan al proceso de construir realmente agentes de IA implementando instrucciones, estrategias de memoria, lógica de orquestación y marcos de evaluación.

Los agentes deben integrarse con sistemas empresariales, API y herramientas externas y bases de conocimiento. Estas integraciones deben diseñarse teniendo en cuenta la seguridad y la telemetría. Los hooks de observabilidad (bits de código que capturan automáticamente datos y mediciones operativos instantáneos) deben inyectarse en los puntos clave del flujo de trabajo para registrar las transcripciones de los agentes, incluidos los rastreos de razonamiento del agente, las llamadas a herramientas y los resultados.

En cada etapa de desarrollo, los equipos deben implementar políticas estrictas de control de versiones tanto para las variantes de agentes individuales como (cuando corresponda) la lógica de orquestación que coordina su trabajo dentro de un sistema multiagente.

Elegir qué LLM impulsará sus agentes de IA es una de las decisiones arquitectónicas más importantes que se deben tomar. Usar un único modelo para cada tarea y función rara vez es la solución óptima en términos de rendimiento, e incluso cuando lo es, esa mejora incremental del rendimiento conlleva desventajas en cuanto a rentabilidad, latencia o ambas.

Los desarrolladores deben recurrir a una cartera de modelos diversos: modelos de razonamiento de vanguardia para la planificación compleja; modelos específicos de cada ámbito (obtenidos directamente de proveedores de modelos o mediante los propios esfuerzos de ajuste de su organización) para tareas especializadas cuando sea pertinente; y modelos más pequeños para minimizar los costos y la latencia en tareas más sencillas y de gran volumen.

Todas las integraciones, ya sea que esté integrando datos empresariales, aplicaciones de terceros o sistemas externos, se pueden tratar como integraciones de herramientas habilitadas por servidores MCP. Idealmente, su plataforma de ingeniería agéntica de elección le permite adaptar el comportamiento de MCP a las necesidades de su caso de uso específico. Utilice un patrón de puerta de enlace MCP para proteger y gobernar todas estas conexiones a través de sus sistemas backend.

Siempre que sea posible, priorice la reproducibilidad y los estándares abiertos, como MCP para herramientas y recursos, OpenTelemetry para observabilidad y esquemas reutilizables para instrucciones. Asimismo, debe adoptar patrones congruentes para almacenamiento y recuperación, acceso a herramientas y delegación de tareas.

Para los sistemas empresariales que estarán expuestos a riesgos reales, la seguridad de la IA agéntica debería integrarse directamente en cada paso de desarrollo siguiendo principios de seguridad por diseño, en lugar de adaptarse posteriormente.

A cada agente de IA se le debe asignar una etiqueta de identidad única para garantizar que cada acción que realice pueda registrarse, auditarse y atribuirse correctamente. Esto no solo permite rastrear de manera confiable los problemas de seguridad hasta su origen, sino que también facilita el cumplimiento de los marcos normativos que continúan evolucionando a medida que madura la adopción de la IA agéntica.

El sandbox y otras prácticas de contención son esenciales para limitar el riesgo. El entorno de ejecución de un agente, el acceso a la red y el acceso al sistema de archivos siempre deben operar según el principio de privilegio mínimo. Cada componente de un sistema agéntico debe recibir el permiso mínimo necesario para lograr sus tareas designadas.

Probar prototipos de agentes para garantizar que estén listos para su lanzamiento a producción requiere más que las pruebas unitarias y el análisis estático del ciclo de vida tradicional del diseño de software. También debe implicar una extensa validación de comportamiento frente a escenarios del mundo real o simulaciones de alta fidelidad. Dada la naturaleza probabilística de los sistemas agénticos, el tamaño de la muestra de estos escenarios de prueba debe ser lo suficientemente grande y variado como para proporcionar una confianza razonable de que se han observado y evaluado todos los posibles comportamientos de los agentes emergentes.

Los agentes de IA deben probarse en comparación con puntos de referencia predefinidos y verificaciones de políticas que reflejen y hagan cumplir con precisión los comportamientos deseados. Esto podría requerir la recopilación o creación de conjuntos de datos de referencia que indiquen la trayectoria que un agente debe seguir para cada tipo de entrada y situación. Se deben utilizar tanto las revisiones realizadas por LLM que actúan como jueces como las revisiones con intervención humana, equilibrando la capacidad de procesamiento que ofrecen las primeras con la confiabilidad que aportan las segundas.

Antes y después del despliegue inicial, un sólido pipeline de integración continua/entrega continua (CI/CD) es crucial para ejecutar pruebas y evaluaciones a la escala necesaria, ejecutar evaluaciones automáticamente, probar la confianza de las herramientas y hacer cumplir las medidas de seguridad. Durante las pruebas, un sistema de integración continua (CI) ayuda a garantizar que la lógica de razonamiento de un agente no se vea afectada cuando se actualizan los modelos y las instrucciones que lo componen. Incluso cambiar la última versión del modelo del LLM que ya está utilizando puede tener efectos impredecibles en un entorno dinámico.

La evaluación continua de los agentes de IA en cada fase posterior a la creación del ADLC es esencial para el éxito de un sistema agéntico. Las evaluaciones offline durante la compilación y la CI ayudan a evaluar el comportamiento y los resultados generales del agente. Las evaluaciones en el bucle se evocan en tiempo de ejecución para guiar las decisiones individuales de un agente; por ejemplo, en una aplicación RAG agéntica, su flujo de trabajo podría aplicar el cálculo de una puntuación de relevancia del contexto para determinar si una fuente recuperada debe usarse para generar un resultado.

Su marco de evaluación agéntica debe comprender múltiples tipos de métricas, que incluyen:

• Métricas de calidad, como el porcentaje de éxito de las tareas, la precisión y la tasa de éxito de las llamadas a herramientas

• Métricas de seguridad, como las infracciones a las políticas o la tasa de filtración de datos confidenciales

• Métricas de operaciones, como la latencia, el consumo de tokens y el costo por tarea

• Métricas empresariales, como puntuaciones de satisfacción o costo por resultado

El equipo rojo identifica de forma proactiva las vulnerabilidades adversas y las posibles fallas de alineación. Simula condiciones hostiles, como ataques de inyección rápida e intentos de jailbreaking, para probar las restricciones de seguridad en escenarios que las pruebas de comportamiento estándar podrían pasar por alto.

Una vez que se han sometido a pruebas exhaustivas, se han optimizado y validado, los agentes de IA se despliegan de forma segura en entornos empresariales. La fase de despliegue debe entenderse como una activación deliberada y estratégicamente escalonada, en lugar de como un acto singular similar a presionar un gran botón rojo proverbial “DESPLEGAR”. El ADLC garantiza la seguridad del sistema en tiempo de ejecución a través de sandbox, control de versiones, estrategias de reversión y seguridad. 

La implementación de sus agentes de IA debe realizarse de forma gradual para gestionar los riesgos. Considere diferentes estrategias de implementación, como despliegues azul-verde, continuos o controlados, para determinar cuál es más propicio para sus patrones de tráfico de uso.En un entorno empresarial en vivo y en tiempo real, la estabilidad debe seguir siendo la máxima prioridad: dividir cuidadosamente su despliegue en etapas le permite verificar la resiliencia de su sistema a actualizaciones significativas.

El sandboxing es la práctica de limitar estrictamente el alcance y las capacidades de los agentes y sus herramientas ejecutándolos dentro de entornos limitados que imponen un acceso con privilegios mínimos a las API de computación, almacenamiento, red y sistema. Incluso si un agente falla o se comporta mal, el sandboxing adecuado minimiza el rango y la magnitud de los posibles problemas. Se trata de una práctica fundamental en cualquier situación en la que el uso indebido de herramientas, la generación de código o la transformación de datos por parte de un agente puedan tener consecuencias para el código fuente, la integridad de los datos, los clientes u otros agentes.

Las estrategias comunes de implementación para sandboxing incluyen:

• Virtualización ligera

• Perfiles de seguridad de contenedores

• Controles de red (normalmente a través de una puerta de enlace MCP)

• Políticas de acceso al sistema de archivos

• Aplicación de políticas a nivel de puerta de enlace

El ADLC no termina una vez que sus agentes de IA se han desplegado completa y correctamente. Al igual que el ciclo iterativo formado por la fase Codificar y crear y Probar y publicar, las fases Desplegar y Operar deben entenderse como dos partes de un ciclo de feedback continuo. Mientras que el objetivo final del ciclo inicial de Crear/Probar es que los agentes alcancen el umbral de rendimiento mínimo necesario para lograr los resultados comerciales deseados, el objetivo del ciclo de Desplegar/Operar es la optimización.

Después del despliegue, es necesaria una supervisión operativa continua para garantizar que el rendimiento de su agente siga siendo confiable, eficaz y seguro en un entorno real. Las métricas en tiempo real, compiladas y fácilmente accesibles en un panel de informes unificado, deben supervisarse activamente para obtener regresiones de rendimiento o deriva. Cualquier regresión notable, ya sea en términos de eficiencia operativa o feedback de los usuarios finales, debe abordarse activamente. Cualquier cambio que surja como solución a esos problemas emergentes debe probarse a fondo y desplegarse progresivamente.

La observabilidad de lote completo es crítica para los sistemas agénticos que no solo logran un rendimiento óptimo, seguridad y confiabilidad, sino que también la mantienen a lo largo del tiempo.

Una vez que su implementación agéntica esté completamente validada y optimizada en la producción en vivo, realice auditorías continuas para lograr imparcialidad, transparencia, riesgos de seguridad y cumplimiento normativo, además del rendimiento general.

Los estándares de la industria y los requisitos legales continúan evolucionando, y no mantenerse al día activamente con ambos puede tener consecuencias normativas, desventajas competitivas o ambas. La deriva del modelo es un fenómeno inevitable que se aborda mejor con un enfoque proactivo. Las necesidades empresariales cambian y los sistemas de agentes establecidos para satisfacer esas necesidades deberán cambiar en consecuencia.

Para las necesidades presentes y futuras, las empresas deben ejecutar un catálogo claramente organizado de agentes y herramientas que indique:

• Propiedad, para facilitar la rendición de cuentas y la escalada de problemas

• Versiones, para una práctica disciplinada de gestión de cambios

• Postura de riesgo, para informar la toma de decisiones

• Todos los entornos relevantes, para mantener una supervisión operativa exhaustiva

• Auditabilidad, para agilizar la recopilación de pruebas, evaluaciones, aprobaciones y equipos rojos