O que é o ciclo de vida do desenvolvimento de agentes (ADLC)?

O poder e a proliferação dos agentes de IA — sistemas de software que usam modelos de linguagem amplos (LLMs) como mecanismo de decisão para planejar de forma autônoma e executar tarefas necessárias para atingir um objetivo prescrito — precipitaram uma rápida transformação dos fluxos de trabalho empresariais. A velocidade dessa transformação superou a capacidade de muitas organizações de adaptar estruturas tradicionais de TI para refletir as demandas específicas da integração da IA agêntica, resultando em um ecossistema fragmentado. O ADLC introduz especificações comuns e práticas compartilhadas para viabilizar sistemas agênticos confiáveis em diferentes ferramentas, plataformas, fornecedores e ambientes empresariais.

Muitos dos processos de TI padrão atuais evoluíram no contexto do desenvolvimento de software tradicional e são adaptados às premissas de sistemas estáticos e determinísticos. Esses processos muitas vezes não são adequados à natureza dinâmica e probabilística dos LLMs que orientam o comportamento dos agentes: eles são chamados de “agentes de IA” porque, literalmente, têm agência para determinar como executar tarefas. Normas e especificações compartilhadas que levem em conta essa mudança podem reduzir significativamente os riscos associados e acelerar a adoção responsável da IA agêntica.

Para que a IA agêntica escale de forma sustentável e eficaz, os agentes de IA devem se integrar de maneira previsível em diferentes modelos, plataformas, fornecedores e ecossistemas do setor. Atualmente, quase toda plataforma para criar agentes de IA tem seu próprio formato para definição de agentes, esquema de chamada de ferramentas e funções, modelo de gerenciamento de memória e estado, conjunto de testes, protocolos de implementação e sistema de versionamento. Essa fragmentação dificulta a interoperabilidade, aumentando os custos de mudança e a dependência de fornecedor, o que pesquisas recentes apontaram como uma preocupação primária, perdendo apenas para a segurança, entre líderes de negócios e técnicos que navegam pelo ecossistema de fornecedores de agentes de IA.¹ Do ponto de vista operacional, essa fragmentação também reduz o potencial de habilidades e fluxos de trabalho transferíveis.

Embora normas e práticas padronizadas possam mitigar essas ineficiências, é importante que as organizações adotem e apliquem protocolos estruturais que funcionem com, e não contra, as tendências e preferências já estabelecidas dos desenvolvedores. Portanto, o ADLC busca transformar práticas emergentes de desenvolvedores em experiências de agentes de primeira linha.

O ADLC integra princípios centrais de DevSecOps para mapear o desenvolvimento de agentes de IA em uma série de fases interconectadas e amplamente interdependentes. O propósito e as práticas de cada fase, bem como suas relações entre si, são explorados mais adiante neste artigo. Detalhes completos, sugestões e especificações são fornecidos no guia oficial da IBM sobre o ADLC.

Algumas das premissas padrão e melhores práticas do ciclo de vida do desenvolvimento de software (SDLC) tradicional não são adequadas para criar agentes de IA. Para que iniciativas empresariais de agentes de IA tenham sucesso, as organizações precisam entender e considerar as diferenças fundamentais entre software tradicional e sistemas agênticos.

• Determinístico vs. probabilístico: o software tradicional recebe instruções explícitas e determinísticas, na forma de código imperativo, em busca de um objetivo final que é apenas implícito; os agentes de IA recebem um objetivo final explícito e proteções comportamentais e, em seguida, são encarregados de usar ferramentas, fontes de dados e raciocínio autônomo para inferir a melhor forma de alcançá-lo. Em um sistema agêntico, fornecer o mesmo input duas vezes pode gerar dois resultados diferentes.

• Estático vs. adaptativo: o software tradicional tem funcionalidade fixa, com comportamento que só muda se o código que governa esse comportamento for alterado ativamente. O comportamento de um agente pode evoluir com base no feedback do seu ambiente.

• Orientado por código vs. orientado por resultados: a natureza determinística e linear do software tradicional permite que os desenvolvedores prevejam o sucesso de um programa em termos de medidas estáveis e relativamente objetivas da qualidade do código. A natureza probabilística da IA agêntica significa que uma implementação ideal pode gerar desempenho subótimo do agente, e prompts confusos e subótimos ainda assim podem gerar resultados precisos. A avaliação de sistemas agênticos, portanto, exige medição sistemática dos resultados de negócios e do comportamento dos agentes ao longo do tempo.

Talvez o mais crucial seja que sistemas agênticos e software tradicional têm modos de falha muito diferentes.

O software tradicional falha devido a erros de lógica ou casos extremos que “quebram” as instruções rígidas do código do software. Essas falhas geralmente são óbvias: o software trava ou gera resultados sem sentido. Como o software tradicional é determinístico, qualquer falha pode ser rastreada até um defeito específico no código, que então pode ser depurado.

Já os sistemas agênticos normalmente falham por meio de alucinações ou problemas de alinhamento. Os agentes de IA operam interpretando probabilisticamente a intenção, fornecida por meio de prompts de sistema, proteções e contexto, em vez de executar a lógica rígida baseada em regras do software tradicional. Um agente pode aparentemente “resolver” um problema violando restrições ou fornecendo com confiança um resultado incorreto. Essas falhas são mais difíceis de perceber: um resultado plausível, mas falso, é mais difícil de identificar do que uma falha do sistema. Elas também são mais difíceis de rastrear: a falha geral de um fluxo de trabalho agêntico complexo e com várias etapas pode decorrer do resultado incorreto de uma única chamada probabilística de ferramenta, e o erro causador pode não se repetir em uma avaliação posterior.

Por isso, o ADLC incorpora observabilidade, contenção e avaliação contínua em cada fase. O desenvolvimento agêntico deve equilibrar com eficiência a necessidade de testes completos em cenários do mundo real com a necessidade de conter riscos do mundo real.

O ciclo de vida do desenvolvimento de agentes (ADLC) mapeia o processo de criar, implementar, otimizar e gerenciar agentes de IA em fases distintas, algumas das quais se combinam para formar loops iterativos.

• Planejar: envolva todos os stakeholders relevantes para alinhar casos de uso, metas, métricas de sucesso e resultados de negócios ideais, para embasar um framework de avaliação. Estabeleça e documente o comportamento desejado do agente e os procedimentos operacionais padrão em linguagem natural.

• Programar e criar: desenvolva agentes, o que envolve, entre outras coisas, seleção de modelo, design de prompts e orquestração. Identifique serviços externos relevantes, como ferramentas, bancos de dados e APIs, e integre-os a uma camada empresarial usando o protocolo de contexto de modelo (MCP). Aplique controle de versão criterioso, áreas de testes e padrões de gateway.

• Testar e lançar: execute avaliações estruturadas com base em benchmarks predefinidos, aplique verificações de políticas, realize testes de segurança e exercícios de red teaming e certifique-se de que os agentes estejam em um catálogo governado. Repita iterativamente Programar e criar e Testar e lançar em um loop, conforme necessário.

• Implementar: depois de certificados, mova os agentes para ambientes de produção, realizando a implementação em etapas progressivas para gerenciar o risco. Adote um padrão de gateway para viabilizar governança eficaz e aplicação de políticas. Garanta a governança em tempo de execução por meio de áreas de testes, versionamento, estratégias de rollback, aplicação de segurança e limitação de desempenho.

• Operar: observe continuamente e otimize os agentes implementados, acompanhando métricas em tempo real, como precisão, latência, custo e satisfação do usuário, e fique alerta a desvios do modelo ou regressões de desempenho. Use esses ciclos de feedback para otimizar prompts, ferramentas, modelos e políticas de memória para desempenho e segurança, repetindo de forma iterativa o ciclo Implementar-Operar conforme necessário.

• Monitorar: quando o sistema tiver sido totalmente validado e otimizado, continue a monitorar e realizar auditorias contínuas de imparcialidade, transparência e conformidade regulatória. Mantenha um catálogo bem governado de agentes e ferramentas para facilitar a observabilidade e a reprodutibilidade.

Ao seguir essas fases e as prioridades que elas foram projetadas para atender, cada uma explorada em mais detalhes nas seções a seguir, as organizações podem escalar agentes com segurança e confiança, mantendo-os confiáveis, auditáveis e alinhados ao valor de negócios.

O processo de desenvolvimento de agentes começa com o alinhamento do caso de uso, a partir do qual se desdobram todas as outras considerações de planejamento.

Os resultados de negócios específicos que seus agentes devem alcançar determinarão os principais indicadores de desempenho (KPIs) e outras métricas de sucesso que serão usados para avaliar o desempenho dos agentes. A automação de suporte ao cliente pode ser avaliada principalmente em termos de satisfação do usuário final e redução de custos, enquanto um agente de programação pode ser avaliado com base em latência e qualidade do código. Selecionar a formulação matemática específica para essas métricas é, por si só, uma decisão arquitetônica crítica, pois diferentes métodos de cálculo podem gerar diferentes sinais de sucesso e incentivos operacionais.

Resultados de negócios específicos orientados por agentes exigem que processos, tarefas e subtarefas específicos sejam automatizados por agentes, e muitas dessas tarefas exigirão que os agentes de IA recebam acesso a ferramentas, conjuntos de dados, bases de conhecimento e APIs específicos. Compilar, e obter, uma lista de todos os recursos necessários antes da fase de programação e construção é essencial para um processo de desenvolvimento eficiente e eficaz.

Dito isso, a decisão mais importante a ser tomada na fase de planejamento é se você deve, de fato, criar um agente de IA.

A IBM recomenda encontrar a solução mais simples que atenda à sua necessidade de negócios específica. Se um problema puder ser resolvido com automação tradicional, sistemas de recuperação ou prompts bem elaborados, a IA agêntica poderá introduzir complicações desnecessárias. Por exemplo, um sistema para automatizar respostas a e-mails de clientes exigiria um agente de IA, mas um sistema para classificar e-mails precisa apenas de um LLM e de um prompt bem elaborado.

Partindo do pressuposto de que o melhor desempenho que a IA agêntica pode oferecer em relação a soluções mais simples para o seu caso de uso justifica os aumentos associados de custo e latência, uma implementação ideal de IA agêntica em cenários empresariais normalmente envolve:

• Escopo do produto bem definido. Priorize problemas de negócios específicos que exijam julgamento ou raciocínio em várias etapas e que não possam ser resolvidos adequadamente com automação ampla baseada em regras. Problemas que exigem julgamento contextual, raciocínio em várias etapas e tomada de decisões complexas em escala são candidatos ideais para a IA agêntica.

• Métricas de sucesso claras. A IA agêntica tem sucesso em cenários nos quais o sucesso pode ser avaliado de forma objetiva e quantitativa, e os padrões podem ser aplicados. Isso fornece não apenas a justificativa sólida necessária do ponto de vista de negócios, mas também os objetivos de otimização necessários do ponto de vista operacional.

• Complexidade gerenciável. A natureza probabilística da IA agêntica significa que sistemas com vários agentes envolvem riscos de estruturação, nos quais a falha de uma única etapa pode ter consequências de grande alcance. Os benefícios teóricos de um sistema agêntico devem claramente superar a complexidade operacional.

Uma análise aprofundada de implementações corporativas de IA agêntica identificou padrões específicos que apresentam valor consistente e risco administrável: processos com grande volume de documentos, suporte ao cliente (ou atendimento ao cliente) e trabalhos baseados em conhecimento passíveis de documentação. Esses são pontos de partida ideais.

Quando todos os stakeholders relevantes tiverem concordado com as metas, os requisitos, as restrições e os critérios de medição, as equipes passam ao processo de realmente criar agentes de IA: implementar prompts, estratégias de memória, lógica de orquestração e frameworks de avaliação.

Os agentes devem ser integrados a sistemas empresariais, APIs, ferramentas externas e bases de conhecimento. Essas integrações devem ser projetadas com segurança e telemetria em mente. Ganchos de observabilidade, trechos de código que capturam automaticamente dados e medições operacionais instantâneos, devem ser inseridos em pontos-chave do fluxo de trabalho para registrar transcrições dos agentes, incluindo rastros de raciocínio do agente, chamadas de ferramentas e saídas.

Em cada estágio de desenvolvimento, as equipes devem implementar políticas rígidas de controle de versão tanto para variantes individuais de agentes quanto, quando relevante, para a lógica de orquestração que coordena seu trabalho em um sistema com vários agentes.

Escolher qual LLM ou quais LLMs alimentarão seus agentes de IA é uma das mais importantes decisões arquitetônicas a serem tomadas. Usar um único modelo para cada tarefa e função raramente é a configuração ideal em termos de desempenho, e mesmo quando é, essa melhoria incremental de desempenho traz compensações em eficiência de custo, latência ou ambos.

Os desenvolvedores devem recorrer a um portfólio de diferentes modelos: modelos de raciocínio de ponta para planejamento complexo, modelos específicos de domínio, obtidos diretamente de provedores de modelos ou por meio dos próprios esforços de ajuste fino da sua organização, para tarefas especializadas, quando apropriado, e modelos menores para minimizar custo e latência em tarefas mais simples e de alto volume.

Todas as integrações, seja de dados empresariais, aplicações de terceiros ou sistemas externos, podem ser tratadas como integrações de ferramentas habilitadas por servidores MCP. O ideal é que a plataforma de engenharia agêntica escolhida permita adaptar o comportamento do MCP às necessidades do seu caso de uso específico. Use um padrão de Gateway MCP para proteger e gerenciar todas essas conexões por meio dos seus sistemas de backend.

Sempre que possível, priorize a reprodutibilidade e os padrões abertos, como MCP para ferramentas e recursos, OpenTelemetry para observabilidade e esquemas reutilizáveis para prompts. Da mesma forma, você deve adotar padrões consistentes para armazenamento e recuperação, acesso a ferramentas e delegação de tarefas.

Para sistemas empresariais que estarão expostos a riscos do mundo real, a segurança da IA agêntica deve ser incorporada diretamente a cada etapa do desenvolvimento usando princípios de segurança desde a concepção, em vez de ser adaptada posteriormente.

Cada agente de IA deve receber uma tag de identidade distinta para garantir que toda ação realizada por um agente possa ser registrada, auditada e devidamente atribuída. Isso não apenas permite rastrear problemas de segurança de forma confiável até sua origem, mas também facilita a conformidade com frameworks regulatórios que continuam a evoluir à medida que a adoção da IA agêntica amadurece.

Áreas de testes e outras práticas de contenção são essenciais para limitar o risco. O ambiente de execução, o acesso à rede e o acesso ao sistema de arquivos de um agente devem sempre operar com base no princípio do menor privilégio. Cada componente de um sistema agêntico deve receber a permissão mínima necessária para executar as tarefas designadas.

Testar protótipos de agentes para garantir que estejam prontos para lançamento em produção exige mais do que os testes unitários e a análise estática do ciclo de vida tradicional de design de software. Também deve envolver uma validação comportamental extensa em relação a cenários do mundo real ou simulações de alta fidelidade. Dada a natureza probabilística dos sistemas agênticos, o tamanho da amostra desses cenários de teste deve ser grande e variado o suficiente para fornecer confiança razoável de que todos os possíveis comportamentos emergentes dos agentes foram observados e avaliados.

Os agentes de IA devem ser testados em relação a benchmarks predefinidos e verificações de políticas que reflitam e imponham com precisão os comportamentos desejados. Isso pode exigir a coleta ou a criação de conjuntos de dados de verdade de referência que indiquem a trajetória que um agente deve seguir para cada tipo de input e situação. Tanto o LLM como juiz quanto as revisões com humano no circuito devem ser usados, equilibrando a escala viabilizada pelo primeiro com a confiança proporcionada pelo segundo.

Antes e depois da implementação inicial, um pipeline robusto de integração contínua/entrega contínua (CI/CD) é crucial para executar testes e avaliações na escala necessária, executar avaliações automaticamente, testar a confiabilidade das ferramentas e aplicar proteções de segurança. Durante os testes, um sistema de integração contínua (CI) ajuda a garantir que a lógica de raciocínio de um agente não falhe quando seus modelos e prompts constituintes forem atualizados. Até mesmo substituir pela versão mais recente do modelo do LLM que você já está usando pode ter efeitos imprevisíveis em um ambiente dinâmico.

A avaliação contínua de agentes de IA em cada fase pós-construção do ADLC é essencial para o sucesso de um sistema agêntico. Avaliações off-line durante a construção e a CI ajudam a estabelecer benchmarks para o comportamento geral e os resultados dos agentes. As avaliações em ciclo de execução (in-the-loop) são acionadas em tempo de execução para orientar as decisões individuais de um agente. Por exemplo, em uma aplicação de RAG agêntico, seu fluxo de trabalho pode exigir o cálculo de uma pontuação de relevância de contexto para determinar se uma fonte recuperada deve ser utilizada para gerar uma saída.

Seu framework de avaliação agêntica deve abranger vários tipos de métricas, incluindo:

• Métricas de qualidade, como percentual de sucesso da tarefa, precisão e taxa de sucesso de chamadas de ferramentas

• Métricas de segurança, como violações de políticas ou taxa de vazamento de dados sensíveis

• Métricas operacionais, como latência, consumo de tokens e custo por tarefa

• Métricas de negócios, como pontuações de satisfação ou custo por resultado

Red teaming identifica de forma proativa vulnerabilidades adversariais e possíveis falhas de alinhamento. Ele simula condições hostis, como ataques de injeção de prompt e tentativas de jailbreak, para testar restrições de segurança em cenários que os testes comportamentais padrão podem não detectar.

Depois de serem testados, otimizados e validados minuciosamente, os agentes de IA são implementados com segurança em ambientes empresariais. A fase de implementação deve ser entendida como uma ativação deliberada e estrategicamente escalonada, e não como um ato único, semelhante a apertar um proverbial grande botão vermelho de “IMPLEMENTAR”. O ADLC garante a segurança do sistema em tempo de execução por meio de isolamento em área de testes, controle de versão, estratégias de rollback e mecanismos de segurança.

A implementação dos seus agentes de IA deve ser executada de forma progressiva para gerenciar o risco. Considere diferentes estratégias de implementação, como implementações blue-green, rolling ou canary, para determinar qual é a mais adequada aos seus padrões de tráfego de uso.Em um ambiente empresarial real e ativo, a estabilidade deve continuar sendo a principal prioridade: dividir cuidadosamente sua implementação em etapas permite verificar a resiliência do seu sistema a atualizações significativas.

Área de testes é a prática de limitar rigorosamente o alcance e os recursos dos agentes e de suas ferramentas, executando-os em ambientes de execução restritos que aplicam acesso de menor privilégio a computação, armazenamento, rede e APIs do sistema. Mesmo que um agente falhe ou se comporte de forma inadequada, uma área de testes adequada minimiza o alcance e a magnitude dos possíveis problemas. É uma prática crítica em qualquer cenário no qual o uso indevido de ferramentas, a geração de código ou a transformação de dados por um agente possa ter consequências em toda a sua base de código, na integridade dos dados, nos clientes ou em outros agentes.

Estratégias comuns de implementação para isolamento em áreas de testes incluem:

• Virtualização leve

• Perfis de segurança de contêineres

• Controles de rede (normalmente por meio de um Gateway MCP)

• Políticas de acesso ao sistema de arquivos

• Aplicação de políticas no nível do gateway

O ADLC não termina quando seus agentes de IA são implementados de forma completa e bem-sucedida. Assim como o ciclo iterativo formado pela fase de Programar e criar e pela fase de Testar e lançar , as fases de Implementar e Operar devem ser entendidas como duas partes de um ciclo contínuo de feedback. Enquanto o objetivo final do ciclo inicial de Construção/Teste é fazer com que os agentes atinjam o limite mínimo de desempenho necessário para alcançar os resultados de negócios desejados, o objetivo do ciclo de Implementação/Operação é a otimização.

Após a implementação, a supervisão operacional contínua é necessária para garantir que o desempenho do seu agente permaneça confiável, eficaz e seguro em um ambiente do mundo real. Métricas em tempo real, compiladas e prontamente acessíveis em um dashboard unificado de relatórios, devem ser monitoradas ativamente para detectar desvios ou regressões de desempenho. Quaisquer regressões relevantes, seja em termos de eficiência operacional ou de feedback do usuário final, devem ser tratadas ativamente. Quaisquer mudanças decorrentes de soluções para esses problemas emergentes devem ser testadas minuciosamente e implementadas de forma progressiva.

A observabilidade full-stack é crítica para sistemas agênticos que não apenas alcançam desempenho, segurança e confiabilidade ideais, mas também os mantêm ao longo do tempo.

Quando sua implementação agêntica estiver totalmente validada e otimizada em produção ativa, realize auditorias contínuas de imparcialidade, transparência, riscos de segurança e conformidade regulatória, além do desempenho geral.

Os padrões do setor e os requisitos legais continuam a evoluir, e não acompanhar ativamente ambos pode resultar em consequências regulatórias, desvantagens competitivas ou ambos. Desvio do modelo é um fenômeno inevitável que é melhor tratado com uma abordagem proativa. As necessidades de negócios mudam, e os sistemas agênticos em vigor para atendê-las precisarão mudar de acordo.

Para as necessidades atuais e futuras, as empresas devem manter um catálogo de agentes e ferramentas claramente organizado que registre:

• Responsabilidade, para facilitar a responsabilização e o escalonamento de problemas

• Versões, para uma prática disciplinada de gerenciamento de mudanças

• Postura de risco, para orientar a tomada de decisões

• Todos os ambientes relevantes, para manter uma supervisão operacional exaustiva

• Auditabilidade, para agilizar a coleta de evidências, avaliações, aprovações e red teaming