Proliferação de agentes de IA: o que é e como controlar

A proliferação ocorre quando agentes de IA (sistemas autônomos que tomam decisões e executam ações com o mínimo de entrada humana) são implementados sem uma estratégia unificada ou práticas sólidas de governança. A proliferação de agentes de IA cria um ecossistema de agentes redundantes e fragmentados entre equipes e funções. Assim como a proliferação da IA ou a proliferação de aplicativos antes dela, a proliferação de agentes de IA ocorre quando a velocidade ofusca a visibilidade: equipes individuais implementam agentes para automatizar tarefas ou gerenciar fluxos de trabalho sem um programa coeso em toda a organização.

De acordo com a Gartner, até 2028, a empresa média da Fortune 500 usará mais de 150 mil agentes de IA. Mas, de acordo com a empresa, apenas 13% das organizações acreditam que têm a governança de agentes de IA certa. Esses dados apontam para uma realidade simples, mas urgente. Os agentes, particularmente em ambientes de pouco código ou no-code, são fáceis de criar, mas são muito mais difíceis de implementar, operar e monitorar de forma responsável.

Ecossistemas proliferados e incontroláveis de ferramentas de IA também podem aumentar consideravelmente os custos. Segundo pesquisa da US Chamber of Commerce, 58% das pequenas empresas adotaram a IA generativa, e alguns consultores relatam que pequenas empresas com orçamentos apertados gastam milhares de dólares por mês em um punhado de ferramentas redundantes de escrita com IA. Isso sem mencionar o custo oculto para os funcionários que, em vez de verem a produtividade aumentar com o uso da IA, percebem o oposto: a alternância entre aplicações e plataformas ao longo do dia desacelera significativamente o trabalho.

Quando equipes individuais, como marketing, finanças ou suporte ao cliente, constroem agentes, esses agentes podem não ser visíveis para outras partes da organização. Isso cria um punhado de agentes com recursos desconectados, em vez de um sistema coerente. De acordo com uma pesquisa do IBM Institute for Business Value, apenas 18% das organizações mantêm um inventário atual e completo de seus agentes de IA, dificultando os esforços de integração. Problemas semelhantes podem ser resolvidos de forma redundante, com transferência mínima de conhecimento entre sistemas.

A proliferação de agentes cria sistemas que operam de forma independente, sem contexto compartilhado ou mecanismo para resolver problemas quando as saídas se sobrepõem. Sem uma orquestração centralizada, os agentes podem duplicar trabalho ou criar ciclos de feedback indesejados. Essas duplicações e ciclos rapidamente agravam os erros em sistemas interconectados. 

Dada a taxa de adoção da IA agêntica, muitas organizações não têm políticas e processos holísticos para gerenciar grandes redes de agentes de forma responsável. Isso significa que pode haver:

• Nenhum fluxo de trabalho padrão de aprovação antes da implementação dos agentes

• Nenhuma propriedade definida para se e quando ocorrerem erros

• Ausência de processos de ciclo de vida para desativar os agentes quando eles não são mais necessários.

Sem práticas de governança em toda a organização, os riscos aumentam exponencialmente. 

Agentes de IA sem fortes controles de segurança e conformidade podem acessar dados confidenciais sem a devida autorização ou ignorar as trilhas de auditoria. Quando os agentes agem de forma autônoma em escala, uma única configuração incorreta pode se tornar uma responsabilidade para toda a organização.

Riscos como esses são particularmente preocupantes em áreas como finanças ou saúde, onde podem expor acidentalmente informações protegidas. Frameworks regulatórios como HIPAA ou GDPR podem se tornar impossíveis de cumprir quando não existe uma fonte única da verdade que lide com o que os agentes acessam ou como tomam suas decisões. 

Quando equipes diferentes constroem agentes semelhantes (ou até agentes idênticos), cada equipe incorre em seu próprio custo de infraestrutura. Com o tempo, o preço dos tokens de computação e APIs, bem como os custos de licenciamento de terceiros, crescem. E sistemas de IA que não forem devidamente desativados podem continuar usando recursos depois de desativados, drenando orçamentos e consumindo recursos valiosos. 

Quando as redes de agentes são fragmentadas e isoladas, é mais difícil escalá-las de forma eficaz. Ecossistemas de agentes proliferados podem ser difíceis de manter e melhorar. Agentes criados isoladamente podem replicar esforços, mas, mais importante, não possuem ferramentas compartilhadas. Essas ferramentas compartilhadas têm o potencial de transformar práticas entre departamentos e permitir que os agentes sejam monitorados e registrados com mais facilidade.

A proliferação de agentes também resulta em respostas a incidentes muito mais lentas se um agente cometer um erro e uma equipe responsável não for identificada rapidamente. E responder a incidentes decorrentes de agentes comprometidos ou do uso não autorizado de dados pode criar sérios riscos quando agentes complexos, interdependentes e inexplicáveis estão envolvidos.

De acordo com o relatório 2026 Connectivity Benchmark da Salesforce, a organização média usa 12 ou mais agentes de IA, mas 50% desses agentes operam em silos, em vez de como parte de um sistema coordenado. Sem coordenação intencional, os mesmos pipelines de dados podem ser construídos várias vezes, e cada sistema de agentes mantém sua própria versão da verdade. Isso pode criar saídas conflitantes.

A fragmentação de dados complica o rastreamento da linhagem, dificultando a auditoria de qual agente tomou uma determinada decisão. Isso também impede que as organizações percebam o verdadeiro valor dos ecossistemas autônomos entre departamentos que compartilham dados apropriados sem dificuldades. 

Proliferação de agentes e IA oculta são termos relacionados, mas distintos. A IA oculta descreve o uso de ferramentas não autorizadas por funcionários. Por exemplo, um líder de marketing que usa uma conta pessoal de LLM, como o ChatGPT, para processar documentos de trabalho. A proliferação de agentes de IA, ao contrário, descreve um fenômeno estrutural. Mesmo os agentes sancionados e aprovados pela TI podem contribuir para a proliferação se forem implementados sem coordenação.

Mas a proliferação de agentes de IA pode, às vezes, levar inadvertidamente a uma mudança adicional na IA oculta, como a Gartner descobriu. “À medida que os CIOs e líderes de TI testemunham uma explosão de agentes de IA em suas organizações”, escreveu Max Goss, Analista Sênior da Gartner, "muitas empresas estão lidando com uma proliferação descontrolada de agentes que expõem suas organizações a uma série de riscos, incluindo compartilhamento excessivo e perda de dados". Muitas empresas, acrescentou, tendem a recorrer ao bloqueio ou restrição do uso de agentes. Infelizmente, essa tática leva os funcionários a usar a IA oculta, criando riscos de segurança e conformidade muito mais sérios.

A proliferação de agentes de IA reflete o capítulo mais recente da tecnologia empresarial ultrapassando a capacidade organizacional de governá-la. É um padrão que se repetiu com velocidade crescente. Por exemplo, a proliferação do SaaS e a TI invisível resultaram da tecnologia de nuvem que tornou o novo software muito mais fácil de adotar, muitas vezes sem o conhecimento de departamentos de TI centralizados.

O potencial da IA agêntica para transformar fluxos de trabalho e criar parcerias poderosas entre seres humanos e a IA resultou em uma adoção em grande escala. De acordo com uma pesquisa interna da IBM, a maioria das empresas já usa agentes de IA de alguma forma.

Mas, com a proliferação de ferramentas de IA capazes de criar agentes rapidamente, a criação de ferramentas agênticas não requer mais necessariamente um engenheiro de software ou um longo processo de ajuste fino. Ferramentas como o Copilot Studio da Microsoft e o AgentForce da Salesforce são compatíveis com opções de desenvolvimento de agentes de pouco código e no-code — soluções poderosas que, no entanto, incentivam a rápida implementação em todos os departamentos. Ou seja, a mesma pesquisa interna da IBM descobriu que um grande número de empresas relata que a proliferação da IA já está aumentando os riscos de segurança e resultando em complexidade desnecessária.

As implicações são significativas: quase todos os departamentos de uma grande empresa têm a capacidade de implementar agentes de IA autônomos, mas faltam os mecanismos para controlar e governar essas redes abrangentes. Ainda assim, a democratização da IA e do desenvolvimento de plataformas agênticas, juntamente com os ganhos reais de negócios prometidos por essas tecnologias, as tornam difíceis de abandonar. Governar agentes de IA de forma responsável requer uma abordagem centralizada e intencional que monitore e otimize o comportamento dos agentes em escala.

A falta de um modelo escalável para controlar o uso da IA em uma organização também impede a coordenação em toda a empresa. “Não há um cliente sequer que não tenha pelo menos umas 60 iniciativas aleatórias de IA acontecendo em toda a organização com TI invisível e IA oculta”, disse Matt Kosinski em um episódio recente do podcast Mixture of Experts da IBM. “E todos os departamentos e executivos dizem: ‘Na verdade, sou eu quem está liderando isso, seja de aquisição, RH ou desta unidade de negócios’”. 

É difícil governar o que é impossível de ver. As tentativas bem-sucedidas de controlar a proliferação de agentes começam com um inventário abrangente: isso pode incluir uma varredura automatizada de ambientes de nuvem e APIs para identificar todos os agentes ativos. Mecanismos para descobrir agentes autônomos informais operando fora do canal oficial também devem ser incluídos. Pode ser útil estabelecer um processo de descoberta contínuo em vez de uma auditoria única, pois novos agentes estarão entrando continuamente no ecossistema. Durante esse período, um programa bem-sucedido de controle de proliferação incluirá o estabelecimento de um inventário centralizado em toda a empresa para rastrear os proprietários, as finalidades e as permissões de acesso a dados dos agentes. 

Uma vez que os agentes são uma entidade conhecida em toda a organização, as organizações devem definir regras claras sobre quem pode criar, implementar e compartilhar agentes, bem como estabelecer regras de conformidade para ferramentas de IA. O uso de dados, os limites de taxa e as ferramentas de conexão devem ser cuidadosamente monitorados, e os inventários de agentes podem ser usados para criar controles adaptativos que imponham as políticas certas com base no nível de risco que um agente assume. 

A padronização ajuda a reduzir a proliferação futura. Limite quantas plataformas são usadas para criar agentes para reduzir a complexidade arquitetônica e estabeleça visibilidade contínua do uso dos agentes para ajudar a garantir a conformidade padronizada com as políticas. Dashboards em tempo real ajudam a detectar comportamentos anômalos e corrigir agentes que se comportam mal ou excedem o escopo pretendido. Quando a criação de um novo agente é mais fácil por meio do caminho padrão de uma empresa do que fora dele, a governança pode se tornar autorreforçada. 

Uma resposta eficaz à proliferação de agentes combina toolkits específicos com um processo organizacional intencional. Cada vez mais, as soluções mais poderosas se integram sem dificuldades: por exemplo, uma ferramenta de programação que funciona em conjunto com uma camada de orquestração e um painel de controle empresarial para criar, monitorar e otimizar continuamente a IA agêntica em todo o ciclo de vida do desenvolvimento.

Painéis de controle empresariais são camadas de gerenciamento centralizadas que oferecem às organizações visibilidade e controle sobre sistemas autônomos. Essas camadas se somam aos agentes de IA, LLMs e outras ferramentas de IA, atuando como uma espécie de controle da missão. Os painéis de controle normalmente permitem que as empresas observem, configurem e governem sistemas autônomos a partir de uma única fonte. 

O combate à IA oculta e a proliferação de agentes exige parceiros de programação poderosos, padronizados e seguros. Os atuais parceiros de desenvolvimento de IA empresarial, como o IBM Bob, são construídos em frameworks estruturados e incorporados em cada etapa do ciclo de vida do desenvolvimento de software, desde o planejamento até testes e operações. Ao fornecer transparência e controles de segurança padronizados desde o primeiro dia, essas ferramentas permitem que as organizações escalem rapidamente e permaneçam no controle, ao mesmo tempo em que reduzem significativamente a proliferação.

No caso do Bob, as ferramentas de desenvolvimento se integram perfeitamente ao Watsonx Orchestrate, um painel de controle centralizado. Trabalhando em conjunto, esses sistemas podem lidar com problemas em tempo real, sugerir correções e criar novos agentes para lidar com eles. Eles também criam fluxos de trabalho agênticos autodocumentados, garantindo que cada ação seja auditável e rastreável.

As ferramentas AI TRiSM (uma categoria formalizada pela Gartner) fornecem monitoramento contínuo do comportamento da IA. Normalmente, elas detectam anomalias, impõem barreiras e expõem violações de políticas. Essas ferramentas tratam os agentes de IA como entidades observáveis e auditáveis, aplicando controles de tempo de execução que não exigem que os agentes sejam totalmente reconstruídos. 

Os frameworks de governança estabelecem as regras de uma organização sobre quem pode implementar um agente e qual framework ele deve seguir. Eles também podem lidar com quais fontes de dados podem ser usadas e quais padrões de desempenho devem ser cumpridos antes que um agente seja liberado. Os frameworks de governança mais eficazes estabelecem propriedade e permissões claras, definem caminhos de escalonamento e se integram sem dificuldades aos processos de risco corporativo existentes, em vez de operar como um processo paralelo. 

Um registro de agentes atua como uma fonte única da verdade, catalogando todos os agentes de IA implementados em uma organização. Os registros documentam a finalidade, o proprietário, o acesso a dados, a versão do modelo e o status operacional dos agentes, entre outras variáveis.

Esses bancos de dados transformam um ecossistema de IA em um inventário conhecido e gerenciável. Os inventários modernos geralmente são dinâmicos (os agentes são registrados na implementação e atualizam seu status automaticamente), em vez de depender de documentação manual, que é mais propensa a erros. 

Muitas vezes, a proliferação pode ser uma falha de descomissionamento: os agentes são implementados e nunca desativados. As ferramentas de gerenciamento de ciclo de vida impõem um sistema definido a partir do momento em que o desenvolvimento começa, acionando avaliações em intervalos regulares e trazendo à tona automaticamente os agentes que ficaram inativos. 

Em vez de permitir que os agentes operem isoladamente, as plataformas de orquestração coordenam fluxos de trabalho multiagentes, definindo como os agentes se comunicam, compartilham contexto, entregam tarefas e escalam para humanos. Ao tornar as relações entre agentes explícitas e observáveis, a orquestração reduz a redundância e fornece um ponto de integração natural para monitoramento, otimização, registro e controle de acesso.