Agentes de IA evoluem rapidamente, desafiando a supervisão humana

O investidor do Vale do Silício, Marc Andreessen, transferiu USD 50.000 em Bitcoin para um bot de IA do X. O destinatário, conhecido como “Truth Terminal” ou @truth_terminal, é um agente de IA semiautônomo que está ativo na plataforma desde meados de junho e conquistou seguidores entre entusiastas de tecnologia e aficionados por IA.

A troca começou quando Andreessen, cofundador da empresa de capital de risco Andreessen Horowitz, perguntou sobre os objetivos e necessidades financeiras do bot. Após alguma discussão, ele concordou em fornecer uma concessão única de USD 50.000, com a transação concluída usando Bitcoin. A IA forneceu um endereço de carteira para a transferência, marcando uma notável interseção entre criptomoeda e inteligência artificial.

O Truth Terminal, criado por Andy Ayrey, é descrito como uma IA que opera com algum nível de independência. A função de Ayrey é aprovar as publicações do bot e decidir com quem ele interage no X. Essa configuração representa uma nova fronteira no desenvolvimento da IA, onde os agentes artificiais recebem autonomia crescente em suas interações com humanos.

Alguns observadores dizem que o surgimento de agentes de IA como o Truth Terminal marca um ponto de virada na inteligência artificial. Diferentemente das ferramentas de IA tradicionais, que executam tarefas específicas com base em entradas humanas, esses agentes podem tomar decisões independentes e interagir com o ambiente de maneira cada vez mais complexa.

Benjamin Lee, professor da University of Pennsylvania, explica como os agentes de IA poderiam aprimorar a interação do usuário com a IA generativa: “Em vez de fornecer prompts individuais, o usuário humano poderia fornecer um objetivo geral e pedir a um agente de IA que desenvolva um plano ou sequência de análises para atingir esse objetivo”. Lee acrescenta que os agentes de IA poderiam operar tanto em mundos virtuais quanto ciberfísicos, expandindo os recursos da IA generativa e interagindo com o ambiente físico.

Alan Chan, um pesquisador no Centre for the Governance of IA, oferece uma perspectiva semelhante sobre o potencial dos Agente de IA. “Agentes de IA futuros e mais capazes podem ser úteis para automatizar tarefas essenciais que são tediosas, perigosas ou indesejáveis”, diz Chan. Ele prevê a IA enfrentando desafios complexos, como "sondagem de vulnerabilidades de segurança em uma base de código" ou realização de pesquisas científicas independentes.

No entanto, ambos os especialistas enfatizam a necessidade de proteções. Lee sugere que “os agentes de IA devem ser capazes de produzir explicações interpretáveis ou detalhar seu plano. Os humanos devem ser capazes de inspecionar ou diagnosticar as causas das saídas ou ações de um agente." Ele também propõe uma nova proteção onde "o agente pode aprender e propor uma sequência de análises ou etapas em direção a uma meta, mas o usuário humano pode precisar aprovar esse plano antes da execução."

Chan concorda com esse sentimento, observando: "Ainda é necessário trabalhar para descobrir quais proteções seriam apropriadas e quando." As possíveis medidas incluem "restringir as ações que um agente pode realizar em nome do usuário, manter a capacidade de o usuário interromper o agente e deixar claro para o usuário o que o agente está fazendo".

O desafio de controlar os agentes de IA torna-se ainda mais assustador à medida que eles se aproximam ou superam a inteligência de nível humano. Roman V. Yampolskiy, um renomado professor de ensino da University of Louisville, destaca um desafio significativo: "Se eles se tornarem mais inteligentes do que os humanos, atualmente não temos nenhuma técnica para controlá-los em uma direção positiva ou negativa."

Os potenciais impactos sociais da adoção generalizada da IA são substanciais. Yampolskiy sugere que agentes de IA avançados poderiam “fazer todos os trabalhos e levar a quase 100% de desemprego”. Esse cenário levanta questões sobre estruturas sociais e sistemas econômicos.

Lee oferece uma visão mais medida: "Embora a IA generativa tenha sido surpreendentemente capaz, ainda não vimos um impacto generalizado no emprego humano e nas estruturas sociais". Ele observa que a IA pode melhorar a produtividade do trabalhador em campos como programação de computadores ou trabalho paralegal, potencialmente reduzindo as necessidades de contratação. Lee também ressalta que "a IA também pode aumentar o volume de conteúdo gerado artificialmente e mudar a forma como os humanos percebem e consomem mídia".

Koustuv Saha, professor assistente de ciência da computação na University of Illinois, enfatiza a cautela em áreas confidenciais. "A menos que haja evidências suficientes de que a IA provavelmente não causará danos, ela não deve ser colocada em prática", alerta Saha, particularmente em áreas como a saúde.

À medida que os agentes de IA se tornam mais prevalentes, as questões de responsabilidade legal e ética se tornam cada vez mais complexas. Quem é responsabilizado quando uma IA autônoma toma uma decisão que leva ao dano? Essas questões desafiam os frameworks legais e os princípios éticos existentes.

A possibilidade de os agentes de IA serem manipulados ou sequestrados para fins maliciosos acrescenta outra camada de preocupação. A pesquisa de Chan se concentra no desenvolvimento de salvaguardas e sistemas de monitoramento para detectar e evitar esse uso indevido. "Ao usar ou interagir com um agente, você também pode querer algum tipo de monitor para informar se o agente está sendo manipulado", ele sugere.

Com relação à possibilidade de os agentes de IA desenvolverem seus próprios objetivos ou motivações, Lee afirma: “No momento, os agentes de IA podem não ter contexto suficiente para propor novas metas”. Ele explica que "os usuários humanos provavelmente fornecerão o objetivo, enquanto os agentes provavelmente inferirão as etapas intermediárias necessárias para atingir o objetivo".

Apesar desses desafios, o desenvolvimento de agentes de IA continua em um ritmo acelerado, impulsionado por seus imensos benefícios potenciais e vantagem competitiva para as empresas.

O relatório Total Economic Impact do IBM® Watsonx Assistant da Forrester constatou que os clientes da solução de IA tiveram benefícios de USD 23 milhões em um período de três anos, o que equivale a um ROI de 370%. Na prática, isso se traduz em maior engajamento do cliente e melhores experiências para o usuário e o agente humano.

A chave para esse sucesso é a confiança, e saber quando a entrada humana é necessária para ajudar a reforçar essa confiança. “Queremos garantir que os usuários saibam que os dados que estão fornecendo e recebendo são exatos e seguros”, explicou Morgan Carroll, Engenheiro Sênior de IA da IBM, em um episódio recente do podcast AI in Action. Carroll também enfatizou a importância de informar os clientes desde o início quando estão falando com um agente de IA.

Quando as necessidades de um cliente tornam-se mais sutis, ou quando um toque mais pessoal é preferido, é quando um ser humano intervém. “Às vezes, há lugares em que precisamos apresentar um ser humano”, afirmou Jeannnie Walters, palestrante e treinadora de experiência do cliente, no episódio. “Precisamos da empatia que um ser humano pode transmitir e dessa compreensão.”

À medida que os sistemas de IA se tornam mais inteligentes e independentes, os especialistas pedem melhores medidas de segurança e trabalho em equipe global. As escolhas que fazemos agora sobre IA moldarão como a tecnologia e a sociedade se desenvolverão no futuro. O Truth Terminal é apenas um exemplo desses novos agentes de IA. Ainda é cedo, mas esses programas já estão levantando grandes questões. Conforme a IA avança, temos que pensar muito sobre o que é inteligência e como os seres humanos se encaixam em um mundo onde as máquinas podem agir por si mesmas.