Implemente um agente LangGraph ReAct de suporte de TI com IBM Granite no watsonx.ai

Neste tutorial, você criará um agente de IA ReAct (Reasoning and Action) com o framework LangGraph de código aberto, usando um modelo IBM Granite por meio da API do IBM® watsonx.ai  em Python. O caso de uso é gerenciar tickets de suporte de TI existentes e criar novos.

Um agente de inteligência artificial (IA) se refere a um sistema ou programa capaz de executar tarefas de forma autônoma em nome de um usuário ou outro sistema, projetando seu fluxo de trabalho e utilizando as ferramentas disponíveis. Os agentes de IA generativa usam técnicas avançadas de processamento de linguagem natural (NLP) de grandes modelos de linguagem (LLMs) para compreender e responder passo a passo às entradas do usuário e determinar quando recorrer a ferramentas externas. Um componente essencial dos agentes de IA é o raciocínio. Ao adquirir novas informações por meio de chamadas de ferramentas, intervenção humana ou outros agentes, o paradigma de raciocínio orienta as próximas etapas do agente.

Com cada ação e cada resposta da ferramenta, o paradigma ReAct (Reasoning and Action) instrui os agentes a pensar e planejar suas próximas etapas. Esse raciocínio passo a passo e lento nos fornece um insight de como o agente usa o contexto atualizado para formular conclusões. Como esse processo de reflexão é contínuo, ele é frequentemente chamado de ciclo pensar-agir-observar e é uma forma de prompts da cadeia de pensamento.

Este tutorial usará o framework LangGraph, um framework de agentes de IA de código aberto projetada para criar, implementar e gerenciar fluxos de trabalho complexos de IA generativa. A função create_react_agent criada previamente fornecida pelo LangGraph é uma maneira fácil de criar um agente personalizado simples. Agentes ReAct simples, como o deste tutorial, conforme representado na Figura 1, são compostos por dois nós. Um nó é responsável por chamar o modelo, e o outro nó é por usar ferramentas. Ferramentas comuns incluem a ferramenta criada previamente LangChain Wikipedia , a ferramenta DuckDuckGoSearchRun e até mesmo a geração aumentada de recuperação (RAG). Em casos com entrada de ações complexas, outro nó pode ser adicionado, como mostra a Figura 2. Esse nó adicional serviria para garantir que o agente devolva uma saída estruturada.

No LangGraph, a funcionalidade de "estado" serve como um banco de memória que registra e rastreia todas as informações valiosas processadas por cada iteração do sistema de IA. Esses gráficos com estado permitem que o agente recupere informações passadas e contexto valioso. A estrutura cíclica do gráfico do ReAct é aproveitada quando o resultado de uma etapa depende das etapas anteriores no loop. Os nós, ou "atores," no gráfico codificam a lógica do agente e são conectados por edges. Edges são essencialmente funções do Python que determinam o próximo nó a ser executado dependendo do estado atual.

Você precisa de uma conta do IBM Cloud para criar um projeto do watsonx.ai .

Para utilizar a interface de programação de aplicativos (API) do watsonx , é necessário concluir as etapas a seguir. Observe que você também pode acessar esse tutorial no GitHub. 

1. Faça login no watsonx.ai usando sua conta do IBM Cloud.

2. Crie uma instância do serviço do watsonx.ai Runtime (tempo de execução) (selecione a região apropriada e escolha o plano Lite, que é uma instância gratuita).

3. Gere uma chave de interface de programação de aplicativos (API).

Para começar facilmente a implementar agentes no watsonx.ai, clone este repositório do GitHub e acesse o projeto de agentes ReAct de suporte de TI. Você pode executar o seguinte comando em seu terminal para fazê-lo.

Em seguida, instale o poetry, se ainda não o tiver instalado. O poetry é uma ferramenta para gerenciar dependências e empacotamento do Python.

Em seguida, ative seu ambiente virtual.

Em vez de usar o comando pip install, o pacote poetry nos permite adicionar dependências executando o seguinte comando no terminal. Essa etapa instala as dependências do repositório refletidas no arquivo pyproject.toml para seu ambiente virtual separado.

É necessário adicionar um diretório de trabalho a PYTHONPATH para as próximas etapas. Em seu terminal, execute:  

Para configurar seu ambiente, siga as instruções no arquivo README.md no Github. Essa configuração exige que vários comandos sejam executados em seu IDE ou linha de comando.

No arquivo config.toml, você encontrará as seguintes credenciais em branco que devem ser preenchidas antes de tentar implementar seu agente. Seu watsonx_apikey e watsonx_url foram inicializados na etapa 1 deste tutorial. Em seguida, siga o formulário simples encontrado na página Acesso do desenvolvedor para selecionar seu espaço de implementação ou criar um novo. Lá, você pode recuperar seu space_id necessário para conectar nosso agente à implementação do watsonx.ai. Por fim, seu model_id é definido como o modelo IBM Granite 3.2.

Nosso agente precisa de uma fonte de dados para apresentar informações atualizadas e adicionar novos dados. Armazenaremos nosso arquivo de dados no IBM® Cloud Object Storage.

1. Primeiro, faça login no IBM Cloud. Em seguida, crie um novo projeto.
2. No menu do lado esquerdo, selecione Lista de recursos. Usando o botão Criar recurso, crie uma nova instância do Cloud Object Storage ou simplesmente use este link.
3. Abra sua instância do IBM Cloud Storage recém-criada e crie um novo bucket. Para este tutorial, você pode selecionar o Smart Tier, que é o pacote gratuito. Quando solicitado, carregue seu arquivo. Para o arquivo de amostra, consulte o arquivo tickets.csv no repositório do GitHub vinculado na etapa 2.

Para fornecer ao agente ReAct a funcionalidade de gerenciamento de tickets de TI, devemos nos conectar à nossa fonte de dados no IBM Cloud Object Storage. Para esta etapa, podemos usar a biblioteca ibm_boto3

Em tools.py , o COS_ENDPOINT , COS_INSTANCE_CRN , BUCKET_NAME e CSV_FILE_NAME deve ser preenchido com as informações apropriadas usando os detalhes do bucket encontrados em sua instância do Cloud Object Storage na guia Configuração. 

Nosso agente poderá ler e escrever dados no nosso arquivo. Primeiro, vamos criar a ferramenta para ler os dados usando o LangChain@tool decorator. 

Adicionamos essa ferramentafind_tickets aotools.py arquivo. Essa ferramenta recupera o objeto de dados do Cloud Object Storage e o devolve como um dataframe do Pandas. Caso contrário, uma exceção será lançada. 

Em seguida, adicionamos a ferramenta create_ticket . 

Essa ferramenta recebe a descrição do problema do usuário e a urgência do problema como seus argumentos. Uma nova linha é adicionada ao nosso arquivo no COS com essas informações e, assim, um novo ticket é criado. Caso contrário, uma exceção será lançada. 

Uma última ferramenta que devemos adicionar ao nosso tools.py arquivo é a ferramenta get_todays_date, que utiliza o módulo datetime para retornar a data de hoje no formato MM-DD-AAAA. Essa ferramenta será útil para acessar a data atual, que o agente não tem outra maneira de recuperar porque o LLM não foi treinado com esses dados. 

Para conceder ao nosso agente acesso a essas ferramentas, as adicionamos à lista TOOLS no arquivo init.py do módulo arquivo. Essa lista deve ser o conteúdo de seu do módulo arquivo no diretório src/langgraph_react_agent.

Essas ferramentas são importadas no arquivo agent.py e passadas para o LangGraph criado previamente create_react_agent  atuando como agente executor. Outros parâmetros incluem o grande modelo de linguagem inicializado usando a classe ChatWatsonx, que permite a chamada de ferramentas no watsonx.ai, no economizador de memória e no prompt do sistema. Observe que alguns prompts se comportarão melhor do que outros e, portanto, algum nível de engenharia de prompts pode ser necessário dependendo do LLM escolhido. 

Antes de implementar seu agente, lembre-se de preencher todas as informações necessárias no config.toml, arquivo. 

Há três maneiras de conversar com seu agente.

Opção 1. Consulte o agente localmente

Execute o script para a execução de serviços de IA local.

Opção 2. Implemente o agente na interface de bate-papo integrada no watsonx.ai

A opção final é acessar o agente no espaço Implementações do watsonx.ai. Para fazer isso, selecione "Implementações" no menu lateral esquerdo. Em seguida, selecione seu espaço de implementação, selecione a guia "Ativos", selecione seu ativoonline ai_service, selecione o ativo com a tag "wx-agent" mais uma vez e, por fim, abra a guia "Pré-visualizar". Agora, você pode conversar com o agente na interface de chat interativo. Cada uma dessas três opções deve resultar em uma saída semelhante.

Opção 3. Implemente e converse com o agente em seu IDE

Para executar o script de implementação, inicialize a variável deployment_id  no arquivo query_existing_deployment.py .

O deployment_id de sua implementação pode ser obtido executando-se o arquivo scripts/deploy.py file.

Em seguida, execute o script de implementação. 

Em seguida, execute o script para consultar a implementação.

Para os fins deste tutorial, vamos escolher a opção 2 e consultar nosso agente implementado no watsonx.ai na forma de um chatbot agêntico. Vamos apresentar ao agente alguns prompts que exigiriam o uso de ferramentas. Ao seguir as etapas listadas na Opção 3, você deverá ver uma interface de bate-papo no watsonx.ai. Lá, podemos digitar nosso prompt. 

Primeiro, vamos testar se a create_ticket ferramenta será invocada com sucesso. Vamos solicitar que o agente crie um novo ticket.

Como você pode ver na resposta final do agente, o sistema de IA usou com sucesso a solução de problemas para criar um novo ticket com a create_ticket ferramenta. Ter visibilidade das chamadas de ferramentas é útil para fins de depuração. Agora, vamos verificar se o ticket foi adicionado ao nosso arquivo de dados que serve como base de conhecimento do agente. 

Ótimo! O agente adicionou o ticket ao arquivo com sucesso.

Neste tutorial, você criou um agente com o framework ReAct que utiliza a tomada de decisão para resolver tarefas complexas, como recuperação e criação de tickets de suporte. Existem vários modelos de IA que permitem a chamada de ferramentas agênticas, como o Gemini do Google, o Granite da IBM e o GPT-4 da OpenAI. Em nosso projeto, usamos um modelo de IA do IBM Granite por meio da API watsonx.ai. O modelo se comportou conforme o esperado tanto localmente quanto quando implementado no watsonx.ai. Como próxima etapa, verifique os modelos LlamaIndex e crewAI multiagentes disponíveis no repositório do GitHub do watsonx-developer-hub para criar agentes de IA.