O advento da IA generativa (gen AI) está capacitando empresas ao redor do mundo a transformar a maneira como trabalham, integrando a IA diretamente em sua infraestrutura, sistemas e processos fundamentais. O mesmo vale para a IBM, onde a organização do Diretor de Informação (CIO) da IBM foi desafiada a criar uma experiência de IA generativa, agora conhecida como AskIBM, para auxiliar os funcionários da IBM em atividades comerciais de rotina para que eles possam se concentrar em trabalhos mais estratégicos. O objetivo era oferecer a cada funcionário da IBM um assistente digital com inteligência artificial capaz de automatizar tarefas comerciais diárias, como redigir um e-mail, traduzir um documento ou pesquisar informações.
Dada a rapidez com que o espaço de IA generativa está evoluindo, a organização CIO agiu rapidamente e aproveitou as próprias tecnologias de IA da IBM para criar a versão alfa do AskIBM em apenas 60 dias, utilizando uma abordagem rápida de desenvolvimento e integração. O período de 60 dias incluiu o caminho do IBM watsonx para a produção, bem como críticas jurídicas, de privacidade, segurança cibernética e ética de IA para atender aos padrões e às proteções de IA recomendados. Durante o processo, a organização da CIO colaborou com a IBM Software e a IBM Research para fornecer um aplicativo pronto para lançamento corporativo. Consequentemente, o acesso à versão alfa foi disponibilizado para os mais de 280 mil funcionários da IBM em todo o mundo no início de janeiro de 2024.
A base do AskIBM foi construída com watsonx.ai e grandes modelos de linguagem (LLMs) de classe IBM Granite1, e aumentada com conteúdo estratégico interno da IBM - excluindo informações confidenciais da IBM, informações pessoais sensíveis e informações de clientes. Como parte do desenvolvimento e da implantação, buscaram a colaboração dos funcionários da IBM para ajudar a treinar e ajustar os modelos de base de IA testando o AskIBM. Os funcionários da IBM também foram incentivados a enviar feedback às equipes de produtos sobre como aprimorar o Watsonx para dimensioná-lo para os clientes corporativos da IBM em todo o mundo. O AskIBM foi projetado para automatizar atividades normais, como redigir um e-mail para o cliente, criar um resumo do produto ou resumir rapidamente um documento longo para se preparar para uma reunião, chamada ou outra necessidade usando a IA de gênero.
Cerca de 5 mil documentos em vários idiomas foram ingeridos na versão alfa interna do AskIBM para treinar os LLMs da classe Granite, e esse número aumentou para mais de 30 mil em julho de 2024. A técnica Retrieval-Augmented Generation (RAG) possibilita que a AskIBM utilize o conteúdo ingerido para apresentar respostas personalizadas e apropriadas aos funcionários da IBM, criando novas respostas a partir das informações mais relevantes encontradas. Consulte a figura 1 para ver o fluxo de respostas do AskIBM.
A organização de CIOs planeja continuar colaborando com a IBM Software e outras equipes de IA da IBM para usar o Watsonx Orchestrate para ajudar a aprimorar ainda mais a experiência unificada do usuário, automatizando outras tarefas e simplificando fluxos de trabalho complexos.
1 O watsonx.ai inclui modelos de base construídos pela IBM, conhecidos como IBM Granite. Esses modelos de fundação de vários tamanhos aplicam IA generativa à linguagem e ao código.
A versão beta do AskIBM foi lançada em maio de 2024. Com a versão beta, a organização CIO proporcionou uma experiência de usuário unificada por ter um único ponto de entrada para todos os funcionários da IBM automatizarem tarefas para ajudar a aumentar a produtividade. Os usuários agora podem ir a um só lugar para resumir, traduzir e criar conteúdo, redigir documentos, conversar com documentos, encontrar informações e acessar outros assistentes digitais estratégicos. Transferir esse tipo de trabalho para o AskIBM ajuda a concentrar a atenção em atividades de maior valor.
Curiosamente, os resultados iniciais mostraram que o AskIBM teve um bom desempenho, mas um obstáculo para o sucesso adicional foi comportamental. A chave para obter o máximo valor do AskIBM é usar linguagem natural para criar prompts claros e intencionais que forneçam o contexto necessário para gerar respostas eficazes. No entanto, no início, muitos funcionários da IBM pesquisavam usando consultas baseadas em palavras-chave simples ou duplas em vez de consultas de linguagem natural. Na verdade, após o lançamento, as consultas em linguagem natural representavam apenas 2 a 4% das perguntas feitas, mas, como resultado da educação e do treinamento, esse valor aumentou para cerca de 10% no final de janeiro de 2024. Por meio de educação contínua, treinamento e uso prático, os funcionários da IBM estão se adaptando constantemente a essa nova forma de trabalhar.
A experiência da organização CIO projetando, desenvolvendo e implementando o AskIBM rendeu lições valiosas que podemos compartilhar com clientes IBM em todo o mundo. As lições são:
A organização Chief Information Officer (CIO) da IBM lidera a estratégia de TI interna da IBM e é responsável por entregar, proteger, modernizar e dar suporte às soluções de TI que funcionários, clientes e parceiros da IBM usam para realizar seus trabalhos todos os dias. A estratégia da organização do CIO engloba a criação de uma plataforma de TI adaptativa que facilite o acesso a ferramentas, aplicações e sistemas de TI em toda a empresa, acelere a solução de problemas e sirva como um mecanismo de inovação para a IBM, catalisando o crescimento dos negócios.
© Copyright IBM Corporation 2024. IBM, o logotipo IBM, Granite, IBM Research, watsonx, watsonx.ai, e watsonx Orchestrate são marcas comerciais ou marcas registradas da IBM Corp., nos EUA e/ou em outros países. Este documento é apresentado aqui como na data da primeira publicação e pode ser alterado pela IBM a qualquer momento. Nem todas as ofertas estão disponíveis em todos os países onde a IBM opera.
Os exemplos de clientes são ilustrações de como esses clientes utilizaram os produtos da IBM e os resultados que podem ter alcançado. O desempenho, o custo e a economia reais ou outros resultados em outros ambientes operacionais podem variar.