O que os CIOs e os CTOs devem considerar antes de adotar a IA generativa para a modernização de aplicações

Implementar a IA generativa pode parecer um "dilema do ovo e da galinha". Em uma pesquisa recente do IBM Institute for Business Value, 64% dos CEOs disseram que precisavam modernizar os aplicativos antes de poderem usar a IA generativa. Mas, ao mesmo tempo, a IA generativa tem o poder de transformar o processo de modernização de aplicações por meio de engenharia reversa de código, geração de código, conversão de código de uma linguagem para outra, definição do fluxo de trabalho de modernização e outros processos automatizados. Veja como os CTOs e CIOs podem estimar seus patrimônios de tecnologia e dados, avaliar a oportunidade e traçar um caminho a seguir.

Os CIO e CTO precisam:

• Avaliar o nível de domínio da nuvem híbrida de sua organização como uma estratégia fundamental para a implementação eficaz da IA generativa
• Avaliar os obstáculos organizacionais e os custos da implementação e da manutenção do status quo
• Ponderar os custos e benefícios do uso de grandes modelos de uso geral em comparação ao ajuste de modelos menores
• Avaliar fatores e custos relacionados à disponibilidade, governança, segurança e sustentabilidade de dados
• Trabalhar com o RH para colocar as pessoas no centro de sua estratégia de IA generativa

Na última década, a IBM defendeu uma estratégia de nuvem híbrida para sustentar a inovação, a produtividade e a eficiência escaláveis orientadas por IA. Do nosso ponto de vista, o debate sobre arquitetura acabou. As organizações que dominam a nuvem híbrida estão bem posicionadas para implementar a IA generativa em toda a organização. A nuvem híbrida permite que elas aproveitem os poderosos grandes modelos de linguagem de código aberto, usem dados públicos e recursos de computação para treinar seus próprios modelos e realizar o ajuste fino de seus modelos com segurança, mantendo seus insights proprietários privados. Além de agregar enorme valor à experiência do cliente e do funcionário, funções de RH e atendimento ao cliente, a IA generativa na nuvem híbrida oferece aos CIOs e CTOs agilidade excepcional para automatizar as operações de TI e modernizar aplicações, podendo eliminar sua dívida técnica e permitindo uma modernização verdadeiramente contínua.

Mesmo para CIOs e CTOs que se comprometeram com a nuvem híbrida, os obstáculos organizacionais à modernização permanecem. Primeiro, os líderes de tecnologia precisam estimar o impacto financeiro total da modernização (em comparação ao custo de não modernizar) em toda a organização. Eles precisam apoiar a modernização como uma iniciativa de negócios, não um projeto de TI. Os líderes também devem lidar com a lacuna de conhecimentos, priorizando o desenvolvimento de talentos e obtendo apoio cultural para a modernização como um investimento empresarial estratégico e voltado para o futuro, em vez de um jogo operacional de tecnologia.

Em seguida, os líderes precisam compreender o valor de negócios que a IA generativa pode trazer para a modernização para saber onde devem investir. Na experiência das equipes da IBM Consulting, as organizações que estão apenas começando a jornada de modernização precisam de uma perspectiva sobre a "arte do possível" quando se trata de entender os benefícios e o valor da automação orientada por IA. As organizações que estão mais avançadas em suas jornadas estão buscando clareza sobre os casos de uso em seus setores e assistência para lidar com oportunidades únicas.

Dentro das operações de TI, os casos de uso de IA generativa incluem triagem automática de sistemas para cumprir os objetivos de nível de serviço; gerenciamento, comunicação, prestação de assistência e resolução de consultas e tickets; e detecção e gerenciamento de eventos e anomalias. Ela pode melhorar a automação de TI ao criar e executar runbooks e ajudar os usuários na transição para novas bases de conhecimento e software. Também pode ajudar na engenharia de plataforma, por exemplo, gerando pipelines de DevOps e scripts de automação de middleware.

Muito mais pode ser dito sobre as operações de TI como base da modernização. Aqui, priorizaremos a discussão de quatro fluxos de trabalho aos quais a IA generativa pode ser aplicada.

• Planejamento da transformação: a IA generativa pode ajudar a definir seu fluxo de trabalho de modernização por meio de sumarização, criação de planos e geração de arquiteturas de referência, como o Terraform.
• Engenharia reversa de código: a IA generativa facilita a engenharia reversa ao analisar código para extrair business rules e modelos de domínio, gerar recomendações para migrar as aplicações da arquitetura monolítica para microsserviços e identificar oportunidades de refatoração e conteinerização e geração de código refatorado.
• Geração de código: a geração de código ajuda os líderes de TI a superar desafios relacionados à largura de banda do desenvolvedor e à otimização das habilidades de um grupo limitado de talentos. Tarefas altamente repetitivas e manuais podem ser tratadas pela geração de código nativo da nuvem, desde trechos curtos até funções completas. O código pode ser gerado para design de IU, infraestrutura, configuração de plataforma de contêineres (como Red Hat OpenShift) e frameworks serverless (como Knative).
• Conversão de código: a conversão de código é essencial para reter e atualizar aplicações legadas de missão crítica. A IA generativa permite a automação desse processo, por exemplo, de COBOL para Java, de SOAP para REST e outras linguagens e ambientes.

Os CTOs/CIOs devem considerar os ganhos rápidos do uso da IA generativa nessas funções. Procure oportunidades relativamente discretas e de baixo risco para explorar implementações de prova de conceito. Comece pequeno, teste e expanda.

Selecionar os modelos de base certos antecipadamente pode ajudar a obter resultados mais precisos e eficientes para sua empresa.

A arquitetura de transformadores favorece o tamanho: modelos maiores produzem melhores resultados. Então, há uma corrida na IA generativa para construir modelos de base cada vez maiores para aplicações cada vez mais amplas. Mas, embora os modelos maiores sejam poderosos, um modelo pesado com vários bilhões de parâmetros pode nem sempre ser a melhor opção para uma empresa. Um modelo menor que foi ajustado para uma tarefa pode muitas vezes superar um modelo grande que não foi ajustado para essa tarefa. Esses modelos podem ser executados em LLMs de uso geral com pequenos ajustes se a base subjacente for adequada para uso empresarial. Por exemplo, os modelos de base Granite de 13 bilhões de parâmetros da IBM, disponíveis na próxima versão do watsonx.ai, são muito menores do que os maiores LLMs (que contêm centenas de bilhões de parâmetros), mas têm bom desempenho em tarefas específicas de negócios, como sumarização, resposta a perguntas e classificação, sendo muito mais eficientes.

Modelos de base adequados à finalidade também permitem que as organizações automatizem e acelerem a modernização ao gerar trechos de código e componentes de aplicações, juntamente com a automação de testes de aplicações. Com base nos modelos de código incorporados ao watsonx.ai, o IBM watsonx Code Assistant também pode ser usado para converter código, por exemplo, de COBOL para Java. No watsonx Code Assistant, desenvolvedores de todos os níveis de experiência podem formular solicitações em linguagem simples e obter recomendações geradas por IA ou gerar código com base no código-fonte existente. O watsonx.ai também inclui acesso ao StarCoder LLM, treinado em dados licenciados abertamente do GitHub. Os desenvolvedores podem aproveitar o StarCoder para acelerar a geração de código e aumentar a produtividade para modernização de aplicações e modernização de TI.

Além do tamanho, ao escolher um modelo de base, os CTOs também devem considerar as linguagens naturais e as linguagens de programação compatíveis com o modelo e a quantidade de ajuste fino de que o modelo precisa.

Na IA generativa, os métodos de cálculo do ROI não são maduros ou padronizados, nem há benchmarks disponíveis frequentemente. Para aplicações corporativas, o ajuste fino, a engenharia de prompts e a execução de cargas de trabalho de uso intensivo de computação exigem um investimento significativo.

Há quatro fatores-chave a serem considerados ao selecionar e implementar um modelo, que variam de acordo com o domínio, o setor e o caso de uso. O primeiro fator de custo é o preço ou o método de licenciamento. Isso é avaliado pelo uso de APIs em nuvens públicas e gerenciadas e pelos custos de hospedagem e computação em nuvens híbridas e privadas. O segundo fator de custo é o esforço de desenvolvimento, que é maior em nuvens híbridas e privadas e está próximo ao terceiro fator, a segurança de dados empresariais. Por fim, considere os impactos potenciais do risco de IP e segurança, que são reduzidos nos extremos híbrido e privado da escala.

A disponibilidade de dados e os fatores de governança também são considerações ao avaliar o ROI. Por meio do portfólio watsonx de produtos de IA, a IBM está fazendo avanços significativos no fornecimento de modelos de base direcionados às necessidades dos usuários corporativos: o armazenamento de dados adequado à finalidade disponibilizado no watsonx.data, construído em uma arquitetura de lakehouse aberta, permite que as empresas personalizem seus modelos onde quer que suas cargas de trabalho residam. As ferramentas do watsonx.governance também ajudarão as organizações a conduzir com eficiência fluxos de trabalho responsáveis, transparentes e explicáveis em toda a empresa.

Com a aceleração dos recursos e dos usos da IA generativa, colocar números ao lado dos benefícios na equação do ROI pode ser um desafio. Mas faz sentido que CIOs e CTOs examinem as várias maneiras pelas quais as organizações criaram valor de negócios a partir da IA como ponto de partida e extrapolem o valor potencial de seus casos de teste de IA generativa e de suas conquistas rápidas.

Seja como parte de programas formais de ESG ou de missões corporativas, a sustentabilidade é mais do que uma boa ética — ela é cada vez mais reconhecida como uma empresa melhor. Empresas com esforços de sustentabilidade comprometidos e eficazes podem aumentar o valor de negócios com maior retorno para os acionistas, crescimento da receita e lucratividade. Portanto, é sensato que os CTOs incluam a sustentabilidade em seu cálculo de adoção da IA generativa.

O treinamento, o ajuste e a execução de modelos de IA podem deixar uma enorme pegada de carbono. É por isso que a IBM ajuda a adaptar a IA generativa para a empresa com modelos de base confiáveis, portáteis e eficientes em termos de energia. A criação de modelos menores e o uso mais eficiente dos recursos de informática podem reduzir muito as despesas e as emissões de carbono. A IBM Research também está desenvolvendo tecnologias de treinamento de modelos mais eficientes, como o algoritmo LiGo, que recicla modelos pequenos e os transforma em modelos maiores, economizando até 70% do tempo, custo e produção de carbono.

Por fim, a implementação eficaz da IA generativa depende de pessoas qualificadas e entusiasmadas. Assim, os departamentos de recursos humanos devem estar no centro da estratégia de sua organização. Comece requalificando os próprios profissionais de RH, que provavelmente já estão usando ferramentas de contratação orientadas por IA. Em seguida, desenvolva uma iniciativa de gerenciamento formal para comunicar os testes e a adoção de IA generativa que estão em andamento e fornecer feedback.