Compartilhe:

*Por Joaquim Fernando Pires de Campos,VP, IBM Data & AI, Automation & AI Apps , Latin America

Qualquer gestor de TI conhece o termo Shadow IT, que é o uso de ferramentas de tecnologia (hardware e software) para questões corporativas sem o conhecimento da organização, e os riscos que isso implica. Agora uma variação desse conceito desponta no horizonte, a Shadow AI, que implica no uso de plataformas de IA generativa, geralmente orientadas ao mercado de consumo, em um ambiente empresarial.

Essa ameaça tem aumentado na medida em que cresce a intenção do uso de soluções de IA generativa em ambientes corporativos. Um estudo que feito pela IBM sobre adoção de IA mostra que 42% das empresas em todo o mundo considera o uso desta tecnologia nas suas operações.

Outra pesquisa, feita pelo Gartner e divulgada há poucas semanas,  aponta que até 2026, mais de 80% das empresas terão usado IA generativa, seja por meio de interfaces ou modelos de programação de aplicativos. Este número, em 2023, era de 5%. O potencial é enorme. O risco também.

A explosão da IA generativa no último ano se deve a dois fatores emblemáticos: a facilidade em capturar e armazenar dados nos dias de hoje e a popularização de diversas ferramentas que tornam a IA acessível para consumidores em geral.

E é aí que está a questão: como evitar que ferramentas de IA sejam usadas sem controle, validação, autorização ou até mesmo conhecimento do departamento de IT?

Para isso, há três pontos essenciais que devem ser considerados:

Governança

As empresas devem estabelecer uma política clara para o uso responsável de ferramentas de IA generativa e dados. Isso implica diversas questões, desde uma única plataforma que concentre toda a gestão da informação a ser usada, bem como a procedência e uso dos dados.

Isso tudo levando em conta que a evolução do uso da IA para negócios obriga as corporações a tornarem-se mais robustas em gestão, ética e segurança. Assim podem, de forma responsável, seguir incentivando os colaboradores a buscarem inovação e agilidade porém com limites bem estabelecidos. 

Comunicação e Treinamento

Uma comunicação em que a governança de TI esteja clara é essencial. Essa política citada no item anterior, depois de muito bem estabelecida, deve ser informada aos funcionários a fim de mitigar qualquer risco de uso indevido de informações.

O ideal é que as equipes evoluam concomitantemente ao avanço da tecnologia e isso se faz por meio de comunicação e treinamentos.

No caso dos treinamentos, não devemos apenas considerar a capacitação técnica, mas levar aos funcionários conhecimento quanto à ética e uso responsável de plataformas de IA Generativa.

A proximidade dos colaboradores com o time de TI também é parte disso. Essa proximidade facilita que os gestores de tecnología possam orientar a força de trabalho sobre qualquer dúvida ou uso dos ativos da empresa, sejam eles ferramentas de tecnologia ou dados. 

Adoção de Plataforma Segura e Adequada Para o Ambiente Corporativo

O criterio inicial para essa adoção deve ser focar em unificar a IA em uma plataforma desenhada para atender as necessidades de negócios. As empresas devem buscar por soluções capazes de fazer a governança dos modelos utilizados em AI Generativa e assim automatizar essa gestão.

Obviamente cada empresa pode customizar a solução usada de acordo com sua necessidade e realidade de negócios, uma vez que a governança de IA não tem uma abordagem única. Deve-se considerar uma solução com arquitetura aberta que envolva as ferramentas de IA escolhidas.

O uso de IA generativa para automatizar tarefas que podem potencializar a produtividade nos negócios é um camino sem volta. A era de IA está aí e daqui para a frente só evoluirá, seja na adoção massiva ou na tecnologia em si. É um daqueles momentos icónicos em que tudo muda. Mas para tirar grande vantagem disso, sem pagar um preço desnecessário, a atenção à governança é fator esencial.