DeepSeek-R1 é um lembrete sobre a importância da governança de IA

Modelos de base de código aberto, como o muito discutido DeepSeek-R1, podem dar às empresas uma vantagem inicial ao criar seus próprios modelos personalizados e, portanto, podem aumentar o ROI. Mas o que tem sido menos discutido é o papel da governança de IA. A governança é necessária para todas as formas de IA e ML, mas há considerações exclusivas para modelos de código aberto de fornecedores terceirizados. Se você deseja que o uso da IA responsável pela sua organização seja seguro, transparente e responsável, a governança de IA é crucial.

Diante desses desenvolvimentos, vamos discutir como você pode aproveitar os modelos de código aberto, como o do DeepSeek, enquanto identificamos como a governança de IA pode mitigar alguns dos principais desafios.

Um estudo da IBM descobriu que 51% das empresas que usam ferramentas de código aberto tiveram ROI positivo, em comparação com apenas 41% das que não usaram. Esses modelos novos e emergentes, menores de código aberto reforçam a postura da IBM sobre o futuro da IA sendo aberto, o que ajudará as empresas a realizarem os benefícios da IA de uma forma que equilibre eficiência com confiança e segurança. Enquanto muitos líderes de tecnologia ficaram surpresos e preocupados com as implicações do DeepSeek, a IBM tem sido uma defensora de uma abordagem mais aberta. "Modelos menores e eficientes podem fornecer resultados reais sem sistemas proprietários maciços", disse recentemente o CEO da IBM, Arvind Krishna, em um artigo publicado na Fortune.

Quando se usa modelos de base de código aberto, a Governança de IA é crítico em todo o ciclo de vida do modelo. A partir de uma avaliação de risco, as organizações devem primeiro decidir se o modelo é seguro para uso. O que é considerado seguro para uso geral ou individual pode não ser adequado para casos de uso empresarial.

No caso do DeepSeek-R1, as organizações podem decidir que auto-hospedar o modelo ou executá-lo por meio de um produto de estúdio de IA, como o IBM watsonx.ai, é relativamente seguro. No entanto, o uso do aplicativo DeepSeek pode apresentar desafios de dados e segurança. Muitos países proibiram o uso do aplicativo DeepSeek por esse motivo.

Depois que os modelos são aprovados, os validadores de modelos podem adicioná-los a um inventário de modelos, que rastreia a utilização e o desempenho do modelo e, ao mesmo tempo, designa os casos de uso aos quais os modelos podem ser aplicados. Essa coleção de modelos permite que os desenvolvedores de IA identifiquem os modelos disponíveis e que as equipes de garantia, dados e segurança rastreiem onde os modelos estão sendo usados.

As fichas técnicas de IA capturam fatos do modelo durante todo o ciclo de vida e aumentam a transparência sobre o que está dentro do modelo e como ele está sendo usado. As fichas técnicas demonstram qual modelo de base foi usado, incluindo parâmetros de prompt, modelos e avaliação.

Existem preocupações com a segurança de alguns modelos de código aberto e a facilidade de injeção de prompt e jailbreaking para gerar resultados de produção prejudiciais. A observabilidade e as proteções podem monitorar a integridade, a precisão e o desvio do modelo, além de limitar o discurso de ódio, a profanação e outros conteúdos prejudiciais. 

As desvantagens da IA sem governança de IA são imensas. As organizações que usam IA para interagir com indivíduos na UE devem cumprir a Lei de IA da UE. O descumprimento pode resultar em uma multa de 35 milhões de euros ou 7% do faturamento anual, o que for maior.

Os riscos para as marcas, a reputação e a confiança dos clientes e parceiros das empresas também são significativos. Imagine se a sua organização comprometer os dados pessoais de clientes, ou insultar ou fraudar um cliente durante uma interação. Eles não se importam se a falha original estava com sua equipe ou com o modelo de base, sua marca está prejudicada de qualquer maneira. Sem as proteções em vigor, usar a IA generativa para qualquer caso de uso na produção se torna muito arriscado.

A governança de IA permite que as organizações gerenciem e mitiguem uma série de riscos e as capacita a usar IA de forma segura e responsável. Para apoiar esses esforços, a IBM Research desenvolveu o Atlas de Risco de IA, uma ferramenta projetada para ajudar as Organizações a identificar e mapear vários riscos de IA.

Uma estrutura e uma solução robustas de governança de IA são cruciais para sua organização, mas criar uma do zero é um processo demorado e caro que pode prejudicar seu ROI de IA. Para organizações que querem escalar a IA de forma eficiente, segura e responsável, criamos o watsonx.governance.

Uma solução de governança de IA, como o watsonx.governance, permite que os líderes decidam se e como permitir modelos como o do DeepSeek na IA da organização. Com a integração ao IBM Guardium AI Security, watsonx.governance também pode identificar instâncias desconhecidas do modelo e gerenciar riscos específicos, como jailbreak, DDoS e prompts de dados PII. Ele pode governar qualquer modelo e ser aplicado em qualquer nuvem ou executado no local. Atlas de risco de IA da IBM

O DeepSeek é apenas uma de uma série de inovações de código aberto e serve como um lembrete de que, em comparação com as tecnologias anteriores, todo avanço de IA deve colocar a governança e a segurança no centro da estratégia da sua organização. Eles não são requisitos opcionais, mas fundamentais.