Por que a segurança de dados é crítica para a IA
Os dados são o novo petróleo. Ela alimenta nossa economia e impulsiona novas tecnologias, notavelmente a IA generativa. No entanto, para que a IA seja amplamente adotada, ela deve ser confiável e segura.
Como mostra o último relatório do custo das violações de dados da IBM, as interrupções nos negócios elevam os custos de violação e as multas regulatórias a novos patamares, com o custo médio de uma violação de dados chegando a R$ 4,88 milhões.
No entanto, de acordo com uma pesquisa realizada pelo IBM Institute for Business Value (IBV) sobre cibersegurança e IA generativa, mais de 94% dos líderes empresariais acreditam que proteger a IA é importante, mas apenas 24% afirmam que seus projetos de IA incorporarão um componente de cibersegurança nos próximos seis meses.
Isso deixa muitas empresas vulneráveis, pois a IA generativa também traz novos riscos, como vazamento de dados, envenenamento de dados e ataques de injeção de prompt. Também pode ser difícil para as empresas controlarem quem tem acesso aos seus dados, observa Scott McCarthy, IBM Global Managing Partner for Cybersecurity Services.
"É importante garantir que os controles estejam em vigor para que os dados de negócios e clientes não sejam expostos", explica McCarthy.
Para proteger seus dados e sua IA, as empresas devem estabelecer sua governança de IA e proteger sua infraestrutura: seus dados, seus modelos e uso de seus modelos. Esse é o framework da IBM para proteger IA generativa— um framework que pode ser aplicado em outros ambientes, incluindo o Einstein do Salesforce, um conjunto de ferramentas de IA para CRM.
Veja aqui três etapas que as empresas podem seguir para iniciar esse processo.
Sua equipe apanharia o próximo dia zero a tempo?
Junte-se aos líderes de segurança que confiam no boletim informativo Think para receber notícias selecionadas sobre IA, cibersegurança, dados e automação. Aprenda rápido com tutoriais e explicações de especialistas, entregues diretamente em sua caixa de entrada. Consulte a Declaração de privacidade da IBM.
Muitas equipes inovam rapidamente com a IA generativa, mas isso pode criar o que é conhecido como TI invisível. "Temos que garantir que as empresas também tenham visibilidade. Há novas ferramentas, como o gerenciamento da postura de segurança de dados e o gerenciamento da postura de segurança de IA, que ajudarão nisso", diz McCarthy.
Quer você esteja trabalhando com dados de clientes ou dados comerciais, diferentes tipos de dados terão implicações diferentes e podem estar sujeitos a políticas e procedimentos diferentes.
Aplique os controles adequados a esses dados com base no limite de classificação, como dados de clientes, censos de dados de negócios ou dados publicamente disponíveis, para garantir que as pessoas certas tenham acesso aos dados certos no momento certo.
Concluindo, "as equipes de segurança precisam ser facilitadoras de negócios, não apenas guardiões de políticas e procedimentos de segurança", acredita McCarthy.