Por qué la seguridad de datos es crítica para la IA
Los datos son el nuevo petróleo. Impulsan nuestra economía y nuevas tecnologías, en particular, la IA generativa. Sin embargo, para que la IA se adopte ampliamente, debe ser fiable y segura.
Como muestra el último informe "Cost of a Data Breach" de IBM, las interrupciones empresariales elevan los costes de las vulneraciones y las multas normativas a nuevas cotas, con un coste medio de vulneración de datos que alcanza los 4,88 millones de dólares.
Sin embargo, según una encuesta realizada por el estudio IBM Institute for Business Value (IBV) sobre ciberseguridad e IA generativa, más del 94 % de los líderes empresariales creen que proteger la IA es importante, pero solo el 24 % afirma que sus proyectos de IA incorporarán un componente de ciberseguridad en los próximos seis meses.
Esto deja a muchas empresas vulnerables, ya que la IA generativa también conlleva nuevos riesgos, como filtraciones de datos, intoxicación de datos y ataques de inyección de prompts. También puede ser difícil para las empresas controlar quién tiene acceso a sus datos, señala Scott McCarthy, socio director global de IBM para servicios de ciberseguridad.
"Es importante asegurarse de que existen controles para que los datos empresariales y de los clientes no queden expuestos", explica McCarthy.
Para salvaguardar sus datos y proteger su IA, las empresas deben establecer su gobierno de la IA y proteger su infraestructura: sus datos, sus modelos y el uso de sus modelos. Este es el marco de IBM para asegurar la IA generativa, un marco que se puede aplicar en otros entornos, incluido Einstein de Salesforce, un conjunto de herramientas de IA para CRM.
Estas son las 3 medidas que las empresas pueden tomar para iniciar este proceso.
¿Su equipo detectaría a tiempo el próximo día cero?
Únase a los líderes de seguridad que confían en el boletín Think para obtener noticias seleccionadas sobre IA, ciberseguridad, datos y automatización. Aprenda rápidamente de tutoriales de expertos y artículos explicativos, directamente en su bandeja de entrada. Consulte la Declaración de privacidad de IBM.
Muchos equipos innovan rápidamente con la IA generativa, pero esto puede crear lo que se conoce como TI invisible. "Tenemos que asegurarnos de que las empresas también tengan visibilidad. Hay nuevas herramientas como la gestión de la posición de seguridad de los datos y la gestión de la posición de seguridad de la IA que ayudarán con esto", afirma McCarthy.
Tanto si trabaja con datos de clientes como de empresas, los distintos tipos de datos tendrán implicaciones diferentes y pueden estar sujetos a políticas y procedimientos distintos.
Aplique los controles adecuados a esos datos basándose en el límite de clasificación, como los datos de clientes, el censo de datos empresariales o datos públicos disponibles, para ayudar a garantizar que las personas adecuadas tengan acceso a los datos adecuados en el momento adecuado.
En conclusión, "los equipos de seguridad deben ser facilitadores del negocio, no solo los guardianes de las políticas y procedimientos de seguridad", cree McCarthy.