Cómo establecer modelos de negocio seguros de IA+

La adopción empresarial de la IA se ha duplicado en los últimos cinco años, con los CEO afirmando que se enfrentan a una presión significativa por parte de inversores, acreedores y prestamistas para acelerar la adopción de la IA generativa. Esto se debe en gran medida a la realización de que cruzamos un nuevo umbral en cuanto a la madurez de la IA, introduciendo un nuevo espectro más amplio de posibilidades, resultados y beneficios de costo para la sociedad en su conjunto.

Muchas empresas se han reservado para apostar por la IA, ya que ciertas incógnitas dentro de la tecnología erosionan la confianza inherente. Y la seguridad suele verse como una de estas incógnitas. ¿Cómo se protegen los modelos de IA? ¿Cómo puede garantizar que esta tecnología transformadora esté protegida contra ciberataques, ya sea en forma de robo, manipulación y fuga de datos o ataques de evasión, envenenamiento, extracción e inferencia?

La carrera global para establecer un liderazgo en IA, ya sea entre gobiernos, mercados o sectores empresariales, ha estimulado la presión y la urgencia de responder a esta pregunta. El desafío de proteger los modelos de IA se deriva no solo de la naturaleza dinámica y el volumen de los datos subyacentes, sino también de la “superficie de ataque” extendida que introducen los modelos de IA: una superficie de ataque que es nueva para todos. En pocas palabras, para manipular un modelo de IA o sus resultados con fines maliciosos, existen muchos posibles puntos de entrada que los adversarios pueden intentar comprometer, muchos de los cuales aún estamos descubriendo.

Pero este desafío no deja de tener solución. De hecho, estamos viviendo el mayor movimiento de colaboración colectiva para garantizar la seguridad de la IA que jamás haya impulsado ninguna tecnología. La Administración Biden-Harris, el DHS CISA y la Ley de IA de la Unión Europea han movilizado a la comunidad de investigadores, desarrolladores y expertos en seguridad para que trabajen colectivamente con el fin de impulsar la seguridad, la privacidad y el cumplimiento normativo en materia de IA.

Es importante entender que la seguridad para la IA es más amplia que proteger la propia IA. En otras palabras, para garantizar la seguridad de la IA, no nos limitamos únicamente a los modelos y los datos. También debemos considerar la pila de aplicaciones empresariales en la que está integrada una IA como mecanismo defensivo, ampliando las protecciones para la IA dentro de ella. Del mismo token, debido a que la infraestructura de una organización puede actuar como un vector de amenaza capaz de proporcionar a los adversarios acceso a sus modelos de IA, debemos asegurarnos de que el entorno más amplio esté protegido.

Para apreciar los diferentes medios por los que debemos proteger la IA (los datos, los modelos, las aplicaciones y el proceso completo), debemos tener claro no solo cómo funciona la IA, sino exactamente cómo se despliega en varios entornos.

El papel de la higiene de la pila de aplicaciones empresariales

La infraestructura de una organización es la primera capa de defensa contra las amenazas a los modelos de IA. Garantizar que los controles de seguridad y privacidad adecuados estén integrados en la infraestructura de TI más amplia que rodea a la IA es clave. Esta es un área en la que la industria ya tiene una ventaja significativa: tenemos los conocimientos y la experiencia necesarios para establecer estándares óptimos de seguridad, privacidad y cumplimiento en los entornos complejos y distribuidos actuales. Es importante que también reconozcamos esta misión diaria como facilitadora de la IA segura.

Por ejemplo, permitir el acceso seguro a usuarios, modelos y datos es primordial. Debemos utilizar los controles existentes y ampliar esta práctica para asegurar las vías de acceso a los modelos de IA. En la misma línea, la IA aporta una nueva dimensión de visibilidad a las aplicaciones empresariales, lo que garantiza que las capacidades de detección y respuesta ante amenazas se amplíen a las aplicaciones de IA.

Los estándares de seguridad de mesa, como el empleo de métodos de transmisión seguros en toda la cadena de suministro, el establecimiento de estrictos controles de acceso y protecciones de infraestructura, así como el fortalecimiento de la higiene y los controles de máquinas virtuales y contenedores, son clave para prevenir la explotación. Al analizar nuestra estrategia general de seguridad empresarial, debemos reflejar esos mismos protocolos, políticas, higiene y estándares en el perfil de IA de la organización.

Uso y datos de entrenamiento subyacentes

Aunque los requisitos para la gestión del ciclo de vida de la IA aún se están definiendo, las organizaciones pueden aprovechar las medidas de protección existentes para garantizar la seguridad del proceso de implementación de la IA. Por ejemplo, la transparencia y la explicabilidad son esenciales para prevenir sesgos, alucinaciones y envenenamiento, por lo que quienes adoptan la IA deben establecer protocolos para auditar los flujos de trabajo, los datos de entrenamiento y los resultados para garantizar la precisión y el rendimiento de los modelos. Además, el origen de los datos y el proceso de preparación deben documentarse para garantizar la confianza y la transparencia. Este contexto y claridad pueden ayudar a detectar mejor las anomalías y anormalidades que podrían presentarse en los datos en una etapa temprana.

La seguridad debe estar presente en todas las etapas de desarrollo y despliegue de IA; esto incluye la aplicación de protecciones de privacidad y medidas de seguridad en las fases de capacitación y prueba de datos. Dado que los modelos de IA aprenden continuamente de los datos subyacentes, es importante tener en cuenta ese dinamismo y reconocer los posibles riesgos en la precisión de los datos, así como incorporar pasos de prueba y validación a lo largo del ciclo de vida de los datos. Las técnicas de prevención de pérdida de datos también son esenciales aquí para detectar y prevenir SPI, PII y fugas de datos reguladas a través de instrucciones y API.

Control en todo el ciclo de vida de la IA

Garantizar la seguridad de la IA requiere un enfoque integrado para crear, desplegar y gestionar proyectos de IA. Esto significa construir IA con gobernanza, transparencia y ética que respalden las demandas regulatorias. A medida que las organizaciones exploran la adopción de la IA, deben evaluar las políticas y prácticas de los proveedores de código abierto respecto a sus modelos de IA y conjuntos de datos de entrenamiento, así como el estado de madurez de las plataformas de IA. Esto también debe tener en cuenta el uso y la retención de datos: saber exactamente cómo, dónde y cuándo se utilizarán los datos, y limitar la vida útil del almacenamiento de datos para reducir los problemas de privacidad y los riesgos de seguridad. Además, se debe comprometer a los equipos de adquisiciones para garantizar la alineación con las políticas y directrices de privacidad, seguridad y cumplimiento de normas actuales de las empresas, que deben servir como base de cualquier política de IA que se formule.

Asegurar el ciclo de vida de la IA incluye mejorar los procesos actuales de DevSecOps para incluir el machine learning (ML), adoptando los procesos mientras se construyen integraciones y se despliegan modelos de IA y aplicaciones. Se debe prestar especial atención al manejo de los modelos de IA y sus datos de entrenamiento: entrenar la IA antes del despliegue y gestionar las versiones de forma continua es clave para manejar la integridad del sistema, al igual que el entrenamiento continuo. También es importante monitorizar las instrucciones y las personas que acceden a los modelos de IA.

De ninguna manera se trata de una guía completa para proteger la IA, pero la intención aquí es corregir conceptos erróneos sobre la seguridad de la IA. La realidad es que ya tenemos herramientas, protocolos y estrategias sustanciales disponibles para el despliegue seguro de la IA.

A medida que la adopción de la IA se amplía y las innovaciones evolucionan, también se desarrollarán las directrices de seguridad, como es el caso de cada tecnología que se ha integrado en el tejido de una empresa a lo largo de los años. A continuación, compartimos algunas de las mejores prácticas de IBM para ayudar a las organizaciones a prepararse para el despliegue seguro de IA en sus entornos:

1. Aproveche la IA confiable al evaluar las políticas y prácticas de los proveedores.
2. Habilite el acceso seguro a usuarios, modelos y datos.
3. Proteja los modelos, los datos y la infraestructura de IA de los ataques de adversarios.
4. Implemente la protección de la privacidad de datos en las fases de entrenamiento, pruebas y operaciones.
5. Realice prácticas de modelado de amenazas y codificación segura en el ciclo de vida del desarrollo de IA.
6. Realice detección y respuesta a amenazas para aplicaciones e infraestructura de IA.
7. Evalúe y decida la madurez de la IA a través del marco de IA de IBM.