DeepSeek-R1 es un recordatorio de la importancia del gobierno de la IA

Los modelos de fundación de código abierto, como el muy comentado DeepSeek-R1, pueden dar a las empresas una ventaja inicial a la hora de crear sus propios modelos personalizados y, por tanto, aumentar el ROI. Pero lo que se ha discutido menos es el papel del gobierno de la IA. La gobernanza es necesaria para todas las formas de IA y ML, pero existen consideraciones únicas para los modelos de código abierto de terceros proveedores de 3^rd parte. Si deseas que el uso de la IA por parte de tu Organización sea seguro, transparente y responsable, la gobernanza de la IA es crucial.

Dadas estas novedades, hablemos de cómo puedes beneficiarte de modelos de código abierto como el de DeepSeek, identificando cómo el gobierno de la IA puede mitigar algunos de los principales desafíos.

Un estudio de IBM descubrió que el 51 % de las empresas que utilizan herramientas de código abierto obtuvieron un ROI positivo, en comparación con solo el 41 % de las que no lo hicieron. Estos nuevos y emergentes modelos de código abierto más pequeños refuerzan la postura de IBM sobre el futuro de la IA siendo abierta, lo que ayudará a las empresas a aprovechar los beneficios de la IA de una manera que equilibre eficiencia con confianza y seguridad. Aunque muchos líderes tecnológicos se sorprendieron y preocuparon por las implicaciones de DeepSeek, IBM lleva mucho tiempo defendiendo un enfoque más abierto. “Los modelos más pequeños y eficientes pueden ofrecer resultados reales sin necesidad de sistemas propietarios masivos”, dijo recientemente el CEO de IBM, Arvind Krishna, en un artículo publicado en Fortune.

Cuando se utilizan modelos fundacionales de código abierto, el gobierno de la IA es crítico durante todo el ciclo de vida del modelo. Comenzando con una evaluación de riesgos, las organizaciones deben primero decidir si el modelo es seguro para su uso. Lo que se considera seguro para uso general o individual puede no ser adecuado para casos de uso empresarial.

En el caso de DeepSeek-R1, las Organizaciones pueden decidir que el autoalojamiento del modelo o su ejecución a través de un producto de estudio de IA como IBM watsonx.ai es relativamente seguro. Sin embargo, el uso de la aplicación DeepSeek puede presentar problemas de datos y seguridad. Muchos países han prohibido el uso de la aplicación DeepSeek por este motivo.

Una vez aprobados los modelos, los validadores de modelos pueden añadirlos a un inventario de modelos, que realiza un seguimiento de la utilización y el rendimiento del modelo, al tiempo que designa los casos de uso a los que se podrían aplicar los modelos. Esta colección de modelos permite a los desarrolladores de IA identificar los modelos disponibles y a los equipos de aseguramiento, datos y seguridad rastrear dónde se están utilizando los modelos.

Las hojas informativas de IA capturan los datos del modelo a lo largo del ciclo de vida y aumentan la transparencia sobre lo que hay dentro del modelo y cómo se utiliza. Las hojas informativas muestran qué modelo fundacional se utilizó, incluidas las instrucciones, las plantillas y la evaluación.

Hay problemas con la seguridad de algunos modelos de código abierto y con la facilidad de la instrucción y el jailbreak para generar resultados dañinos. La observabilidad y las barandillas pueden supervisar el estado, la precisión y la deriva del modelo, y limitar la incitación al odio, las blasfemias y otros contenidos dañinos.

Las desventajas de la IA sin gobierno de la IA son inmensas. Las organizaciones que utilizan la IA para interactuar con personas en la UE deben cumplir la Ley de IA de la UE. El incumplimiento podría suponer una multa de 35 millones de euros o una facturación anual del 7%, lo que sea mayor.

Los riesgos para las marcas, la reputación y la confianza de los clientes y socios de las empresas también son importantes. Imagina que tu organización compromete los datos personales de los clientes, o insulta o defrauda a un cliente en una interacción. No les importará si el fallo original fue en su equipo o en el modelo fundacional, su marca está dañada de cualquier manera. Sin salvaguardas, usar IA generativa para cualquier caso de uso en producción se vuelve demasiado arriesgado.

La gobernanza de la IA permite a las organizaciones gestionar y mitigar una serie de riesgos y les capacita para utilizar la IA de forma segura y responsable. Para respaldar estos esfuerzos, IBM Research desarrolló el Atlas de riesgos de IA, una herramienta diseñada para ayudar a las Organizaciones a identificar y mapear diversos riesgos de la IA.

Un marco y una solución sólidos de gobierno de la IA son cruciales para su organización, pero crear uno desde cero es un proceso largo y costoso que puede ser perjudicial para el ROI de su IA. Para las organizaciones que desean escalar su IA de manera eficiente, segura y responsable, creamos watsonx.governance™.

Una solución de gobierno de la IA, como watsonx.governance, permite a los líderes decidir si y cómo permitir modelos como el de DeepSeek en la IA de su organización. Al integrarse con IBM Guardium AI Security, watsonx.governance también puede identificar instancias desconocidas del modelo y gestionar riesgos específicos como jailbreak, DDoS (denegación de servicio distribuido) y instrucciones de datos PII. Puede gobernar cualquier modelo y aplicarse a cualquier nube o ejecutarse en las instalaciones. Atlas de riesgos de IA de IBM

DeepSeek es solo una de una serie de innovaciones de código abierto y sirve como recordatorio de que, en comparación con tecnologías anteriores, cada avance en IA debe situar la gobernanza y la seguridad en el centro de la estrategia de tu organización. No son requisitos opcionales, sino fundacionales.