DeepSeek-R1 es un recordatorio de la importancia de la gobernanza de la IA

Los modelos fundacionales de código abierto, como el muy discutido DeepSeek-R1, pueden dar a las empresas una salida a la hora de crear sus propios modelos personalizados y, por lo tanto, pueden aumentar el retorno de la inversión (ROI). Pero lo que se ha discutido menos es el papel de la gobernanza de la IA. Se requiere gobernanza para todas las formas de IA y ML, pero existen consideraciones únicas para los modelos de código abierto de proveedores de terceros. Si desea que el uso de la IA en su organización sea seguro, transparente y responsable, la gobernanza de la IA es crucial.

Dados estos desarrollos, analicemos cómo puede usar los modelos de código abierto como el de DeepSeek, mientras identificamos cómo la gobernanza de la IA puede mitigar algunos de los principales desafíos.

Un estudio de IBM encontró que el 51 % de las empresas que utilizan herramientas de código abierto obtuvieron un retorno de la inversión (ROI) positivo, en comparación con solo el 41 % de las que no lo hicieron. Estos modelos nuevos y emergentes de código abierto más pequeños refuerzan la postura de IBM sobre el futuro de la IA abierta, lo que ayudará a las empresas a obtener los beneficios de la IA de una manera que equilibre la eficiencia con la confianza y la seguridad. Si bien muchos líderes tecnológicos se sorprendieron y preocuparon por las implicaciones de DeepSeek, IBM ha sido durante mucho tiempo un defensor de un enfoque más abierto. “Los modelos más pequeños y eficientes pueden ofrecer resultados reales sin necesidad de sistemas propietarios masivos”, dijo recientemente el director ejecutivo (CEO) de IBM, Arvind Krishna, en un artículo publicado en Fortune.

Cuando se utilizan modelos fundacionales de código abierto, la Gobernanza de la IA es crítico en todo el ciclo de vida del modelo. Comenzando con una evaluación de riesgos, las organizaciones primero deben decidir si el modelo es seguro para su uso. Lo que se considera seguro para uso general o individual podría no ser adecuado para casos de uso empresarial.

En el caso de DeepSeek-R1, las organizaciones pueden decidir que el autoalojamiento del modelo o su ejecución a través de un producto de estudio de IA, como IBM watsonx.ai es relativamente seguro. Sin embargo, el uso de la aplicación DeepSeek puede presentar desafíos de datos y seguridad. Muchos países han prohibido el uso de la aplicación DeepSeek por este motivo.

Una vez aprobados los modelos, los validadores de modelos pueden agregarlos a un inventario de modelos, que realiza un seguimiento de la utilización y el rendimiento del modelo, al tiempo que designa los casos de uso a los que se podrían aplicar los modelos. Esta colección de modelos permite a los desarrolladores de IA identificar los modelos disponibles y a los equipos de aseguramiento, datos y seguridad rastrear dónde se utilizan los modelos.

Las hojas informativas de IA capturan los datos del modelo a lo largo del ciclo de vida y aumentan la transparencia sobre lo que hay dentro del modelo y cómo se utiliza. Las hojas informativas demuestran qué modelo fundacional se utilizó, incluyendo instrucciones de parámetros, plantillas y evaluación.

Existen preocupaciones con respecto a la seguridad de algunos modelos de código abierto y la facilidad de inyección de instrucciones y jailbreaking para generar resultados dañinos. La observabilidad y las barandillas pueden monitorear el estado del modelo, la precisión y la deriva, y limitar el discurso de odio, las blasfenias y otros contenidos dañinos.

Las desventajas de la IA sin gobernanza de la IA son inmensas. Las organizaciones que utilizan IA para interactuar con personas en la UE deben cumplir con la Ley de IA de la UE. El incumplimiento podría suponer una multa de 35 millones de euros o una facturación anual del 7 %, lo que sea mayor.

Los riesgos para las marcas, la reputación y la confianza de los clientes y socios de las empresas también son significativos. Imagínese si su organización compromete los datos personales de los clientes, o insulta o defrauda a un cliente en una interacción. No les importará si la falla original fue con su equipo o con el modelo fundacional, su marca está dañada de cualquier manera. Sin medidas de seguridad, el uso de IA generativa para cualquier caso de uso de producción se vuelve demasiado arriesgado.

La gobernanza de la IA permite a las organizaciones gestionar y mitigar una variedad de riesgos y les capacita para usar la IA de forma segura y responsable. Para respaldar estos esfuerzos, IBM Research desarrolló el Atlas de riesgos de IA, una herramienta diseñada para ayudar a las organizaciones a identificar y mapear diversos riesgos de IA.

Un marco sólido de gobernanza de la IA y una solución son cruciales para su organización, pero crear uno desde cero es un proceso largo y costoso que puede ser perjudicial para su retorno de la inversión (ROI) de IA. Para las organizaciones que desean escalar su IA de manera eficiente, segura y responsable, creamos watsonx.governance.

Una solución de gobernanza de la IA, como watsonx.governance, permite a los líderes decidir si y cómo permitir modelos como DeepSeek en la IA de su organización. Al integrarse con IBM Guardium AI Security, watsonx.governance también puede identificar instancias desconocidas del modelo y gestionar riesgos específicos, como jailbreak, denegación distribuida del servicio (DDoS) y instrucciones de datos PII. Puede gobernar cualquier modelo y aplicarse a cualquier nube o ejecutarse on premises. Atlas de riesgos de IA de IBM

DeepSeek es solo una de una serie de innovaciones de código abierto y sirve como recordatorio de que, en comparación con tecnologías anteriores, cada avance de IA debe colocar la gobernanza y la seguridad en el centro de la estrategia de su organización. No son requisitos opcionales sino fundamentales.