IBM se convierte en el primer desarrollador importante de modelos de IA de código abierto en obtener la certificación ISO 42001
IBM es una de las primeras empresas en obtener este reconocimiento, y el primer desarrollador de modelos de IA de código abierto en hacerlo para el sistema de gestión de IA (AIMS) de sus modelos de lenguaje de código abierto IBM Granite.
La Organización Internacional de Normalización (ISO) introdujo el primer estándar del mundo para gestionar la inteligencia artificial en 2023. Conocido como ISO/IEC 42001:2023, fue diseñado para guiar cómo las organizaciones establecen políticas, procesos y salvaguardas para la IA. Por primera vez, existe una infraestructura reconocida a nivel mundial para auditar externamente cómo se construye, despliega y mantiene la IA de manera responsable.
IBM ha logrado la certificación acreditada bajo ISO/IEC 42001:2023 para el sistema de gestión de IA (AIMS) de IBM Granite. La certificación se aplica a los modelos de lenguaje IBM® Granite; nuestra familia de modelos de lenguaje de código abierto creados a medida para la empresa.
Desde el principio, Granite se desarrolló de forma abierta y se lanzó bajo una licencia permisiva de Apache 2.0. Este enfoque abierto fue reconocido externamente y Granite obtuvo un puesto entre los cinco primeros en el Foundation Model Transparency Index de Stanford, superando a casi todos los principales desarrolladores de modelos. Esta combinación de apertura, transparencia y gobernanza certificada proporciona a las empresas una mayor confianza a la hora de adoptar Granite para sus cargas de trabajo críticas.
“Nos sentimos honrados de obtener la certificación ISO 42001 para nuestros modelos insignia Granite”, dijo David Cox, vicepresidente de modelos de IA. “Granite es ahora la primera familia de modelos abiertos que cumple con ese estándar, y es un testimonio del cuidado que se dedica a construirlos y mantenerlos”.
La auditoría de certificación la realizó Schellman, un organismo de certificación acreditado líder. “Lograr la certificación ISO 42001 es un hito importante, no solo para IBM Granite, sino también para el ámbito de la inteligencia artificial y ta Tecnología”, dijo Avani Desai, director ejecutivo (CEO) de Schellman. “Como uno de los primeros proveedores de modelos de IA de código abierto en obtener la certificación, IBM ha sentado un precedente importante sobre cómo pueden coexistir la transparencia, la responsabilidad y la innovación. Todo nuestro equipo en Schellman se enorgullece de ser socio de IBM en este camino y ver de primera mano su compromiso con la creación de IA de manera responsable”.
Actualmente, la IA no se comporta como el software tradicional. Un programa convencional sigue instrucciones fijas y produce el mismo resultado determinista. Mientras que los modelos de IA aprenden patrones a partir de los datos y generan respuestas de forma probabilística. Eso significa que el resultado puede variar, incluso cuando la entrada tiene el mismo aspecto. Esta flexibilidad es poderosa, pero también crea riesgos que deben gestionarse a lo largo de todo el ciclo de vida de desarrollo y despliegue del modelo.
La norma ISO 42001 establece una infraestructura para la forma en que las organizaciones gestionan la inteligencia artificial. Define cómo debe ser un AIMS: políticas, prácticas y salvaguardas que guíen el desarrollo y el despliegue de la IA. El estándar está diseñado para abordar cuestiones de ética, responsabilidad y confianza. Estas son preguntas que enfrentan todas las organizaciones que adoptan la IA, particularmente dado el mayor escrutinio regulatorio en todo el mundo.
Para empresas, gobiernos y desarrolladores, esta certificación brinda la confianza de que IBM ha implementado medidas de seguridad medibles y procesos sólidos y transparentes. Brinda a las organizaciones que construyen con Granite una base confiable para adoptar los modelos de lenguaje en contextos de alto riesgo, incluidas industrias altamente reguladas como servicios financieros y atención médica, y el sector público, con muchos entornos de despliegue de misión crítica.
Para los desarrolladores de modelos de IA, el estándar representa una expectativa de cómo se ve la IA responsable en la práctica. Y para IBM, valida años de inversión en nuestras prácticas de seguridad y gobernanza de IA, además de nuestra transparencia líder en la industria en torno a la divulgación del modelo de IA.
En términos más generales, el logro de IBM sienta un precedente importante de que el futuro de la IA responsable es abierto, confiable y con licencia permisiva para respaldar la disponibilidad e innovación generalizadas del modelo. Al compartir modelos, puntos de referencia y herramientas con la comunidad en general, IBM está contribuyendo a un ecosistema donde la transparencia y la responsabilidad son la norma de la industria.
Con más de 30 millones de descargas, Granite es una familia de modelos ampliamente adoptada entre los desarrolladores de código abierto. A nivel empresarial, las organizaciones están desplegando Granite en producción para una variedad de casos de uso, como generación aumentada por recuperación, atención al cliente y flujos de trabajo de agentes. La certificación ISO 42001 proporciona un nivel adicional de confianza para cualquier persona que construya con Granite.
A medida que la adopción de IA se acelera en todo el mundo, la certificación ISO 42001 proporciona un marco sólido para equilibrar la innovación con las salvaguardas.
La certificación ISO 42001 requiere una auditoría exhaustiva de cómo una organización gestiona sus sistemas de IA, incluidas las políticas de gobernanza, las prácticas de datos y las salvaguardas técnicas. Esta auditoría estuvo a cargo de Schellman, un organismo de certificación acreditado reconocido por su minuciosidad y calidad. Schellman es líder del mercado en ISO 42001 y el primer organismo de certificación reconocido por ANAB en 2024.
Reconocidos por su pericia basada en la experiencia práctica, los profesionales de Schellman brindan un servicio excepcional al cliente mientras mantienen una firme independencia. Este enfoque equilibrado ha permitido a IBM construir una relación confiable y a largo plazo con Schellman, que ha ayudado a IBM a alcanzar con éxito múltiples objetivos de cumplimiento, incluida esta histórica certificación ISO 42001.
El proceso se completó en menos de tres meses y resultó en cero inconformidades, un logro significativo y testimonio de las prácticas maduras de gobernanza de la IA de IBM. La certificación valida que IBM Granite se alinea con las mejores prácticas reconocidas internacionalmente para una IA responsable y que nuestros procesos de gestión de IA cumplen con los niveles más altos de escrutinio.
Granite refleja la filosofía de IBM de que la transparencia, la seguridad y la gobernanza deben ser principios básicos en los sistemas de IA confiables. Estos principios contribuyeron a que IBM lograra la certificación ISO 42001, lo que representa un compromiso más amplio.
Además de la transparencia líder en la industria, IBM aplica una gobernanza y pruebas rigurosas a lo largo del ciclo de vida de Granite. Data Management Framework Lakehouse de IBM supervisa más de 2.7 petabytes de datos de entrenamiento con estrictos controles de licencia y seguimiento de metadatos, lo que garantiza la responsabilidad en cada etapa. Más allá de los requisitos de certificación, los modelos de Granite se someten a pruebas de estrés contra amenazas del mundo real, se firman digitalmente para garantizar su autenticidad y están respaldados por puntos de referencia abiertos para evaluar la seguridad y el sesgo, medidas que fortalecen la confianza no solo en Granite, sino en todo el ecosistema de IA en general.
Sobre la base de estas medidas, Granite Guardian, la suite de IBM de modelos de medidas de seguridad de código abierto, proporciona salvaguardas especializadas que detectan riesgos en instrucciones y respuestas en cualquier modelo de IA. Al superponer Granite Guardian a las protecciones centrales de Granite, IBM ayuda a las empresas a garantizar un uso seguro y responsable de la IA en entornos de producción.
En conjunto, estos esfuerzos demuestran la filosofía de IBM: la IA empresarial exige confianza de nivel empresarial. Convertirse en el primer desarrollador importante de modelos de IA de código abierto en lograr la certificación ISO 42001 valida la base de transparencia, seguridad y gobernanza de Granite. Este es un hito importante para IBM, y estamos comprometidos con la innovación continua y la inversión para establecer el estándar para la IA responsable.