IBM devient le premier grand développeur de modèles d’IA open source à obtenir la certification ISO 42001
IBM est l’un des premiers à obtenir cette reconnaissance, et le premier développeur de modèles d’IA open source à le faire pour le système de gestion de l’IA (AIMS) de ses modèles de langage open source IBM Granite.
L’Organisation internationale de normalisation (ISO) a introduit en 2023 la première norme mondiale pour la gestion de l’intelligence artificielle. Intitulée ISO/IEC 42001:2023, elle a été conçue pour guider les entreprises dans l’établissement de politiques, de processus et de mesures de protection pour l’IA. Pour la première fois, il existe un cadre mondialement reconnu pour auditer en externe la manière dont l’IA est développée, déployée et maintenue de manière responsable.
IBM a obtenu la certification accréditée ISO/IEC 42001:2023 pour le système de gestion de l’IA (AIMS) d’IBM Granite. La certification s’applique aux modèles de langage IBM Granite, notre famille de modèles de langage open source spécialement conçus pour les entreprises.
Depuis son lancement, Granite a été développé en open source et publié sous une licence Apache 2.0. Cette approche ouverte a été reconnue, permettant à Granite de figurer dans le top 5 de l'indice de transparence des modèles de fondation de Stanford, devançant ainsi presque tous les principaux développeurs de modèles. Cette combinaison d'ouverture, de transparence et de gouvernance certifiée permet aux entreprises d'adopter Granite en toute confiance pour leurs workloads essentielles.
« C’est un grand honneur d’obtenir la certification ISO 42001 pour nos modèles Granite phares », a déclaré David Cox, vice-président, Modèles d’IA. « Granite est désormais la première famille de modèles ouverts à atteindre ce niveau, ce qui témoigne du soin apporté à leur développement et à leur maintenance. »
L’audit de certification a été réalisé par Schellman, un organisme de certification accrédité de premier plan. « L’obtention de la certification ISO 42001 est une étape importante, non seulement pour IBM Granite, mais aussi pour le milieu de l’intelligence artificielle et de la technologie », a déclaré Avani Desai, PDG de Schellman. « En tant que l’un des premiers fournisseurs de modèles d’IA open source à être certifié, IBM a désormais établi un précédent important sur la manière dont la transparence, la responsabilité et l’innovation peuvent coexister. Toute l’équipe de Schellman est fière d’être partenaire d’IBM dans cette aventure et de constater directement son engagement à développer l’IA de manière responsable. »
Actuellement, l’IA ne se comporte pas comme un logiciel traditionnel. Un programme conventionnel suit des instructions fixes et produit le même résultat déterministe. Les modèles d’IA, quant à eux, apprennent des modèles à partir de données et génèrent des réponses probabilistes. Cela signifie que le résultat peut varier, même lorsque l’entrée semble identique. Cette flexibilité est puissante, mais elle crée également des risques qui doivent être gérés tout au long du cycle de vie du développement et du déploiement des modèles.
La norme ISO 42001 établit un cadre pour la gestion de l’intelligence artificielle par les entreprises. Elle définit ce à quoi doit ressembler un AIMS : politiques, pratiques et mesures de protection qui guident le développement et le déploiement de l’IA. La norme est conçue pour répondre aux questions d’éthique, de responsabilité et de confiance. Ce sont des questions auxquelles toutes les entreprises qui adoptent l’IA sont confrontées, en particulier compte tenu du renforcement de la réglementation à l’échelle mondiale.
Pour les entreprises, les gouvernements et les développeurs, cette certification garantit qu'IBM a mis en œuvre des mesures de protection mesurables et des processus robustes et transparents. Ainsi, les organisations qui utilisent Granite bénéficient d'une base fiable pour adopter les modèles de langage dans des contextes à fort enjeu, y compris des secteurs hautement réglementés tels que les services financiers, les soins de santé et le secteur public, avec de nombreux environnements de déploiement essentiels.
Pour les développeurs de modèles d’IA, la norme représente une attente de ce à quoi doit ressembler une IA responsable dans la pratique. Pour IBM, elle valide des années d’investissement dans nos pratiques de sécurité, de sûreté et de gouvernance en matière d’IA, en plus de notre transparence de pointe en matière de publication des modèles d’IA.
Plus largement, la réalisation d’IBM établit un précédent important : l’avenir du déploiement responsable de l’IA est ouvert, digne de confiance et soumis à des licences permissives afin de favoriser la disponibilité des modèles et l’innovation à grande échelle. En partageant des modèles, des données de référence (benchmarks) et des outils avec la communauté au sens large, IBM contribue à la création d’un écosystème dont la transparence et la responsabilité sont la norme.
Avec plus de 30 millions de téléchargements, Granite est une famille de modèles largement adoptée par les développeurs open source. Les entreprises déploient Granite en production pour divers cas d’utilisation, tels que la génération augmentée de récupération, le service client et les workflows agentiques. La certification ISO 42001 apporte un niveau de confiance supplémentaire à toutes les personnes qui développent avec Granite.
Alors que l’adoption de l’IA s’accélère dans le monde entier, la certification ISO 42001 offre un cadre solide afin de concilier innovation et mesures de protection.
La certification ISO 42001 nécessite un audit complet de la manière dont une entreprise gère ses systèmes d’IA, et notamment ses politiques de gouvernance, ses pratiques en matière de données et ses mesures de protection techniques. Cet audit a été réalisé par Schellman, un organisme de certification accrédité reconnu pour sa rigueur et sa qualité. Schellman est le leader du marché de la certification ISO 42001 et le premier organisme de certification reconnu par l’ANAB en 2024.
Réputés pour leur expertise fondée sur la pratique, les professionnels de Schellman offrent un service client exceptionnel tout en conservant une indépendance sans faille. Cette approche équilibrée a permis à IBM d’établir une relation de confiance à long terme avec l’organisme, qui a aidé IBM à atteindre plusieurs objectifs de conformité, notamment cette certification ISO 42001 historique.
Le processus a été mené à bien en moins de trois mois et n’a révélé aucune non-conformité, ce qui constitue une réussite significative et témoigne de la maturité des pratiques de gouvernance de l’IA chez IBM. La certification atteste que IBM Granite est en phase avec les bonnes pratiques internationalement reconnues en matière d’IA sûre et responsable et que nos processus de gestion de l’IA répondent aux niveaux d’exigence les plus élevés.
Granite reflète la philosophie d’IBM selon laquelle la transparence, la sécurité, la sûreté et la gouvernance doivent être des principes fondamentaux dans les systèmes d’IA de confiance. Ces principes ont contribué à l’obtention par IBM de la certification ISO 42001, qui représente un engagement plus large.
En plus d’une transparence de pointe, IBM applique une gouvernance et des tests rigoureux tout au long du cycle de vie de Granite. Le Data Management Framework Lakehouse d’IBM supervise plus de 2,7 pétaoctets de données d’entraînement avec un suivi strict des métadonnées et un contrôle des licences, garantissant ainsi la responsabilité à chaque étape. Au-delà des exigences de certification, les modèles Granite sont soumis à des tests de résistance face à des menaces réelles, signés numériquement pour garantir leur authenticité et soutenus par des données de référence ouvertes pour évaluer la sécurité et les biais, des mesures qui renforcent la confiance non seulement dans Granite, mais aussi dans l’ensemble de l’écosystème d’IA.
S’appuyant sur ces mesures, Granite Guardian, la suite de modèles de garde-fous open source d’IBM, fournit des protections spécialisées qui détectent les risques dans les prompts et les réponses de tout modèle d’IA. En ajoutant Granite Guardian aux protections de base de Granite, IBM aide les entreprises à garantir une utilisation sûre et responsable de l’IA dans les environnements de production.
Ensemble, ces efforts illustrent la philosophie d’IBM : l’IA d’entreprise exige une confiance adaptée aux entreprises. En devenant le premier grand développeur de modèles d’IA open source à obtenir la certification ISO 42001, Granite valide ses fondements en matière de transparence, de sécurité et de gouvernance. Il s’agit d’une étape importante pour IBM, et nous nous engageons à poursuivre nos efforts d’innovation et d’investissement afin d’établir la norme en matière d’IA responsable.