Comment l’IBM Office of Privacy and Responsible Technology renforce la confiance dans les systèmes d’IA
Alors que l’innovation en matière d’IA s’accélère, les entreprises ont besoin d’une gouvernance efficace pour développer et gérer les modèles de machine learning (ML) de manière responsable. L’IBM Office of Privacy and Responsible Technology (OPRT) sait que ce défi n’est pas seulement une question technique : c’est aussi un impératif métier.
Depuis de nombreuses années, l’approche d’IBM en matière d’IA responsable est guidée par ses principes de confiance et de transparence fondamentaux, qui ont été mis en œuvre dans toute l’entreprise par le comité Responsible Technology d’IBM. En 2022, l’OPRT a lancé le système de gestion de la confidentialité et de l’IA (PIMS) pour aider IBM à gérer les modèles de ML de manière fiable, faciliter le respect des réglementations en matière de confidentialité et d’IA, et promouvoir la transparence et la responsabilité.
Cependant, ces composants essentiels fonctionnaient en parallèle, et non de manière intégrée, avec le PIMS. Afin de moderniser la gouvernance organisationnelle de l’IA et de son cycle de vie, l’OPRT avait besoin d’intégrer et de centraliser les mécanismes en place. Alors que les enjeux ne cessent de croître, la question demeure : les organisations peuvent-elles accorder la même importance à l’innovation et à la responsabilité ?
La seule réponse qui vaille est « oui ». Et l’initiative de l’OPRT illustre parfaitement la manière dont les entreprises peuvent stimuler l’innovation tout en atténuant les risques associés.
S’appuyant sur le socle de confidentialité établi, l’équipe a développé le programme de gouvernance intégrée (IGP), une approche unifiée de la responsabilité et de la conformité. « Un programme de gouvernance complet permet de trouver un équilibre entre la valeur métier promise par l’IA et la nécessité d’une supervision et d’une gestion des risques, et ainsi de mettre en œuvre une IA responsable à l’échelle », explique Lee Cox, vice-président de la gouvernance intégrée et de la préparation au marché chez IBM.
En établissant une vue globale et complète de toutes les données et de tous les modèles créés et utilisés par IBM, le programme IGP ajuste les workflows de gouvernance en fonction des données, de la confidentialité et de l’IA, sans perturber l’innovation et les processus métier. Ceci est rendu possible par l’intégration de technologies telles qu’IBM watsonx.governance, IBM Cloud Pak for Data, IBM Knowledge Catalog et IBM OpenPages.
Dirigé par les responsables de l’IA des unités commerciales, le programme permet une gestion plus proactive des risques et facilite la conformité aux exigences réglementaires, en tenant compte des priorités et des intérêts uniques des différentes parties prenantes. Steven Eliuk, vice-président et directeur technique des données, de l’IA et de la gouvernance chez IBM, note : « Nous avons unifié nos processus d’acquisition des données, en rationalisant l’approvisionnement, la recherche et le développement de manière à surmonter les défis posés par la gestion des données. »
Le programme IGP a permis à IBM de déployer des normes de données internes uniformes, favorisant ainsi la transparence des données et le développement d’une IA digne de confiance, tout en permettant d’innover à l’échelle.
M. Cox souligne que « L’exactitude des données n’est que la base. Le PIMS pose les fondations, et l’IGP élève l’acquisition de données au niveau supérieur, en orchestrant l’ensemble du processus, de l’approvisionnement à la livraison. Ensemble, ils forment un duo dynamique qui donne aux organisations les moyens d’agir et leur ouvre de nouvelles opportunités de se démarquer de la concurrence. »
Le programme a contribué aux efforts d’IBM visant à étendre l’IA de manière responsable, en favorisant le développement de produits et de services fiables basés sur cette technologie tout en veillant à la conformité de l’ensemble de ses opérations. En effet, les modèles de fondation IBM Granite sont reconnus pour leur transparence, en partie grâce à leur adhésion aux critères de gouvernance des données et de risque prévus par le programme IGP.
Par exemple, au cours des huit mois qui se sont écoulés depuis le début des tests et de la mise en œuvre des normes améliorées sur la provenance des données début 2024, dans le cadre du programme IGP, ces normes ont contribué à améliorer l’efficacité opérationnelle d’IBM, avec notamment :
- une réduction de 58 % du temps de traitement des demandes d’autorisation de données pour les données tierces ;
- une réduction de 62 % du temps de traitement des demandes d’autorisation de données pour les données propriétaires d’IBM ;
- l’approbation de plus de 1 000 jeux de données et modèles pour une éventuelle réutilisation.
Le programme IGP offre un accès plus rapide à des données de qualité, ce qui permet aux développeurs de créer des modèles et des systèmes plus responsables, non seulement pour un usage interne, mais aussi pour les partenaires et les clients qui utilisent les solutions d’IA d’IBM. Et l’adaptabilité du programme permet à IBM de s’intéresser aux technologies actuelles et de se préparer aux technologies émergentes, telles que l’IA agentique. M. Cox résume : « Nous avons mis en place un écosystème de partenaires de confiance, à travers lequel nos clients bénéficient de la même valeur et de la même expertise que celles que nous avons acquises lors de notre propre transformation. »
L’IBM Office of Privacy and Responsible Technology supervise les politiques mondiales de protection et de confidentialité des données. Il collabore avec le comité Responsible Technology d’IBM afin de guider la gouvernance et les processus décisionnels pour les politiques et les pratiques d’IA responsable, favorisant ainsi une culture de responsabilité et de confiance au sein d’IBM.
Mentions légales
© Copyright IBM Corporation 2025. IBM, le logo IBM, IBM Cloud Pak, OpenPages et watsonx.governance sont des marques commerciales ou des marques déposées d’IBM Corp. aux États-Unis ou dans d’autres pays. Les informations contenues dans le présent document étaient à jour à la date de publication initiale et sont susceptibles d’être modifiées à tout moment par IBM. Certaines offres mentionnées dans le présent document ne sont pas disponibles dans tous les pays où la société IBM est présente.
Les exemples de clients sont présentés pour illustrer la façon dont ces clients ont utilisé les produits IBM et les résultats qu’ils ont pu obtenir. Les performances, coûts, économies ou autres résultats réels dans d’autres contextes d’exploitation peuvent varier.