Qu’est-ce que la gouvernance de l’IA ?

Publié le 10 octobre 2024
Mis à jour le 8 juillet 2026
Vue latérale d’un jeune homme d’affaires utilisant un ordinateur assis à son bureau à domicile
By Tim Mucci and Cole Stryker

Qu’est-ce que la gouvernance de l’IA ?

On entend par gouvernance de l’intelligence artificielle (IA) l’ensemble des processus, normes et garde-fous destinés à garantir la sécurité et l’éthique des systèmes IA. Elle établit les cadres qui guident la recherche, le développement et l’application de l’IA pour assurer la sécurité, l’équité et le respect des droits humains. Ces cadres aident également les entreprises à rester en conformité avec la réglementation et à sécuriser les données sensibles dans le cadre de l’utilisation de technologies basées sur l’IA.

La gouvernance de l’IA englobe un large éventail de pratiques, protocoles, protections, systèmes et outils. Les professionnels de l’IA à l’avant-garde de la gouvernance établissent des méthodes et des politiques pour développer et entraîner de nouveaux modèles IA, des directives opérationnelles pour l’application de ces modèles, ainsi que des logiciels et d’autres technologies permettant de créer des mesures de sécurité multicouches assorties d’une supervision humaine et réglementaire appropriée.  

Les 50 meilleurs produits logiciels de gestion informatique de 2026

IBM watsonx.governance

S’est distingué dans la catégorie des meilleurs produits de gestion informatique au sein du Palmarès G2 2026 des meilleurs logiciels

Les modèles IA, ainsi que les algorithmes de machine learning (ML) et d’apprentissage profond (DL), sont en définitive entraînés à partir de données humaines. Par conséquent, les systèmes IA sont sensibles aux biais humains. Si rien n’est fait, les systèmes IA influencés par des biais erronés peuvent nuire gravement à des individus et à des populations entières. Les politiques de gouvernance de l’IA visent à corriger ce type d’erreurs potentiellement discriminatoires ou autrement dangereuses. 

Des mécanismes efficaces de supervision de la gouvernance de l’IA permettent de traiter des risques tels que les biais, les atteintes à la vie privée et les utilisations abusives, tout en favorisant l’innovation et en instaurant la confiance. Une approche éthique de la gouvernance centrée sur l’IA nécessite une supervision humaine et la contribution d’un large éventail de parties prenantes, notamment des développeurs, des utilisateurs, des décideurs politiques et des éthiciens. La mise en œuvre d’une politique moderne et robuste de gouvernance de l’IA aide les systèmes IA à respecter les valeurs sociales, morales et éthiques, tout en prévoyant des mesures d’atténuation pour réduire les vulnérabilités et les niveaux de risque dans un large éventail d’applications de l’IA.

Alors que les systèmes IA continuent de progresser, les processus de gouvernance de l’IA évoluent également afin d’établir et de respecter des normes mondiales. Bien que la satisfaction des exigences réglementaires constitue une motivation majeure pour les investissements dans les programmes de gouvernance, les avantages de ces types de solutions vont au-delà de la conformité : il s’agit de réduire les risques de responsabilité de manière proactive en renforçant la confidentialité, la sécurité et l’accès aux données.  

La gouvernance de l’IA offre une approche structurée pour atténuer les risques potentiels associés aux systèmes IA. Grâce à des protocoles et des pratiques telles que la gouvernance des données et la surveillance continue, les politiques de gouvernance de l’IA peuvent évaluer et guider efficacement les outils IA. Lorsqu’elle est mise en œuvre correctement, la gouvernance de l’IA empêche les décisions erronées ou préjudiciables tout au long du pipeline d’IA, depuis les jeux de données sur lesquels les modèles sont entraînés jusqu’à l’exécution des solutions dérivées de l’IA.     

En termes simples, la gouvernance de l’IA permet d’établir les méthodes et méthodologies de supervision nécessaires pour aligner les comportements de l’IA sur les normes éthiques et les attentes sociétales, protégeant ainsi les utilisateurs, les fournisseurs et tout tiers indirectement concerné contre des conséquences négatives, préjudiciables ou inéquitables involontaires.

Pourquoi la gouvernance de l’IA est-elle importante ?

La gouvernance de l’IA est essentielle pour atteindre un état de conformité, de confiance et d’efficacité dans le développement et l’application des technologies IA. Avec l’intégration croissante de l’IA dans les opérations organisationnelles et gouvernementales, son potentiel d’impact négatif est devenu plus visible. De fait, dans une étude de l’IBM Institute for Business Value, 80 % des chefs d’entreprise considèrent l’explicabilité, l’éthique, les biais ou la confiance de l’IA comme des préoccupations majeures sur la voie de l’adoption de l’IA générative. La gouvernance de l’IA cherche à relever ces défis en suscitant la confiance et en prévenant tout impact négatif potentiel lié à l’utilisation de la technologie de l’IA. 

Certains incidents très médiatisés ont fait la une des journaux et ont mis en lumière le danger que représentent les systèmes IA non gouvernés. Lors de l’un de ces incidents, le chatbot Tay de Microsoft a commencé à reproduire des comportements toxiques appris à partir de publications sur les réseaux sociaux, car il avait été entraîné sur des jeux de données non réglementés. Bien que cet incident ait été préoccupant, les failles du logiciel d’IA COMPAS ont entraîné des conséquences encore plus graves. Utilisé pour déterminer les peines pénales, le modèle IA a, en raison de ses biais intrinsèques, conduit à des poursuites pénales injustes, soulignant encore davantage l’importance de la gouvernance de l’IA pour établir et maintenir la confiance du public dans les systèmes IA.

Ces exemples montrent que l’IA peut entraîner des dommages sociaux et éthiques importants sans surveillance appropriée, mettant l’accent sur l’importance de la gouvernance dans la gestion des risques associés à l’IA avancée. En fournissant des directives et des cadres d’exigences, la gouvernance de l’IA vise à équilibrer l’innovation technologique avec la sécurité, aidant à garantir que les systèmes IA ne violent pas la dignité ou les droits humains.

Comprendre comment les systèmes IA prennent leurs décisions afin de pouvoir leur demander des comptes quant à leurs conclusions est un élément essentiel de la gouvernance de l’IA, qui contribue à garantir que ces programmes font des choix justes et éthiques. Qu’il s’agisse de déterminer quelles publicités présenter à quels utilisateurs ou de décider de l’admissibilité à un prêt, les systèmes IA prennent constamment des décisions, des plus anodines aux plus critiques. Lorsque l’on s’appuie sur ces systèmes, la transparence de la prise de décision et l’explicabilité sont essentielles pour garantir une utilisation responsable des systèmes IA et instaurer la confiance.

De plus, la gouvernance de l’IA ne consiste pas seulement à garantir une conformité ponctuelle, mais aussi à maintenir des normes éthiques au fil du temps.Les modèles IA peuvent dériver, ce qui entraîne des changements dans la qualité et la fiabilité de leurs résultats. Les tendances actuelles en matière de gouvernance de l’IA vont au-delà de la simple conformité légale. Nous accordons une importance croissante aux initiatives socialement responsables dans le développement et les applications de l’IA, qui protègent contre les préjudices financiers, juridiques et réputationnels tout en favorisant la croissance et le progrès éthiques de cette nouvelle technologie prometteuse.

AI Academy

Allier sécurité et gouvernance pour préparer l’avenir de l’IA

Dans un contexte marqué par l’essor de l’IA agentique, cet épisode de l’AI Academy analyse les tensions auxquelles sont confrontés les responsables des risques et de l’assurance, entre exigences de gouvernance et impératifs de sécurité. Établir un équilibre et structurer une collaboration efficace est essentiel pour déployer des données et des systèmes d’IA plus fiables, capables de passer à l’échelle au sein de l’entreprise.

Exemples de gouvernance de l’IA

Des exemples de gouvernance de l’IA incluent une gamme de politiques, de cadres et de pratiques que les organisations, les entreprises, les autorités et les gouvernements mettent en œuvre dans le but commun de promouvoir l’utilisation responsable des technologies IA. Ces exemples montrent comment la gouvernance de l’IA se produit dans différents contextes :

Règlement général sur la protection des données (RGPD) : le RGPD est un exemple de gouvernance de l’IA, en particulier dans le contexte de la protection et de la confidentialité des données personnelles. Bien qu’il ne soit pas exclusivement axé sur l’IA, bon nombre de ses dispositions sont très pertinentes pour les systèmes IA, en particulier ceux qui traitent les données personnelles des individus au sein de l’Union européenne.

Organisation de coopération et de développement économiques (OCDE) : les principes de l’OCDE sur l’IA, adoptés par plus de 40 pays, soulignent la gestion responsable de l’IA digne de confiance, notamment la transparence, l’équité et la responsabilisation dans les systèmes IA.

Conseils d’éthique de l’IA : de nombreuses entreprises ont créé des conseils ou des comités d’éthique dédiés à l’IA afin de superviser les initiatives IA et de veiller à ce qu’elles respectent les normes éthiques et les valeurs sociétales. Ces conseils mettent souvent à contribution des équipes transversales issues de milieux juridiques, techniques et politiques. Depuis 2019, le conseil d’éthique de l’IA d’IBM examine les nouveaux produits et services IA afin de s’assurer qu’ils respectent les principes d’IA responsable d’IBM.

Qui supervise la gouvernance responsable de l’IA ?

Selon un rapport de l’IBM Institute for Business Value, 80 % des organisations ont une partie distincte de leur fonction de gestion des risques dédiée aux risques associés à l’utilisation de l’IA ou de l’IA générative.

Au niveau de l’entreprise, le PDG et la haute direction sont responsables en dernier ressort de la mise en œuvre de la gouvernance de l’IA tout au long du cycle de vie de l’IA, déléguant généralement certaines tâches pratiques relatives aux politiques aux parties prenantes concernées, telles que le directeur technique et les équipes placées sous sa responsabilité. Étant donné que la gouvernance de l’IA a d’importantes implications réglementaires, les services juridiques et les directeurs juridiques sont des parties prenantes essentielles lors de l’évaluation et de l’atténuation des risques, souvent chargés de s’assurer que les applications IA respectent les lois et les exigences de conformité pertinentes. 

Selon la taille d’une entreprise donnée, une équipe d’audit dédiée peut être chargée de valider l’intégrité des données de tous les systèmes IA utilisés, en confirmant qu’ils fonctionnent comme prévu sans introduire d’erreurs ou de biais. Bien que les petites structures ne disposent peut-être pas d’équipes d’audit dédiées, la technologie de l’IA mobilisant de plus en plus de ressources, ce type d’équipes et de rôles devient de plus en plus une priorité. 

Lorsque la gouvernance de l’IA peut avoir un impact sur les questions financières, le directeur financier et les équipes placées sous sa responsabilité sont le plus souvent responsables de la gestion des coûts associés aux initiatives IA, y compris les mesures de gouvernance mises en place pour atténuer les risques financiers pour l’entreprise elle-même et, potentiellement, pour ses clients. 

Toutefois, en fin de compte, la responsabilité de la gouvernance de l’IA n’incombe à aucun individu ni à aucun département en particulier ; il s’agit d’une responsabilité collective qui exige de chaque dirigeant, partie prenante et membre d’équipe qu’il accorde la priorité à la responsabilité et contribue à garantir que les systèmes IA sont utilisés de manière responsable et éthique dans toute l’entreprise. 

En donnant la priorité à une gouvernance de l’IA axée sur la responsabilité, en investissant dans une formation rigoureuse du personnel et en favorisant une culture transparente de communication et de collaboration ouvertes, les responsables et la direction peuvent envoyer un message clair à tous les employés selon lequel tout le monde doit utiliser l’IA de manière responsable et éthique. 

Alors que le PDG et la haute direction sont chargés de donner le ton et de définir la culture générale d’une entreprise, en ce qui concerne le type de surveillance continue que la gouvernance exige dans tous les pipelines d’IA, les risques graves associés à l’IA obligent l’ensemble des parties prenantes à faire leur part pour garantir l’application appropriée de cette puissante technologie. 

Principes et normes de gouvernance de l’IA responsable

Le pouvoir de transformation de la technologie de l’IA dans d’innombrables secteurs et cas d’utilisation disparates est encore en train de se préciser. L’introduction de modèles modernes d’IA générative, tels que Chat GPT, Claude et Midjourney, capables de générer de nouveaux contenus – notamment du texte, des images, de l’audio, de la vidéo et du code – a captivé et enflammé l’imagination du public par ses possibilités éblouissantes. 

Cependant, si de nombreux artistes trouvent leur inspiration dans ces outils de création, beaucoup les considèrent comme menaçants. S’appuyant sur des œuvres créatives existantes, les premières formes de ces modèles ont été accusées de plagiat, car leurs résultats semblaient réinterpréter des éléments de propriété intellectuelle protégés par le droit d’auteur sans attribution. 

En réponse à ces préoccupations, les itérations actuelles de ces modèles ont adopté des politiques plus strictes pour la vérification des données d’entraînement, garantissant que toutes les œuvres utilisées pour entraîner les modèles sont dûment couvertes par une licence. Les efforts de gouvernance de l’IA se poursuivent pour garantir que ces précieux outils utilisés pour améliorer le processus de création restent conformes et éthiques. 

Au-delà de la création multimédia, d’autres types d’IA passionnants, tels que les modèles d’IA agentique, sont utilisés pour automatiser des tâches fastidieuses afin d’améliorer la productivité et la recherche dans des domaines aussi éloignés que le droit et la pharmacologie. Du codage et du développement à l’astronomie et à la physique, l’IA transforme le mode de fonctionnement des industries. Cependant, sa large applicabilité s’accompagne d’un besoin encore plus important de gouvernance rigoureuse de l’IA.   

Les principes de la gouvernance de l’IA responsable sont essentiels pour que les organisations puissent se protéger et protéger leurs clients. Ces principes peuvent guider les entreprises dans le développement et l’application éthiques des technologies IA :

  • Empathie : les organisations doivent comprendre les implications sociétales de l’IA, pas seulement les aspects technologiques et financiers. Elles doivent anticiper et traiter les impacts de l’IA sur toutes les parties prenantes avec une approche empathique qui répond aux préoccupations non seulement des fournisseurs, mais aussi des clients et de toutes les personnes concernées par l’utilisation et les résultats des moteurs d’IA. 

  • Contrôle des biais : il est essentiel d’examiner rigoureusement les données d’entraînement pour éviter d’intégrer des biais issus du monde réel dans les algorithmes IA, contribuant ainsi à garantir des processus décisionnels équitables et impartiaux.

    Le contrôle des biais peut être particulièrement important dans les situations où l’IA peut prendre des décisions pouvant affecter injustement certaines communautés marginalisées, comme la détermination des peines ou les diagnostics médicaux.



  • Transparence : la manière dont les algorithmes IA fonctionnent et prennent des décisions doit être claire et ouverte, et les organisations doivent être prêtes à expliquer la logique et le raisonnement qui sous-tendent les résultats générés par l’IA.

    Si un problème découle d’une décision prise par une IA, il est essentiel de mettre à disposition des méthodes pour examiner tout processus décisionnel potentiellement défectueux afin de comprendre comment et pourquoi les modèles IA parviennent à certaines conclusions.



  • Responsabilité : les organisations doivent définir et respecter de manière proactive des normes élevées pour gérer les changements significatifs que l’IA peut apporter, tout en assumant la responsabilité des impacts de l’IA. Par exemple, lorsqu’un médecin évalue les résultats des tests d’un patient, comme une radiographie, il est clairement responsable des conclusions et des actions résultant de son interprétation des données. Alors que les systèmes IA commencent à analyser les informations médicales, fournissant souvent des diagnostics plus rapides et plus précis, il est essentiel d’établir les responsabilités tout au long du pipeline d’IA, en définissant où la responsabilité du médecin peut s’arrêter et où commence celle du modèle IA. 

Bien que les réglementations et les forces du marché normalisent de nombreux indicateurs de gouvernance, chaque entreprise doit néanmoins déterminer comment définir au mieux les mesures pertinentes pour son activité spécifique. L’évaluation de l’efficacité de la gouvernance de l’IA peut varier d’une entreprise à l’autre ; chaque entreprise doit décider des paramètres qu’elle doit prioriser. Avec diverses considérations telles que la qualité des données, la sécurité des modèles, l’analyse coût-valeur, la surveillance des biais, la responsabilité individuelle, l’audit continu et l’adaptabilité, qui dépendent toutes du domaine de l’organisation, la gouvernance de l’IA ne peut jamais être une solution universelle.

Niveaux de gouvernance de l’IA

La gouvernance de l’IA n’a pas de « niveaux » suivant des normes universelles comme la cybersécurité peut par exemple avoir des niveaux définis de réponse aux menaces. Au lieu de cela, la gouvernance de l’IA possède des approches et des cadres structurés développés par diverses entités que les organisations peuvent adopter tels quels ou adapter à leurs besoins spécifiques.

Les organisations peuvent utiliser plusieurs cadres et directives pour développer leurs pratiques de gouvernance. Parmi les cadres les plus utilisés, on trouve le Cadre de gestion des risques liés à l’IA du NIST, les Principes de l’OCDE sur l’intelligence artificielle et les Lignes directrices en matière d’éthique pour une IA digne de confiance de la Commission européenne. Ces cadres fournissent des directives sur toute une série de facteurs, notamment la transparence, la responsabilité, l’équité, la protection de la vie privée, la sécurité et la sûreté.

Les niveaux de gouvernance de l’IA peuvent varier en fonction de la taille de l’organisation, de la complexité des systèmes IA utilisés et de l’environnement réglementaire dans lequel l’organisation opère.

Sans être exhaustif, un aperçu général des approches de gouvernance de l’IA inclut :

Gouvernance informelle

Il s’agit de l’approche la moins intensive de la gouvernance basée sur les valeurs et les principes de l’organisation. Il peut y avoir des processus informels, tels que des conseils d’examen éthique ou des comités internes, mais il n’existe pas de structure ou de cadre formel pour la gouvernance de l’IA.

Gouvernance ponctuelle

Elle est plus avancée par rapport à la gouvernance informelle et implique le développement de politiques et de procédures spécifiques pour le développement et l’utilisation de l’IA, uniquement en fonction des besoins. Ce type de gouvernance est souvent développé en réponse à des défis ou des risques spécifiques et peut ne pas être complet ni systématique.

Gouvernance formelle

Le niveau le plus élevé de gouvernance, la gouvernance formelle implique le développement d’un cadre complet de gouvernance de l’IA. Ce cadre reflète les valeurs et les principes de l’organisation et s’aligne sur les lois et réglementations pertinentes. Les cadres de gouvernance formelle incluent généralement l’évaluation des risques, l’examen éthique et les processus de supervision.

Comment les organisations déploient la gouvernance de l’IA

La gouvernance de l’IA consiste à établir des structures de contrôle robustes contenant des politiques, des directives et des cadres d’exigences pour relever des défis spécifiques. Elle consiste à configurer des mécanismes pour surveiller et évaluer continuellement les systèmes IA, en veillant à ce qu’ils respectent les normes éthiques établies et les réglementations légales.

Le concept de gouvernance de l’IA devient de plus en plus vital à mesure que l’automatisation, pilotée par l’IA, devient prépondérante dans des secteurs allant des soins de santé à la finance, en passant par les transports et les services publics. Les capacités d’automatisation de l’IA peuvent considérablement améliorer l’efficacité, la prise de décision et l’innovation, mais elles présentent également des défis liés à la responsabilité, à la transparence et aux considérations éthiques.

Les structures de gouvernance efficaces dans l’IA sont multidisciplinaires et impliquent des parties prenantes de divers domaines, notamment la technologie, le droit, l’éthique et le commerce. À mesure que les systèmes IA deviennent plus sophistiqués et s’intègrent dans des aspects critiques de la société, le rôle de la gouvernance de l’IA dans l’orientation et la définition de la trajectoire du développement de l’IA et de son impact sociétal devient de plus en plus crucial.

Les bonnes pratiques de gouvernance de l’IA, au-delà de la simple conformité, exigent une approche stratégique pour développer un système plus robuste, capable de surveiller et de gérer les applications IA. Pour les grandes entreprises, toute solution de gouvernance de l’IA doit permettre une surveillance et un contrôle étendus des systèmes IA . 

Une feuille de route générale de gouvernance de l’IA pourrait inclure :

1.    Tableaux de bord visuels : les tableaux de bord fournissent des mises à jour en temps réel sur la santé et l’état des systèmes IA, offrant une vue d’ensemble claire pour des évaluations rapides.

2.     Indicateurs de score de santé : les scores de santé globaux des modèles IA agrègent plusieurs points de données en un indicateur unifié intuitif et facile à comprendre pour simplifier la surveillance en un coup d’œil.  

3.    Surveillance automatisée : les systèmes de détection automatique des biais, des dérives, des performances et des anomalies contribuent à garantir que les modèles fonctionnent correctement et de manière éthique sans nécessiter de surveillance humaine 24 heures sur 24.  

4.    Alertes de performance : les alertes de performance automatisées déclenchées lorsqu’un modèle s’écarte de ses paramètres de performance prédéfinis permettent de répondre rapidement à tous les problèmes qui peuvent survenir.

5.    Indicateurs personnalisés : les indicateurs personnalisés qui s’alignent sur les indicateurs clés de performance et les seuils d’une organisation aident à garantir que les résultats de l’IA contribuent aux objectifs métier personnalisés.

6.    Pistes d’audit : des journaux et des pistes d’audit facilement accessibles favorisent la responsabilité et facilitent l’examen des décisions et des comportements des systèmes IA.

7.    Compatibilité avec l’open source : les outils open source favorisent la transparence en soumettant le code fonctionnel à l’examen public. Par conséquent, ces outils reflètent généralement aussi les mesures d’atténuation des risques de sécurité les plus récentes. Maintenir la compatibilité avec les dernières plateformes open source de développement de machine learning permet aux cadres de gouvernance de l’IA de tirer parti de la flexibilité et du soutien communautaire des logiciels open source.

8.    Intégration fluide : les plateformes de gouvernance de l’IA les plus efficaces sont conçues pour s’intégrer de manière fluide à l’infrastructure existante, y compris aux bases de données et aux écosystèmes logiciels, afin d’éviter les silos et de permettre des workflows efficaces.

En adhérant à ces pratiques, les organisations peuvent établir un solide cadre de gouvernance de l’IA qui soutient un développement, un déploiement et une gestion responsables de l’IA, aidant à garantir la conformité et l’alignement des systèmes IA avec les normes éthiques et les objectifs organisationnels.

Quelles réglementations nécessitent une gouvernance de l’IA ?

Les pratiques et réglementations de gouvernance de l’IA ont été adoptées par plusieurs pays pour prévenir les biais et la discrimination. Il est important de se rappeler que la réglementation est toujours en évolution et que les organisations qui gèrent des systèmes IA complexes doivent rester attentives à l’évolution des cadres légaux régionaux.

La loi européenne sur l’intelligence artificielle

La loi européenne sur l’intelligence artificielle (ou EU AI Act) vise à encadrer le développement ou l’utilisation de l’intelligence artificielle (IA) au sein de l’Union européenne (UE). Cette loi adopte une approche réglementaire axée sur les risques, appliquant des règles différentes aux systèmes IA selon le niveau de risque qu’ils présentent. Officiellement en vigueur depuis août 2024, la loi sur l’IA sera pleinement applicable dans les deux ans à compter de cette date, à quelques exceptions près ; par exemple, les règles relatives aux systèmes IA à haut risque intégrés dans des produits réglementés bénéficieront d’une période de transition prolongée, jusqu’en 2027.

Considérée comme le premier cadre réglementaire complet au monde pour l’IA, l'EU AI Act interdit certaines utilisations de l’IA et impose des exigences strictes en matière de gouvernance, de gestion des risques et de transparence pour d’autres.

La loi établit également des règles pour les modèles d’intelligence artificielle à usage général, tels que le modèle Granite d’IBM et le modèle Llama 3 de Meta, qui est un modèle de fondation open source. En cas de non-conformité, les sanctions peuvent varier de 7,5 millions d’euros ou 1,5 % du chiffre d’affaires annuel mondial à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, selon la gravité de l’infraction.

En juillet 2025, la Commission européenne a publié trois outils pour soutenir le développement et le déploiement responsables et éthiques des modèles GPAI :

La SR-11-7 des États-Unis

Historiquement, la norme américaine SR-11-7 était la norme réglementaire de gouvernance des modèles utilisée dans le secteur bancaire pour assurer une gouvernance efficace et solide des modèles.1 La réglementation exigeait que les responsables bancaires appliquent des initiatives de gestion des risques liés aux modèles à l’échelle de l’entreprise et tiennent à jour un inventaire des modèles mis en œuvre, en cours de développement ou récemment retirés. Toutefois, le 17 avril 2026, la Réserve fédérale a publié ses directives révisées sur la gestion des risques liés aux modèles (SR-26-2), qui remplacent la SR-11-7. Les directives interagences révisées sur la gestion des risques liés aux modèles, publiées par la Réserve fédérale, l’OCC et la FDIC, mettent davantage l’accent sur une méthodologie explicitement fondée sur les risques et proportionnée, avec des attentes réglementaires qui varient selon la taille, la complexité et le profil de risque lié aux modèles de chaque institution, par opposition aux exigences de gouvernance antérieures, uniformes.

Les dirigeants des institutions concernées doivent également prouver que leurs propres modèles atteignent l’objectif métier pour lequel ils ont été conçus, qu’ils sont à jour et qu’ils n’ont pas subi de dérive. Le développement et la validation d’un modèle doivent permettre à toute personne qui n’est pas familière avec ce modèle de comprendre son fonctionnement, ses limites et ses principales hypothèses.

Au-delà de ces législations spécifiques au secteur bancaire, la Maison Blanche a publié un cadre national de politique publique pour l’intelligence artificielle en mars 2026. Le cadre exhorte le Congrès à se pencher sur six grands « sujets de politique publique » liés à la gouvernance de l’IA, notamment :

  1. Protéger les enfants et donner aux parents les moyens d’agir
  2. Protéger et renforcer les communautés américaines
  3. Respecter les droits de propriété intellectuelle et soutenir les créateurs
  4. Prévenir la censure et protéger la liberté d’expression  
  5. Favoriser l’innovation et assurer la domination américaine dans le domaine de l’IA
  6. Former les Américains et développer une main-d’œuvre prête pour l’IA

Directive sur la prise de décisions automatisée du Canada

La Directive sur la prise de décisions automatisée du Canada décrit comment le gouvernement du pays utilise l’IA pour guider les décisions dans plusieurs services.2 La directive utilise un système de notation pour évaluer l’intervention humaine, l’évaluation par les pairs, le suivi et la planification d’urgence nécessaires à un outil IA conçu pour servir les citoyens.

Les organisations qui créent des solutions IA ayant obtenu un score élevé doivent procéder à deux évaluations indépendantes par des pairs, informer le public dans un langage simple, mettre au point un dispositif de sécurité pour l’intervention humaine et mettre en place des cours de formation récurrents pour le système. Alors que la Directive canadienne sur la prise de décisions automatisée est un guide pour le développement de l’IA dans le pays, la réglementation n’affecte pas directement les entreprises de la même manière que la SR-11-7 aux États-Unis.

Depuis la publication de sa directive initiale, le gouvernement canadien a plus récemment publié une Stratégie IA pour la fonction publique fédérale 2025-2027, avec des considérations supplémentaires portant sur les secteurs public et privé afin de mieux servir les Canadiens grâce à une adoption responsable de l’IA.

Réglementations et directives de gouvernance de l’IA dans la région Asie-Pacifique

En avril 2021, la Commission européenne a présenté son train de mesures sur l’IA, y compris des déclarations sur la promotion d’une approche européenne de l’excellence, de la confiance et d’une proposition de cadre juridique sur l’IA.3

Les déclarations précisent que si la plupart des systèmes IA entrent dans la catégorie des « risques minimes », les systèmes IA identifiés comme présentant un « risque élevé » devront se conformer à des exigences plus strictes et les systèmes considérés comme présentant un « risque inacceptable » seront interdits. Les organisations doivent prêter une attention particulière à ces règles sous peine d’amendes.

    En 2023, la Chine a publié ses « Mesures provisoires pour l'administration des services d'intelligence artificielle générative ». En vertu de cette loi, la fourniture et l'utilisation de services d'IA générative doivent « respecter les droits et intérêts légitimes d'autrui » et sont tenues de « ne pas mettre en danger la santé physique et mentale d'autrui, et ne pas porter atteinte aux droits à l'image, à la réputation, à l'honneur, à la vie privée et aux droits à la protection des données personnelles d'autrui ».6

    D’autres pays de la région Asie-Pacifique ont publié plusieurs principes et lignes directrices pour régir l’IA. Le gouvernement fédéral de Singapour a publié une proposition de cadre de gouvernance pour le développement de l’IA générative en 2024, ainsi qu’un cadre de modèle de gouvernance de l’IA pour l’IA agentique en 2026. L’Inde, le Japon, la Corée du Sud et la Thaïlande étudient également des lignes directrices et une législation pour la gouvernance de l’IA.3

    Auteurs

    Tim Mucci

    IBM Writer

    Gather

    Cole Stryker

    Staff Editor, AI Models

    IBM Think

    Solutions connexes
    IBM watsonx.governance

    Gouvernez les modèles d’IA générative où que vous soyez et déployez-les dans le cloud ou sur site avec IBM watsonx.governance.

    Découvrir watsonx.governance
    Solutions de gouvernance de l’IA

    Découvrez comment la gouvernance de l’IA peut contribuer à renforcer la confiance de vos employés dans l’IA, à accélérer l’adoption et l’innovation, et à améliorer la confiance des clients.

    Découvrir les solutions de gouvernance de l’IA
    Services de conseil en gouvernance de l’IA

    Préparez-vous à la loi européenne sur l’IA et adoptez une approche responsable de la gouvernance de l’IA avec IBM Consulting.

    Découvrir les services de gouvernance de l’IA
    Passez à l’étape suivante

    Dirigez, gérez et surveillez votre IA à l’aide d’un portefeuille unifié afin de parvenir plus rapidement à des résultats responsables, transparents et explicables.

    1. Découvrir watsonx.governance
    2. Réserver une démo en direct
    Notes de bas de page

    1 « SR 11-7: Guidance on model risk management ». Board of Governors of the Federal Reserve System, Washington, D.C., Division of Banking Supervision and Regulation. 4 avril 2011.

    2  « Canada’s New Federal Directive Makes Ethical AI a National Issue. » (La nouvelle directive fédérale canadienne fait de l’IA éthique un enjeu national) Digital. 8 mars 2019.

    3 « Asia-Pacific regulations keep pace with rapid evolution of artificial intelligence technology » . Sidley. 16 août 2024.