À quoi devrait ressembler un cadre de gouvernance éthique en matière d’IA ?

Alors que la course à l’IA générative s’intensifie, le débat éthique autour de cette technologie ne cesse de s’intensifier, et les enjeux ne cessent de croître.

Selon Gartner, « les entreprises doivent s’assurer que les projets d’IA qu’elles développent, déployent ou utilisent n’ont pas de conséquences éthiques négatives ». Par ailleurs, 79 % des cadres affirment que l’éthique de l’IA est importante pour leur approche de l’IA à l’échelle de l’entreprise, mais moins de 25 % ont mis en œuvre des principes de gouvernance éthique.

L’IA figure également en bonne place sur la liste des préoccupations du gouvernement américain. Fin février, le président Mike Johnson et le représentant démocrate Hakeem Jeffries ont annoncé la création d’un groupe de travail bipartisan sur l’IA pour découvrir comment le Congrès peut continuer à garantir que l’Amérique mène l’innovation en matière d’IA. Le groupe de travail examinera également les garde-fous nécessaires pour protéger le pays contre les menaces actuelles et émergentes et pour garantir le développement de technologies sûres et fiables.

Il est clair qu’une bonne gouvernance est essentielle pour faire face aux risques liés à l’IA.

Alors que les entreprises adoptent de plus en plus l’IA dans leurs activités quotidiennes, l’utilisation éthique de la technologie est devenue un sujet de premier plan. Le problème, c’est que les entreprises s’appuient souvent sur des principes généraux, combinés à des conseils juridiques ou indépendants, pour évaluer les risques éthiques des différents cas d’utilisation de l’IA.

Toutefois, selon l’étude de cas de Gartner, les principes éthiques de l’IA peuvent être trop larges ou trop abstraits. Ensuite, les chefs de projet ont du mal à décider si les cas d’utilisation individuels de l’IA sont éthiques ou non. Pendant ce temps, les équipes juridiques et les conseils d’évaluation, eux, n’ont aucune visibilité sur la façon dont l’IA est réellement utilisée dans les entreprises. Tout cela ouvre la porte à une utilisation non éthique (intentionnelle ou non) de l’IA et aux risques commerciaux et de conformité qui en découlent.

Compte tenu de l’impact potentiel, le problème doit d’abord être traité au niveau de la gouvernance. Ensuite, la mise en œuvre organisationnelle, avec les contrôles et les équilibres appropriés, doit suivre.

Selon l’étude de cas, les responsables commerciaux et de la confidentialité chez IBM ont élaboré un cadre des exigences pour répondre aux préoccupations éthiques entourant les projets d’IA. Ce cadre est renforcé par quatre rôles principaux :

1. Comité consultatif sur les politiques : les responsables seniors sont chargés de déterminer les objectifs généraux en matière de réglementation et de politique publique, ainsi que les risques et les stratégies en matière de confidentialité, de données et de technologie.

2. Conseil d’éthique de l’IA : coprésidé par le responsable mondial de l’éthique de l’IA d’IBM Research et le responsable de la confidentialité et de la confiance, le Conseil comprend une équipe interfonctionnelle et centralisée qui définit, maintient et conseille les politiques, les pratiques et les communications d’IBM en matière d’éthique de l’IA.

3. Points focaux en matière d’éthique de l’IA : chaque unité commerciale a des points focaux (représentants d’unité commerciale) qui agissent comme le premier point de contact pour identifier et évaluer proactivement les préoccupations éthiques liées à la technologie, atténuer les risques pour les cas d’utilisation individuels et transmettre les projets au conseil d’éthique de l’IA pour examen. Une grande partie de la gouvernance de l’IA repose sur ces individus, comme nous le verrons plus tard.

4. Réseau de plaidoyer : un réseau populaire d’employés qui promeuvent une culture de technologie d’IA éthique, responsable et digne de confiance. Ces défenseurs contribuent à des flux de travail ouverts et aident à étendre les initiatives d’éthique de l’IA dans l’entreprise.

Si un problème d’éthique de l’IA est identifié, le point focal assigné à l’unité commerciale du cas d’utilisation lancera une évaluation. Le point focal exécute ce processus en première ligne, ce qui permet le tri des cas à faible risque. Pour les cas à plus haut risque, une évaluation formelle des risques est réalisée et transmise au comité d’éthique de l’IA.

Chaque cas d’utilisation est évalué à l’aide de directives, parmi lesquelles :

• Propriétés associées et utilisation prévue : étudie la nature, l’utilisation prévue et le niveau de risque d’un cas d’utilisation particulier. Le cas d’utilisation peut-il causer des dommages ? Qui est l’utilisateur final ? Des droits individuels sont-ils violés ?

• Conformité réglementaire : détermine si les données seront traitées en toute sécurité et conformément aux lois en matière de protection de la vie privée et aux réglementations du secteur.

• Cas d’utilisation précédemment examinés : fournit des informations et les étapes suivantes à partir des cas d’utilisation précédemment examinés par le conseil d’éthique de l’IA. Inclut une liste des cas d’utilisation de l’IA qui nécessitent l’approbation du conseil d’administration.

• Alignement sur les principes éthiques de l’IA : détermine si les cas d’utilisation répondent aux exigences fondamentales, telles que l’alignement sur les principes d’équité, de transparence, d’explicabilité, de robustesse et de respect de la vie privée.

Selon le rapport Gartner, la mise en œuvre d’un cadre de gouvernance de l’IA a permis à IBM d’obtenir de nombreux avantages :

• Mise à l’échelle de l’éthique de l’IA : les points focaux stimulent la conformité et lancent des avis dans leurs unités commerciales respectives, ce qui permet une évaluation de l’éthique de l’IA à l’échelle.

• Meilleur alignement stratégique de la vision de l’éthique de l’IA : les points focaux sont en contact avec les responsables techniques, intellectuels et commerciaux dans le domaine de l’éthique de l’IA au sein de l’entreprise et dans le monde entier.

• Accélération de l’achèvement des projets et des propositions à faible risque : en triant les services ou les projets à faible risque, les points focaux permettent d’examiner les projets plus rapidement.

• Amélioration de la préparation du conseil d’administration : en donnant aux points focaux les moyens de guider l’éthique de l’IA dès le début du processus, le conseil d’éthique de l’IA peut examiner plus efficacement les cas d’utilisation restants.

Lors du lancement de ChatGPT en juin 2020, le monde entier était en émoi et nourrissait de grandes attentes. Aujourd’hui, les tendances en matière d’IA laissent entrevoir des attentes plus réalistes à l’égard de cette technologie. Des outils autonomes comme ChatGPT peuvent capter l’imagination du public, mais une intégration efficace dans les services existants engendrera des changements plus profonds dans tous les secteurs d’activité.

L’IA ouvre sans aucun doute la porte à de nouveaux outils et techniques puissants pour travailler. Cependant, les risques associés sont eux aussi bien réels. L’augmentation des capacités multimodales de l’IA et la diminution des barrières à l’entrée ouvrent également de nouvelles portes aux abus : les deepfakes, les problèmes de confidentialité, la perpétuation des biais et même le contournement des protections CAPTCHA peuvent devenir de plus en plus faciles pour les acteurs malveillants.

Alors que les acteurs malveillants utilisent déjà l’IA, les entreprises légitimes doivent également prendre des mesures préventives pour assurer la sécurité de leurs employés, de leurs clients et de leurs communautés.

ChatGPT précise que « les conséquences négatives peuvent englober les biais perpétués par les algorithmes d’IA, les atteintes à la vie privée, l’exacerbation des inégalités sociétales ou les préjudices involontaires causés aux individus ou aux communautés. En outre, les pratiques d’IA contraires à l’éthique pourraient avoir des répercussions sur la confiance et la réputation, ainsi que sur l’aspect juridique. »

Pour se protéger contre ces types de risques, la gouvernance de l’éthique de l’IA est essentielle.