L’éthique est un ensemble de principes moraux qui nous aident à distinguer le bien du mal. L’éthique de l’IA est un domaine pluridisciplinaire qui étudie comment optimiser l’impact bénéfique de l’intelligence artificielle (IA) tout en réduisant ses risques et ses effets indésirables.
Voici quelques exemples de questions éthiques liées à l’IA :
Aujourd’hui, la plupart des entreprises utilisent, à des degrés divers, des outils d’IA et les mégadonnées pour soutenir l’automatisation et permettre une prise de décision fondée sur les données. Bien que l’intention soit généralement d’améliorer leurs résultats, elles peuvent être confrontées à des conséquences imprévues liées à leurs applications d’IA, souvent dues à une recherche et une conception initiales insuffisantes, ainsi qu’à des jeux de données biaisés. Ces problèmes soulignent l’importance d’une utilisation éthique des systèmes d’IA.
Les communautés de la recherche et de la science des données ont élaboré des lignes directrices en matière d’éthique de l’IA afin de contribuer à atténuer ces conséquences imprévues et ces résultats inéquitables. Les principales entreprises du secteur de l’IA se sont également intéressées à l’élaboration de ces lignes directrices, car elles savent que le non-respect des normes éthiques peut nuire à leurs produits, à leurs services et à leurs utilisateurs. Le manque de diligence dans ce domaine peut mettre en jeu leur réputation et les exposer à des risques réglementaires et juridiques, entraînant des sanctions coûteuses.
L’innovation a tendance à devancer la réglementation gouvernementale, en particulier dans le cas des technologies émergentes telles que l’IA. À terme, on peut s’attendre à ce que davantage de gouvernements adoptent des protocoles relatifs à l’IA imposés par la loi afin de protéger les droits humains et les libertés civiles. Bien qu’une certaine réglementation existe déjà (comme le règlement européen sur l’IA), de nombreuses lignes directrices existantes en matière d’éthique de l’IA reposent sur des cadres volontaires proposés par des scientifiques et des groupes industriels.
La communauté universitaire s’appuie depuis longtemps sur les principes éthiques énoncés dans le « Rapport Belmont 1» de 1979 pour orienter l’éthique dans la recherche expérimentale et le développement algorithmique.
Ces principes peuvent servir de base à la recherche, à la conception et à l’utilisation éthiques de l’IA et du machine learning. Cependant, comme ils ont été élaborés en pensant à des sujets humains, bien avant l’apparition des systèmes modernes d’IA générative et agentique, ils ne suffisent pas à eux seuls. Ils doivent être considérés comme fondateurs, mais ne constituent pas un ensemble exhaustif de principes relatifs à l’IA.
Les principes du Rapport Belmont sont les suivants :
Ce principe reconnaît l’autonomie des individus et impose aux chercheurs de protéger les personnes dont l’autonomie est réduite en raison d’une maladie, d’un handicap mental, de l’âge ou d’autres circonstances diverses.
Ce principe porte principalement sur le consentement. Les personnes doivent être conscientes des risques et des avantages potentiels de toute expérience à laquelle elles participent. Elles doivent également pouvoir choisir de participer ou de se retirer à tout moment, avant et pendant l’expérience.
Les chercheurs doivent veiller à la sécurité et au bien-être général de chaque individu. Ce principe s’inspire de l’éthique médicale, où les médecins prêtent serment de « ne pas nuire ». Ce concept s’applique facilement à l’intelligence artificielle, où les algorithmes peuvent amplifier les préjugés liés à la race, au genre, aux opinions politiques et à d’autres caractéristiques sensibles si les créateurs et les utilisateurs ne font pas preuve de précaution.
Ce principe traite des questions d’équité et de réduction des inégalités dans les résultats. Il s’agit essentiellement de répondre à la question suivante : « Qui devrait bénéficier des avantages de l’expérimentation ? » Le Rapport Belmont propose cinq critères de répartition des charges et des avantages : à parts égales, en fonction des besoins individuels, de l’effort individuel, de la contribution à la société et du mérite.
Obtenez des informations sur les actualités les plus importantes et les plus intrigantes en matière d’intelligence artificielle. Abonnez-vous à notre newsletter hebdomadaire Think. Lire la Déclaration de confidentialité d’IBM.
Plusieurs enjeux occupent le devant de la scène dans les débats éthiques autour des technologies d’IA dans le monde réel. Ces préoccupations reflètent les répercussions potentielles plus larges de l’IA sur la société. Parmi celles-ci, on peut citer :
La sortie de ChatGPT en 2022 a marqué un véritable tournant pour l’intelligence artificielle. Les capacités du chatbot d’OpenAI, qui vont de la rédaction de dossiers juridiques au débogage de code, ont ouvert de nouvelles perspectives quant à ce que l’IA est capable de faire et à la manière dont elle peut être appliquée dans presque tous les secteurs d’activité.
ChatGPT et les outils d’IA similaires s’appuient sur des modèles de fondation, c’est-à-dire des modèles d’IA pouvant être appliqués à un large éventail de tâches en aval. Les modèles de fondation sont généralement des modèles génératifs à grande échelle, comprenant des milliards de paramètres, qui s’appuient sur des données d’entraînement non étiquetées et recourent à l’auto-supervision. Souvent appelés « grands modèles de langage » (LLM), ils peuvent transposer ce qu’ils ont appris dans un contexte donné à un autre, ce qui les rend extrêmement adaptables.
Pourtant, les modèles de fondation soulèvent de nombreux problèmes et préoccupations éthiques, notamment les biais, la génération de faux contenus (y compris des résultats peu fiables ou trompeurs) et le manque d’explicabilité. Bon nombre de ces enjeux concernent l’IA en général, mais deviennent urgents compte tenu de la puissance et de la disponibilité des modèles de fondation.
Les modèles de fondation et d’IA générative soulèvent également des défis éthiques liés à leur envergure, à leur polyvalence et à leur facilité de réutilisation dans divers domaines. Étant donné qu’ils peuvent être déployés dans des contextes très éloignés de l’objectif initial de leur entraînement, les questions de responsabilité et d’obligation de rendre des comptes prennent une dimension bien plus complexe. La répartition des obligations éthiques entre les fournisseurs de modèles et leurs utilisateurs en aval n’est souvent pas clairement définie. À qui incombe-t-il d’empêcher un modèle, par exemple, d’utiliser à mauvais escient des données sensibles ou de divulguer de la propriété intellectuelle : au fournisseur, au responsable du déploiement ou à l’utilisateur final ?
De plus, les systèmes d’IA générative peuvent produire des résultats convaincants mais incorrects ou trompeurs, et permettre des utilisations abusives à une échelle sans précédent. Par conséquent, les lignes directrices éthiques relatives aux modèles de fondation mettent souvent l’accent sur une documentation claire, des contraintes d’utilisation, une surveillance continue et une supervision humaine tout au long du déploiement.
La singularité technologique est un scénario théorique dans lequel la croissance technologique devient incontrôlable et irréversible, changeant profondément et de manière imprévisible la civilisation humaine. Bien que ce sujet suscite beaucoup d’intérêt auprès du grand public, de nombreux chercheurs ne s’inquiètent pas à l’idée que l’IA puisse surpasser l’intelligence humaine dans un avenir proche ou immédiat.
L’IA forte (une intelligence artificielle qui posséderait une intelligence et une conscience de soi égales à celles des humains) et la superintelligence sont encore hypothétiques. Cependant, ces concepts soulèvent des questions intéressantes et des implications éthiques concernant la manière dont nous utilisons l’IA dans les systèmes autonomes, tels que les voitures autonomes.
Par exemple, il est irréaliste de penser qu’une voiture sans conducteur n’aura jamais d’accident. Mais à qui incombe la responsabilité s’il devait se produire ? Doit-on poursuivre le développement des véhicules autonomes, ou limiter l’intégration de cette technologie pour ne créer que des véhicules semi-autonomes favorisant la sécurité des conducteurs ?
Ce genre de dilemmes éthiques est loin d’être tranché, mais ce sont là les débats que suscitent les nouvelles technologies d’IA innovantes.
Si, dans l’opinion publique, l’intelligence artificielle est souvent associée à la perte d’emplois, cette préoccupation peut être considérée sous un autre angle. À chaque nouvelle technologie disruptive, la demande du marché pour certains postes évolue.
Par exemple, lorsque les ordinateurs personnels se sont généralisés, des métiers tels que dactylographe ou commis aux archives ont en grande partie disparu. Parallèlement, des catégories d’emplois entièrement nouvelles ont vu le jour : assistance informatique, développement de logiciels et saisie de données.
L’intelligence artificielle devrait être envisagée de la même manière. Les initiatives en la matière ne vont pas nécessairement entraîner une réduction des effectifs. L’IA est plutôt susceptible de réorienter la demande d’emploi vers d’autres domaines. Des personnes seront nécessaires pour gérer les systèmes d’IA et résoudre les problèmes plus complexes qui se posent dans leurs secteurs d’activité.
L’aspect le plus important de l’impact de l’IA sur le marché de l’emploi consiste à aider les personnes à se réorienter vers de nouveaux domaines pour lesquels il existe une demande.
Les modèles d’IA reposent sur des données. Par conséquent, la confidentialité, la protection et la sécurité des données constituent des préoccupations centrales de l’éthique de l’IA.
Au cours de la dernière décennie, les décideurs politiques ont fait adopter d’importants textes législatifs en matière de protection des données, et les règles qu’ils ont établies s’appliquent largement aux outils d’IA ainsi qu’aux logiciels traditionnels.
Par exemple, le règlement général sur la protection des données (RGPD) de l’UE confère aux personnes physiques de l’Union européenne et de l’Espace économique européen un contrôle accru sur leurs données personnelles. Aux États-Unis, des politiques au niveau des États, telles que le California Consumer Privacy Act (CCPA), obligent les entreprises à informer les consommateurs de la collecte de leurs données.
Les organismes publics commencent également à adopter des règles spécifiques à l’IA concernant la collecte, le stockage et l’utilisation des données personnelles. Par exemple, en 2024, la Californie a entamé l’élaboration de règles relatives à l’IA et aux technologies de prise de décision automatisée. Celles-ci ont depuis été finalisées, et les entreprises devront s’y conformer d’ici le 1er janvier 2027.
Bien que les entreprises aient généralement de bonnes intentions dans leurs initiatives en matière d’IA et d’automatisation, les biais intégrés dans les jeux de données d’entraînement et les algorithmes d’IA peuvent conduire à des résultats discriminatoires.
Par exemple, Amazon a abandonné un de ses premiers outils de recrutement alimenté par l’IA lorsqu’il s’est avéré que cet outil attribuait systématiquement des notes plus faibles aux femmes qu’aux hommes. Pourquoi ? Parce que l’outil avait été entraîné sur un ensemble de CV provenant en grande partie d’hommes.
Les biais et la discrimination ne se limitent pas non plus au domaine des ressources humaines. On les retrouve dans diverses applications, allant des logiciels de reconnaissance faciale aux algorithmes des réseaux sociaux. Par exemple, les outils de reconnaissance faciale ont systématiquement plus de mal à identifier les personnes de couleur.
À mesure que les entreprises prennent conscience de ces risques, elles s’impliquent davantage dans le débat.
Par exemple, IBM a retiré du marché ses produits de reconnaissance et d’analyse faciales à usage général en 2020. À l’époque, Arvind Krishna, PDG d’IBM, avait écrit :
« IBM s’oppose fermement à toute utilisation de technologies, quelles qu’elles soient, y compris les technologies de reconnaissance faciale proposées par d’autres fournisseurs, à des fins de surveillance de masse, de profilage racial, de violation des droits et libertés humains fondamentaux, ou à toute autre fin contraire à nos valeurs et à nos principes de confiance et de transparence, et ne tolérera en aucun cas de telles utilisations. »
L’adoption rapide de l’IA générative a exacerbé les inquiétudes concernant les contenus synthétiques, tels que les deepfakes, la mésinformation automatisée et l’érosion de la confiance dans l’information numérique.
À mesure que les textes, images, fichiers audio et vidéos générés par l’IA deviennent de plus en plus difficiles à distinguer des contenus créés par les humains, le besoin de transparence s’étend désormais au-delà de l’explicabilité des modèles d’IA pour englober la traçabilité et la publication des résultats. En réponse à cela, les décideurs politiques et les fournisseurs de technologies mettent en place des mécanismes de traçabilité des contenus. Ceux-ci peuvent inclure, par exemple, des exigences en matière d’étiquetage, le tatouage numérique et des métadonnées cryptographiques afin de permettre aux utilisateurs d’identifier les contenus générés par l’IA.
Ces approches peuvent susciter des tensions éthiques, notamment des compromis entre robustesse, protection de la vie privée et liberté d’expression, mais elles sont de plus en plus considérées comme essentielles pour préserver la confiance dans les écosystèmes numériques.
Bien qu’il n’existe pas de loi mondiale unique régissant l’intelligence artificielle, la réglementation en la matière est rapidement passée de lignes directrices volontaires à des cadres juridiques contraignants dans de nombreuses juridictions.
Le règlement européen sur l’IA, entré en vigueur en 2024, établit des obligations contraignantes pour certaines pratiques d’IA. Ces obligations comprennent l’interdiction des systèmes présentant un risque inacceptable, des exigences de transparence pour les contenus générés par l’IA et des règles de gouvernance du cycle de vie pour les modèles d’IA à haut risque et à usage général.
La prolifération de lois telles que le règlement européen sur l’IA témoigne d’une évolution plus large de l’éthique de l’IA, passant de principes ambitieux à des mécanismes de responsabilité qui combinent normes éthiques et conformité juridique.
L’intelligence artificielle fonctionne selon la manière dont elle est conçue, développée, entraînée, réglée et utilisée. L’éthique de l’IA consiste à établir des normes et des garde-fous à chaque étape du cycle de vie d’un système d’IA.
Les entreprises, les gouvernements et les chercheurs ont élaboré des cadres visant à répondre aux préoccupations éthiques actuelles liées à l’IA et à façonner l’avenir de cette technologie. Bien que les lignes directrices puissent varier, un certain consensus s’est dégagé autour des activités fondamentales de gouvernance de l’IA.
L’éthique de l’IA est de plus en plus considérée non pas comme un ensemble de principes, mais comme une capacité permanente intégrée tout au long du cycle de vie de l’IA. Une gouvernance efficace nécessite des processus continus d’évaluation des risques, de documentation des décisions de conception, de surveillance des systèmes déployés et de réponse aux comportements inattendus ou aux préjudices. Les systèmes d’IA évoluant au fil du temps, la supervision éthique doit suivre cette évolution, en s’appuyant sur une attribution claire des responsabilités et des contrôles mesurables plutôt que sur de simples politiques statiques.
La gouvernance contribue à garantir que les systèmes d’IA fonctionnent conformément aux principes, aux valeurs et aux pratiques responsables de l’entreprise en matière d’IA.
Un programme de gouvernance de l’IA comporte généralement les aspects suivants :
Un comité d’éthique de l’IA constitue un autre mécanisme de gouvernance efficace. Par exemple, l’IBM Responsible Technology Board, composé de divers dirigeants issus de l’entreprise, assure un processus centralisé de gouvernance, d’examen et de prise de décision concernant les politiques et pratiques éthiques en matière d’IA chez IBM.
Les entreprises peuvent mettre en place une IA digne de confiance en fondant leur travail sur des principes éthiques clairs, appliqués de manière cohérente à l’ensemble des produits, politiques et processus. Ces principes doivent se concentrer sur des domaines concrets, tels que l’explicabilité ou l’équité, autour desquels des normes et pratiques spécifiques peuvent être élaborées.
Lorsque l’éthique est intégrée dès le départ à l’IA, cette dernière peut être extrêmement bénéfique. Des domaines tels que la santé en tirent déjà parti. L’IA transforme des disciplines comme la radiologie, en détectant les anomalies sur les images de diagnostic plus rapidement et avec une plus grande précision que les méthodes traditionnelles.
De nombreuses entreprises constatent qu’elles sont mieux à même de tirer parti de ces avantages dès lors qu’elles considèrent l’éthique de l’intelligence artificielle comme une discipline pratique alliant valeurs, gouvernance et responsabilité, afin de soutenir une innovation responsable à l’échelle.
Les normes éthiques ne constituent pas la préoccupation principale des ingénieurs de données et des data scientists dans le secteur privé. Cependant, plusieurs entreprises ont vu le jour pour promouvoir une conduite éthique dans le domaine de l’intelligence artificielle.
Parmi ces entreprises, on peut citer :
Les principes d’IBM en matière de confiance et de transparence définissent son approche en matière de données et de développement de l’IA. Ces principes sont les suivants :
IBM a également défini cinq piliers destinés à guider l’adoption responsable des technologies d’IA.
1. The Belmont Report (PDF, 121 KB), National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research, 18 avril 1979.