L’intelligence artificielle (IA) responsable est un ensemble de principes qui régissent la conception, le développement, le déploiement et l’utilisation de l’IA, renforçant ainsi la confiance dans les solutions d’IA qui ont le potentiel d’autonomiser les organisations et leurs parties prenantes. L’IA responsable implique la prise en compte d’un impact sociétal plus large des systèmes d’IA et des mesures nécessaires pour aligner ces technologies sur les valeurs des parties prenantes, les normes juridiques et les principes éthiques. L’IA responsable vise à intégrer de tels principes éthiques dans les applications et les workflows IA afin d’atténuer les risques et les résultats négatifs associés à l’utilisation de l’IA, tout en optimisant les résultats.
Cet article vise à fournir une vision générale de l’IA responsable. Pour en savoir plus sur le point de vue spécifique d’IBM, consultez notre page sur l’éthique de l’IA.
L’adoption généralisée du machine learning dans les années 2010, alimentée par les progrès du big data et des capacités de calcul, a généré de nouveaux défis en matière d’éthique, tels que la partialité, la transparence et l’utilisation des données personnelles. L’éthique de l’IA est apparue comme une discipline à part entière au cours de cette période, les entreprises technologiques et les instituts de recherche sur l’IA cherchant à gérer de manière proactive et responsable leurs efforts en matière d’IA.
Les outils d’IA générative et les agents IA désormais rapidement adoptés par les entreprises exigent de nouveaux cadres d’utilisation éthique. Les entreprises avant-gardistes qui repensent leurs principes d’IA responsable pour un monde agentique peuvent aider les utilisateurs à exploiter tout le potentiel de ces outils tout en minimisant les résultats indésirables.
L’IA doit être fiable et pour que les parties prenantes puissent lui faire confiance, elle doit être transparente. Les entreprises doivent être claires à propos de la façon dont elles entraînent leurs systèmes d'IA, des données qui sont utilisées à cette fin et de ce sur quoi s'appuient les recommandations de leurs algorithmes. Si nous voulons utiliser l’IA pour prendre des décisions stratégiques, elle doit être explicable.
Obtenez des informations sur les actualités les plus importantes et les plus intrigantes en matière d’intelligence artificielle. Abonnez-vous à notre newsletter hebdomadaire Think. Lire la Déclaration de confidentialité d’IBM.
L’IA responsable est une pratique socio-technique qui rassemble les personnes, les processus, les outils et la gouvernance. Cela oblige les entreprises à prendre en compte le cycle de vie complet des systèmes d’IA, de la collecte des données au développement de modèles, en passant par le déploiement, la surveillance et l’amélioration. Cela nécessite également une attention particulière aux effets plus larges de l’IA sur les individus, les entreprises, la société et l’environnement.
Le cadre Responsible Technology & Governance Framework d’IBM réunit principes, propriétés, dimensions d’impact et pratiques de gouvernance en une approche unique pour construire et déployer des technologies responsables. L’IA responsable reste au cœur de cette approche, tandis que le Framework étend le même modèle de gouvernance aux technologies émergentes telles que les systèmes agentiques, l’informatique quantique et les domaines futurs.
Le Framework est organisé autour de quatre composants :
Principes de confiance
les engagements fondamentaux d’IBM pour le développement et le déploiement responsables de technologies :
La technologie devrait renforcer les capacités humaines.
La technologie doit reposer sur une gouvernance responsable des données
La technologie doit être ouverte et transparente
Piliers de l’IA digne de confiance
Les qualités que les systèmes d’IA devraient démontrer pour instaurer la confiance :
Transparence
Équité et alignement sur les valeurs humaines
Robustesse
Confidentialité
Dimensions de l’impact
Les résultats généraux pris en compte par IBM lors de l’évaluation de la technologie :
Agentivité humaine et confiance
Bien-être social
Durabilité environnementale
Gouvernance
Les programmes, les outils, la formation, les politiques, les partenariats et les mécanismes d’évaluation qui relient les engagements technologiques responsables à la pratique quotidienne.
Ensemble, ces composants permettent d’intégrer la responsabilité dès la conception. À mesure que les systèmes d’IA deviennent plus performants et intégrés aux opérations métier, les entreprises devraient être en mesure de démontrer que la confiance est opérationnalisée grâce à une gouvernance intégrée à leurs systèmes et processus.
La mise en œuvre de pratiques d’IA responsables au niveau de l’entreprise implique une approche holistique, de bout en bout, qui aborde les différentes étapes du développement et du déploiement de l’IA.
Développez un ensemble de principes d’IA responsables conforme aux valeurs et aux objectifs d’innovation de l’entreprise en matière d’IA. Considérez les aspects clés décrits ci-dessus dans les « Piliers de la confiance ». Ces principes peuvent être élaborés et mis à jour par une équipe pluridisciplinaire dédiée et spécialisée dans l’éthique de l’IA, composée de représentants de divers services, notamment des spécialistes de l’IA, des éthiciens, des experts juridiques et des chefs d’entreprise.
Proposez des programmes de formation pour sensibiliser les employés, les parties prenantes et les décideurs aux pratiques d’IA responsable. Il s’agit notamment de comprendre les biais potentiels, les considérations éthiques et l’importance d’intégrer une IA responsable dans les opérations métier.
Intégrez des pratiques d’IA responsable tout au long du processus de développement de l’IA, de la collecte de données et de la formation du modèle au déploiement et à la surveillance continue. Utiliser des techniques pour traiter et atténuer les biais dans les systèmes d’IA. Évaluez régulièrement l’équité des modèles à l’aide d’indicateurs éprouvés, notamment pour les attributs sensibles tels que l’ethnie, le sexe ou le statut socio-économique. Donnez la priorité à la transparence en faisant en sorte que les systèmes d’IA soient justifiables. Documentez de manière claire les sources de données, les algorithmes et les processus de décision. Les utilisateurs et les parties prenantes doivent pouvoir comprendre comment les systèmes d’IA prennent des décisions.
Établissez des pratiques et des garanties de gouvernance en matière d’IA responsables pour protéger la vie privée des utilisateurs finaux et les données sensibles. Communiquez clairement les politiques d’utilisation des données, obtenez un consentement éclairé et conformez-vous aux réglementations en matière de protection des données.
Intégrez des mécanismes de contrôle humain dans les processus décisionnels critiques. Définissez des lignes de responsabilité claires pour vous assurer que les parties responsables sont identifiées et peuvent être tenues responsables des résultats des systèmes d’IA. Mettez en place une surveillance continue des systèmes d’IA afin d’identifier et de traiter les préoccupations éthiques, les préjugés ou les problèmes qui peuvent survenir au fil du temps. Auditez régulièrement les modèles IA afin d’évaluer leur conformité aux lignes directrices en matière d’éthique.
Encouragez la collaboration avec des organisations externes, des instituts de recherche et des groupes open source qui travaillent sur la sécurité de l’IA Suivez les derniers développements en matière de pratiques et d’initiatives en matière d’IA responsable et contribuez aux efforts de l’ensemble du secteur.