Qu’est-ce que l’IA explicable ?

L'IA explicable est utilisée pour décrire un modèle d'IA, son impact attendu et ses biais potentiels. Elle permet de caractériser la précision, l'équité, la transparence et les résultats du modèle dans la prise de décision alimentée par l'IA. L'IA explicable est cruciale pour une organisation, car elle permet d'instaurer un climat de confiance lors de la mise en production de modèles IA. L'explicabilité de l'IA aide également une organisation à adopter une approche responsable du développement de l'IA.

Les progrès de l’IA obligent les humains à comprendre et à retracer le cheminement qui a conduit l’algorithme à un résultat donné. L’ensemble du processus de calcul est retranscrit dans ce que l’on appelle communément une « boîte noire », impossible à interpréter.

Ces modèles de type boîte noire sont créés directement à partir des données. Même les ingénieurs ou les data scientists qui créent l’algorithme ne peuvent pas comprendre ou expliquer ce qui se passe exactement « dans sa tête » ou comment il arrive à un résultat donné.

Il y a de nombreux avantages à comprendre comment un système basé sur l’IA a abouti à un résultat spécifique. L’explicabilité permet aux développeurs de s’assurer que le système fonctionne comme prévu ; elle peut être nécessaire pour respecter les normes réglementaires ou s’avérer importante pour permettre aux personnes concernées par une décision de contester ou de modifier ce résultat¹.

Une organisation ne doit pas suivre l'IA sans esprit critique : il est crucial qu'elle comprenne parfaitement son processus décisionnel, ce que permet un modèle de contrôle et de responsabilité de l'IA.L'IA explicable peut aider les humains à cerner et à expliquer les algorithmes de machine learning (ML), l'apprentissage en profondeur et les réseaux neuronaux.

Les modèles de ML sont souvent considérés comme des boîtes noires impossibles à interpréter². Les réseaux de neurones utilisés dans l’apprentissage profond sont parmi les plus difficiles à comprendre pour les humains. Les biais, souvent fondés sur la race, le sexe, l’âge ou le lieu de résidence, constituent depuis longtemps un risque pour l’entraînement des modèles d’IA.

En outre, les performances des modèles d’IA peuvent dériver ou se dégrader, car les données de production diffèrent évidemment du contenu d’entraînement. Il est donc crucial pour une entreprise de surveiller et de gérer en continu ses modèles afin de favoriser l’explicabilité de l’IA tout en mesurant l’impact de l’utilisation de ces algorithmes sur son activité.

L’IA explicable contribue également à renforcer la confiance des utilisateurs finaux, à garantir l’auditabilité des modèles d’IA et à favoriser une utilisation productive de l’IA. Elle atténue par ailleurs les risques liés à la conformité, aux aspects juridiques, à la sécurité et à la réputation découlant des résultats produits par l’IA.

L'IA explicable est un élément central de l'IA responsable, une méthodologie permettant de déployer à grande échelle des méthodes d'IA en entreprise de façon équitable, explicable et responsable.³ Pour adopter l'IA de manière responsable, les organisations doivent intégrer des principes éthiques dans les applications et les processus IA en créant des systèmes d'IA fondés sur la confiance et la transparence.

Grâce à l’IA explicable (ainsi qu’à l’interprétation du machine learning), les entreprises peuvent accéder au processus décisionnel sous-jacent de la technologie d’IA et procéder à des ajustements si nécessaire. L’IA explicable peut améliorer l’expérience utilisateur d’un produit ou d’un service en renforçant la confiance que les clients finaux auront dans les décisions basées sur l’IA. Quel niveau de confiance doit-on attendre des systèmes d’IA pour se fier à leurs décisions et comment peuvent-ils corriger les erreurs qui surviennent⁴ ?

Le perfectionnement de l’IA ne dispense pas de la nécessité de comprendre et de contrôler les processus de ML afin de garantir l’exactitude des résultats des modèles d’IA. Examinons la différence entre l’IA et la XAI, les méthodes et les techniques utilisées pour transformer l’IA en XAI, et la différence entre interprétation et explication des processus d’IA.

Quelle est la différence entre l’IA « standard » et l’IA explicable ? La XAI déploie des techniques et des méthodes spécifiques pour garantir que chaque décision prise au cours du processus de ML peut être retracée et expliquée.

L’IA, en revanche, parvient souvent à un résultat à l’aide d’un algorithme de ML, mais les architectes des systèmes d’IA ne comprennent pas entièrement comment celui-ci est parvenu à son résultat. Il est donc difficile d’en vérifier l’exactitude, ce qui entraîne une perte de contrôle, de responsabilité et d’auditabilité.

Les techniques de XAI reposent sur trois axes principaux. La précision et la traçabilité des prédictions répondent aux exigences technologiques, tandis que la compréhension des décisions répond aux besoins humains. L’IA explicable, en particulier le machine learning explicable, sera essentielle si l’on veut que les futurs combattants puissent comprendre, approuver et gérer efficacement une nouvelle génération de partenaires machines dotés d’intelligence artificielle⁵.

La précision est un élément clé de la réussite de l’utilisation de l’IA dans les opérations quotidiennes. En effectuant des simulations et en comparant les résultats de la XAI à ceux du jeu de données d’entraînement, il est possible de déterminer la précision de chaque prédiction. La technique la plus utilisée à cet effet est LIME (pour Local Interpretable Model-Agnostic Explanations), qui explique la prédiction des classificateurs par l’algorithme ML.

La traçabilité est une autre technique clé de la XAI. Cela se fait, par exemple, en limitant la manière dont les décisions peuvent être prises et en établissant un champ d’application plus étroit pour les règles et la fonctionnalité du ML. Parmi les techniques de traçabilité XAI, citons DeepLIFT (pour Deep Learning Important FeaTures), qui compare toute activation de neurone à son neurone de référence et montre un lien traçable entre chaque neurone activé, et même les dépendances entre eux.

C’est le facteur humain. De nombreuses personnes se méfient de l’IA. Or, pour l’utiliser efficacement, elles doivent apprendre à lui faire confiance en comprenant comment et pour quelles raisons elle prend ses décisions.

L'interprétabilité est la mesure dans laquelle un observateur peut comprendre la cause d'une décision. Il s'agit du taux de réussite que les humains peuvent prédire pour les résultats d'une IA, tandis que l'explicabilité va plus loin et examine la manière dont l'IA est parvenue aux résultats.

L'IA explicable et l'IA responsable suivent des objectifs similaires, mais avec une approche différente. Voici les grandes différences entre l'IA explicable et l'IA responsable :

• L'IA explicable examine les résultats de l'IA après leur calcul.
• L'IA responsable s'intéresse à l'IA pendant les phases de planification afin de rendre son algorithme responsable avant que les résultats ne soient calculés.
• L'IA explicable et l'IA responsable peuvent œuvrer de concert pour améliorer l'IA.

L'IA explicable permet de revoir et d'améliorer les performances des modèles tout en aidant les parties prenantes à comprendre les comportements de l'IA.Une étude comportementale des modèles par le suivi des informations sur l'équité, la qualité, la dérive et l'état du déploiement est indispensable pour développer l'IA à grande échelle.

L'évaluation continue des modèles permet de comparer leurs prédictions, de quantifier les risques et d'optimiser leurs performances : un processus qui peut être accéléré en affichant des valeurs positives et négatives sur les comportements des modèles avec les données qui génèrent l'explication.Une plateforme pour les données et l'IA peut générer des attributions de fonctionnalité pour les prédictions des modèles et permettre aux équipes d'étudier visuellement le comportement des modèles à l'aide de graphiques interactifs et de documents exportables.

Considérez ce qui suit pour obtenir les meilleurs résultats avec l'IA explicable.

Équité et débiaisage : gérez et contrôlez l’équité. Examinez votre déploiement pour y déceler d’éventuels préjugés.

Atténuation de la dérive : analysez votre modèle et faites des recommandations basées sur le résultat le plus logique. Signalez les modèles qui s’écartent des résultats escomptés.

Gestion des risques : quantifiez et atténuez le risque de modèle. Mettez en place des alertes lorsqu’un modèle n’est pas performant. Cherchez à comprendre ce qui s’est passé lorsque les écarts persistent.

Automatisation du cycle de vie : créez, exécutez et gérez vos modèles dans le cadre de services de données et d’IA intégrés. Unifiez les outils et les processus dans une même plateforme pour contrôler les modèles et partager les résultats. Expliquez les dépendances des modèles de machine learning.

Compatibilité multicloud : déployez des projets d’IA dans des clouds hybrides publics, privés et sur site. Renforcez la confiance grâce à une IA explicable.

• Santé : accélérer les diagnostics, l'analyse d'images, l'optimisation des ressources et le diagnostic médical. Améliorer la transparence et la traçabilité dans la prise de décision pour les soins aux patients. Rationaliser le processus d'approbation des produits pharmaceutiques grâce à l'IA explicable.

• Services financiers : améliorer l'expérience utilisateur grâce à un processus d'approbation des prêts et des crédits transparent. Accélérer l'évaluation du risque de crédit, de la gestion de patrimoine et des risques de criminalité financière. Accélérer la résolution des réclamations et des problèmes potentiels. Accroître la confiance dans la tarification, les recommandations produit et les services d'investissement.

• Justice pénale : optimiser les processus de prédiction et d’évaluation des risques. Accélérer les résolutions en utilisant l’IA explicable pour l’analyse de l’ADN, l’analyse de la population carcérale et les prévisions criminelles. Détecter les biais potentiels dans les données d’entraînement et les algorithmes.