Quels critères pour une intelligence artificielle de confiance ?

Share this post:

L’intelligence artificielle est capable d’effectuer des traitements à large échelle, tout en s’affranchissant des biais cognitifs propres aux opérateurs humains. À condition toutefois qu’elle respecte certains principes de base qui vont en garantir l’éthique… 

La Commission européenne travaille sur un cadre juridique autour de l’intelligence artificielle (IA). Un texte très attendu par les entreprises, qui pourront ainsi déployer des systèmes d’IA dans le respect des règles de l’art, et dont les caractéristiques éthiques favoriseront l’adhésion du public.  

Sur ce cadre juridique de l’IA, Yves Nicolas, Deputy Group CTO, Sopra Steria explique : « C’est la première véritable tentative de réglementer le marché de l’IA. Ce texte extrêmement précis classifie les usages de l’intelligence artificielle selon quatre catégories : ce qui est interdit, comme la reconnaissance faciale appliquée à une foule de personnes ; ce qui est permis, mais nécessitera une attestation de conformité, par exemple une IA permettant d’automatiser l’attribution de prestations sociales ; les usages qui s’accompagnent d’une obligation d’information et de transparence, en avertissant par exemple les utilisateurs de la présence d’un système d’évaluation des sentiments ; et le reste, qui pourra être mis en place sans restriction ». 

Ce texte espère surfer sur le succès du RGPD pour imposer un corpus de bonnes pratiques au monde de l’IA. Un sujet clé pour les entreprises, qui sont de plus en plus nombreuses à se soucier de la problématique de l’IA de confiance : selon une récente étude IBM, elles seraient ainsi 89% à se pencher sur ce sujet, contre seulement 10% il y a quatre ans. 

Les 7 piliers d’une IA de confiance 

IBM a identifié les sept caractéristiques clés d’une IA de confiance : 

• L’équité, l’IA ne devant pas faire preuve de discrimination ;
• L’explicabilité, nécessaire pour éclaircir la teneur des traitements effectués ;
• La transparence sur le cycle de vie du modèle de machine learning employé ;
• La robustesse et la sécurité des systèmes mis en œuvre ;
• La bienveillance, l’IA ne devant pas avoir de répercussion négative sur l’Humain ;
• La confidentialité, avec un respect strict de la vie privée ;
• Une certaine forme de responsabilité, qui sera source de confiance.

IBM répond à ces différentes problématiques en fournissant un outillage qui permet d’atténuer les biais dans les traitements effectués, tout en amenant de l’explicabilité, de la sécurité et de la traçabilité dans les modèles utilisés. 

« La réponse ne peut toutefois pas qu’être technique », précise Guillaume Leroy-Meline, Business Transformation Services CTO, IBM Consulting. « Il faut également faire remonter ces grands principes dans l’organisation. Le rôle des équipes métiers sera par exemple essentiel pour déterminer si l’IA développée est susceptible d’avoir un impact négatif sur certaines catégories de personnes ».  

La mise en place d’une IA de confiance ne saurait donc se baser seulement sur des critères techniques. Il faudra également prendre en considération des aspects métiers et – plus globalement – éthiques. 

Savoir industrialiser les IA de confiance 

« Dans une logique de déploiement de l’IA à l’échelle industrielle, la mise en œuvre de ces critères de confiance n’est pas si simple », nous dit Yves Nicolas. « Il faut avoir une vision complète du cycle de vie de l’IA, mais aussi de l’ensemble de la chaîne numérique dans laquelle elle s’inscrit : mon jeu de données est-il ou non biaisé ? Quel degré de confiance accorder à l’algorithme utilisé ? Mon modèle est-il en train de dévier ou non ? Les nouveaux aspects réglementaires sont-ils bien pris en compte ? ». 

Cette prise de recul est essentielle pour garantir la qualité d’une solution basée sur l’IA, en particulier dans des systèmes critiques soumis à de fortes contraintes. « Nous pourrions imaginer le cas d’usage d’un système prenant en photo une chaîne de montage, afin d’évaluer la qualité d’une soudure fraîchement réalisée. Que se passerait-il si l’appareil photo se déréglait et se mettait à prendre des photos floues ou incorrectement exposées ? Nous voyons ici l’importance de la qualité de la donnée remontée dans l’IA. Il sera impossible de déployer une IA en milieu industriel sans avoir au préalable su répondre à ce type de problématique ». 

C’est avec cet objectif d’aider à « concevoir et industrialiser des systèmes à base d’intelligence artificielle de confiance » que Sopra Steria a rejoint en juillet 2021 le collectif Confiance.ia, aux côtés de grands groupes industriels, ainsi que d’acteurs de la recherche et du monde IT. Une initiative qui devrait participer à bâtir un socle technique solide, adapté au futur texte européen. 

Pour en savoir plus, téléchargez l’étude «L’IA de confiance» en action !