Des outils pour une IA digne de confiance

Un nouvel outil a été développé pour démasquer les étudiants qui trichent avec ChatGPT. Il est efficace à 99,9 %, mais OpenAI ne l’a pas publié pour des raisons d’éthique

Ce n’est qu’un exemple de l’un des principaux défis auxquels l’IA est confrontée. Comment pouvons-nous surveiller la technologie pour nous assurer qu’elle est utilisée de manière éthique ?

Ces dernières années, les plus grands noms de l’IA ont fait pression pour que leur technologie soit utilisée de manière responsable. Et utiliser l’IA de manière éthique n’est pas seulement la bonne chose pour les entreprises, c’est aussi ce que les consommateurs recherchent. En réalité, 86 % des entreprises estiment que les clients préfèrent celles qui appliquent des directives éthiques et qui sont claires sur la manière dont elles utilisent leurs données et leurs modèles d’IA, selon l’IBM Global AI Adoption Index.

« Nous ne nous contentons plus d’espérer que les entreprises soient conscientes de l’importance d’une utilisation éthique de l’IA, explique Phaedra Boinodiris, responsable mondiale de l’IA de confiance chez IBM. La question essentielle est la suivante : pourquoi est-il important que les entreprises et autres organisations soient tenues responsables des résultats sûrs et responsables obtenus grâce à l’IA qu’elles déploient ? » 

Les outils d’éthique de l’IA peuvent-ils être utiles ? Les outils sont-ils biaisés ? Voici un bref aperçu de récentes recherches sur le sujet.

Les tentatives de fraude par deepfake ont augmenté de 3 000 % entre 2022 et 2023, et elles sont de plus en plus élaborées. En février, un employé financier d’une multinationale de Hong Kong a été contraint de verser 25 millions de dollars à des criminels qui avaient créé une visioconférence avec plusieurs personnes fictives, dont le directeur financier de l’entreprise.

En mai, OpenAI a annoncé avoir mis à disposition des chercheurs spécialisés dans la désinformation son propre outil de détection des deepfakes. L’outil a pu repérer 98,8 % des images créées par DALL-E 3. OpenAI a également rejoint Google, Adobe et d’autres membres du comité directeur de la Coalition for Content Provenance and Authenticity (C2PA), une coalition sectorielle qui développe une norme pour certifier l’historique et la source des contenus médiatiques. 

En attendant que cette norme entre en vigueur, les entreprises conçoivent des outils qui, elles l’espèrent, combleront cette lacune. En août, McAfee a annoncé le lancement de son détecteur de deepfake McAfee. L’outil utilise des modèles de réseaux neuronaux profonds pour détecter de faux audio d’IA dans les vidéos diffusées dans votre navigateur. En 2022, Intel a lancé FakeCatcher, qui analyse le flux sanguin dans les pixels vidéo, séparant les humains des deepfakes avec un taux de précision de 96 %. Et ce ne sont pas les seuls outils. Parmi les start-ups notables du secteur figurent Reality Defender à New York, la start-up israélienne Clarity et Sentinel basée en Estonie, toutes disposant d’outils d’analyses utilisant l’IA pour repérer des motifs dans différents types de deepfakes.

La technologie de détection de deepfake évoluant très rapidement, il est important de garder à l’esprit les biais algorithmiques potentiels. L’informaticien et expert en deepfake Siwei Lyu et son équipe de l’université de Buffalo ont développé ce qu’ils considèrent comme les premiers algorithmes de détection de deepfake conçus pour minimiser les biais. Les chercheurs de l’UB ont réalisé un collage de photos des centaines de visages identifiés comme étant faux par leurs algorithmes de détection ; les résultats ont révélé un teint globalement plus foncé.

« Les deepfakes peuvent être utilisés pour attaquer des groupes minoritaires sous-représentés. Il est donc important de s’assurer que les technologies de détection ne les desserviront pas », explique Siwei Lyu. Qu’en est-il de l’avenir de la détection des deepfakes ? « Les technologies d’IA générative qui sous-tendent les deepfakes vont sans aucun doute continuer à se développer. Nous allons donc voir des deepfakes de plus en plus nombreux, de meilleure qualité et sous de nouvelles formes. Je pense que les futures technologies [de détection] seront équipées de davantage de barrières de sécurité afin de réduire les risques d’abus. »

Les systèmes de reconnaissance faciale sont de plus en plus répandus car ils constituent un moyen pratique d’authentifier l’identité d’un utilisateur, mais ils sont depuis longtemps confrontés à des problèmes éthiques, qu’il s’agisse de préjugés raciaux ou de confidentialité des données. Pour compliquer les choses, « certains biais sont [également] intersectionnels, aggravant de multiples niveaux de préjugés », note Helen Edwards, cofondatrice du groupe de réflexion Artificiality sur l’éthique de l’IA.

En mai, les données de la start-up australienne Outabox, spécialisée dans la reconnaissance faciale, ont fait l’objet d’une intrusion et les données biométriques de plus d’un million d’utilisateurs ont été divulguées. Au début de l’année, GoldPickAxe, un cheval de Troie destiné aux appareils Android et iOS, a été pris en flagrant délit de capture de données faciales pour s’introduire dans des comptes bancaires.

Une approche prometteuse de la protection des données biométriques faciales consiste à les brouiller d’une manière imperceptible à l’œil humain, mais qui déroute les systèmes de reconnaissance. Fawkes, un projet développé à l’université de Chicago, a été l’un des premiers outils de ce type. Tirant son nom du masque de Guy Fawkes, ce programme est conçu pour dissimuler les photos en modifiant subtilement les pixels. Il peut être téléchargé gratuitement sur le site web du projet.

Plus récemment, des chercheurs de l’USSLAB de l’université du Zhejiang ont lancé CamPro, qui vise à appliquer l’AFR au niveau du capteur de la caméra. CamPro produit des images qui réduisent l’identification faciale à 0,3 % sans interférer avec d’autres applications telles que la reconnaissance d’activité.

Les entreprises et les établissements d’enseignement continuent à repérer les écrits générés par l’IA. Lors d’un test à l’aveugle de l’université de Reading, cinq modules de psychologie différents ont fait l’objet d’examens écrits par ChatGPT avec des examens écrits par de vrais étudiants. L’étude menée en juin a révélé que 94 % des réponses à l’examen ChatGPT n’ont pas été repérées par les personnes qui ont corrigé les examens. Les examens générés par l’IA ont également obtenu en moyenne une demi-note de plus que ceux des étudiants.

Une variété de détecteurs d’écriture par IA ont inondé le marché pour résoudre ce problème, recherchant des caractéristiques communes de texte généré par l’IA, telles que la répétition et une grammaire parfaite. Toutefois, les experts préviennent qu’ils ne sont pas encore fiables et qu’ils font souvent preuve de biais.

L’année dernière, une étude de Stanford a révélé que les détecteurs d’IA signalaient en moyenne 61,3 % des textes rédigés par des personnes dont l’anglais n’est pas la langue maternelle, mais qu’ils commettaient beaucoup moins d’erreurs lorsqu’ils évaluaient des textes rédigés par des locuteurs natifs d’anglais.

Faire passer les écritures générées par l’IA comme les leurs n’est pas seulement malhonnête : il s’agit parfois aussi de plagiat, qui peut avoir de graves conséquences juridiques. C’est pourquoi certaines entreprises utilisent des détecteurs d’écriture par IA pour tester les textes de leurs rédacteurs. C’est ainsi que des entreprises ont accusé à tort des écrivains de faire passer des textes générés par l’IA pour les leurs, portant ainsi atteinte à la réputation et à la carrière de ces derniers.

Les jeux de données incluent souvent les biais inconscients des personnes qui les créent. C’est pourquoi le biais algorithmique est un problème persistant dans les LLM qui s’entraînent sur ces données.

Dans un exemple, des chercheurs de Cornell ont utilisé ChatGPT et Alpaca pour générer des lettres de recommandation pour des hommes et des femmes : les lettres ont montré des biais significatifs en faveur des hommes. Des formulations telles que « Kelly est une personne chaleureuse » par opposition à « Joseph est un modèle à suivre » ont démontré comment ces préjugés pouvaient affecter les femmes sur le lieu de travail.

Les chercheurs s’efforcent de trouver des moyens de signaler et d’atténuer les biais. Une équipe de l’université de l’Illinois Urbana-Champaign a développé QuaCer-B, qui génère des mesures de biais dans les LLM démontrables sur des prompts échantillonnés à partir de distributions données et peut être utilisé aussi bien pour des API que pour des LLM open source.

« Le secteur de l’IA s’appuie actuellement sur l’évaluation de la sécurité et de la fiabilité de ses modèles en les testant sur un petit ensemble d’entrées de référence, explique Gagandeep Singh, professeur à l’UIUC et l’un des principaux chercheurs ayant travaillé sur QuaCer-B. Cependant, la génération sûre sur des entrées de référence ne garantit pas que le contenu généré par le LLM sera éthique lors de la gestion de divers scénarios inédits dans le monde réel. QuaCer-B permet aux développeurs de LLM de prendre des décisions éclairées sur la pertinence de leurs modèles pour un déploiement dans le monde réel et d’identifier les causes des défaillances afin d’améliorer le modèle. »

À mesure que l’IA continue d’évoluer, de nouveaux problèmes éthiques continueront d’apparaître. Si les outils permettant de signaler, de surveiller et de prévenir les utilisations non éthiques de la technologie constituent un bon début, les experts en éthique de l’IA ne les considèrent pas comme une solution unique.

« Le plus dur n’est pas d’acheter le bon outil, ajoute Phaedra Boinodiris. La sélection responsable de l’IA est un défi sociotechnique qui nécessite une approche holistique. Et les personnes constituent la partie la plus difficile de l’équation. »

« Outre une réglementation et une application réfléchies, la clé d’une IA éthique réside dans l’audit post-commercialisation, le suivi continu des performances et la minimisation des risques, explique Gemma Galdón-Clavell, fondatrice d’Eticas.ai et conseillère auprès des Nations unies et de l’UE en matière d’éthique appliquée et d’IA responsable. « Prenez le secteur automobile : les feux d’avertissement et les capteurs de proximité peuvent aider les conducteurs à éviter les collisions, mais nous avons toujours besoin de ceintures de sécurité, d’airbags et de révisions régulières pour garantir que la route est la plus sûre possible. »