Qu’est-ce que les hallucinations d’IA ?

En règle générale, si un utilisateur fait une demande à un outil d’IA générative, il souhaite un résultat qui répond de manière appropriée à la demande (c’est-à-dire une réponse correcte à une question). Cependant, il arrive que les algorithmes d’IA produisent des résultats qui ne sont pas basées sur des données d’apprentissage, sont mal décodées par le transformer ou ne suivent aucun modèle identifiable. En d’autres termes, il « hallucine » la réponse.

Le terme peut paraître paradoxal, étant donné que les hallucinations sont généralement associées au cerveau humain ou animal, et non à celui des machines. Mais d’un point de vue métaphorique, l’hallucination décrit avec précision ces résultats, en particulier dans le cas de la reconnaissance d’images et de formes (où les résultats peuvent être véritablement surréalistes en apparence).

Les hallucinations associées à l’IA sont similaires à la façon dont les humains voient parfois des chiffres dans les nuages ou des visages sur la surface de la lune. Dans le cas de l’IA, ces erreurs d’interprétation sont dues à divers facteurs, notamment le surajustement, le biais/inexactitude des données d’entraînement et la complexité élevée du modèle.

Prévenir les problèmes liés aux technologies génératives et open source peut s’avérer difficile. Voici quelques exemples notables d’hallucination d’IA :

• Le chatbot Bard de Google a affirmé à tort que le télescope spatial James Webb avait capturé les premières images au monde d’une planète en dehors de notre système solaire.¹
   

• L’IA du chat de Microsoft, Sydney, avoue être tombée amoureuse des utilisateurs et avoir espionné des employés de Bing.²
  

• Meta a retiré sa démo de Galactica LLM en 2022, après avoir fourni aux utilisateurs des informations inexactes, parfois fondées sur des préjugés.³ 

Bien que bon nombre de ces problèmes aient depuis été abordés et résolus, il est facile de comprendre comment, même dans les meilleures circonstances, l’utilisation d’outils d’IA peut avoir des conséquences imprévues et indésirables.

L’hallucination d’IA peut avoir des conséquences importantes pour les applications du monde réel. Par exemple, un modèle d’IA destiné aux soins de santé peut identifier à tort une avec l’un ou l’autre, ce qui implique des interventions médicales inutiles. Les problèmes d’hallucination de l’IA peuvent également contribuer à la diffusion de données erronées. Si, par exemple, des bots hallucinants répondent à des questions sur une urgence en cours avec des informations qui n’ont pas été vérifiées, ils peuvent rapidement diffuser des fausses alertes qui nuisent aux efforts d’atténuation. Le biais d’entrée constitue l’une des principales sources d’hallucination dans les algorithmes de machine learning. Si un modèle d’IA est entraîné sur un jeu de données comprenant des données biaisées ou non représentatives, il peut halluciner des modèles ou des caractéristiques qui reflètent ces biais.

Les modèles d’IA peuvent également être vulnérables aux attaques adverses, dans lesquelles de mauvais acteurs manipulent les résultats d’un modèle IA en modifiant subtilement les données d’entrée. Dans les tâches de reconnaissance d’images, par exemple, une attaque adverse peut consister à ajouter une petite quantité de bruit spécialement conçu à une image, ce qui amène l’IA à la classer de manière erronée. Cela peut devenir un problème de sécurité important, en particulier dans des domaines sensibles tels que la cybersécurité et les technologies des véhicules autonomes. Les chercheurs en IA développent constamment des garde-fous pour protéger les outils d’IA contre les attaques. Des techniques telles que l’entraînement contradictoire, qui consiste à entraîner le modèle sur un mélange d’exemples normaux et contradictoires, posent des problèmes de sécurité. Cependant, la vigilance est primordiale lors des phases d’entraînement et de vérification des faits.

Le meilleur moyen d’atténuer l’impact des hallucinations d’IA est de les stopper avant qu’elles ne soient effectives. Voici quelques mesures à prendre pour assurer le bon fonctionnement de vos modèles IA :

Les modèles d’IA générative s’appuient sur des données d’entrée pour accomplir des tâches, de sorte que la qualité et la pertinence des jeux de données d’entraînement dicteront le comportement du modèle et la qualité de ses sorties. Afin d’éviter les hallucinations, assurez-vous que les modèles IA sont entraînés sur des données diversifiées, équilibrées et bien structurées. Cela permettra à votre modèle de minimiser les biais de sortie, de mieux comprendre ses tâches et de produire des résultats plus efficaces.

Le fait de décrire de manière détaillée comment vous allez utiliser le modèle IA, ainsi que les limites relatives à son utilisation, contribuera à réduire les hallucinations. Votre équipe ou votre organisation doit établir les responsabilités et les limites du système d’IA choisi. Le système sera ainsi plus efficace et minimisera les résultats « hallucinants » et non pertinents.

Les modèles de données fournissent aux équipes un format prédéfini, ce qui augmente la probabilité qu’un modèle IA produise des résultats conformes aux directives prescrites. L’utilisation de modèles de données garantit la cohérence des résultats et réduit la probabilité que le modèle produise des résultats erronés.

Les modèles IA génèrent souvent des hallucinations, car ils n’ont pas de contraintes qui limitent les résultats possibles. Pour éviter ce problème et améliorer la cohérence globale et l’exactitude des résultats, définissez les limites des modèles IA à l’aide d’outils de filtrage et/ou de seuils probabilistes clairs.

Pour éviter les hallucinations, il est essentiel de tester rigoureusement votre modèle IA avant de l’utiliser et de l’évaluer en permanence. Ces processus améliorent les performances globales du système et permettent aux utilisateurs d’ajuster et/ou de réentraîner le modèle au fur et à mesure que les données vieillissent et évoluent.

S’assurer qu’un être humain valide et examine les résultats de l’IA est une dernière mesure de protection contre les hallucinations. L’implication d’une supervision humaine garantit que, si l’IA a des hallucinations, un humain sera disponible pour les filtrer et les corriger. Un réviseur humain peut également offrir une expertise en la matière qui améliore sa capacité à évaluer le contenu de l’IA en termes d’exactitude et de pertinence par rapport à la tâche.

Bien que l’hallucination de l’IA soit certainement un résultat indésirable dans la plupart des cas, elle présente également une série de cas d’utilisation intuitifs qui peuvent aider les organisations à tirer parti de son potentiel créatif de manière positive. Voici quelques exemples :