Fonction appelant le risque d'hallucination pour l'IA
Descriptif
Les agents d'IA peuvent commettre des erreurs lorsqu'ils génèrent des appels de fonction (appels à des outils pour exécuter des actions). Ces appels de fonction peuvent entraîner des actions incorrectes, inutiles ou nuisibles. Exemples : Génération de fonctions erronées ou de paramètres erronés pour les fonctions.
Pourquoi l'hallucination de l'appel de fonction est-elle une préoccupation pour les modèles de fondation?
Les hallucinations lors de la génération d'appels de fonction peuvent entraîner l'exécution d'actions erronées ou redondantes. En fonction des actions entreprises, les agents d'IA peuvent causer des préjudices à leurs propriétaires et à leurs utilisateurs.
Sujet parent : Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse afin d'expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait de s'y référer peut aider le lecteur à comprendre les risques potentiels et à travailler à leur atténuation. La mise en évidence de ces exemples n'a qu'un but illustratif.