Risque d'évaluation incomplète de l'agent d'IA pour l'IA
Descriptif
L'évaluation des performances ou de la précision d'un agent est difficile en raison de la complexité du système et de son caractère évolutif.
Pourquoi l'évaluation incomplète des agents aériens est-elle un problème pour les modèles de fondation?
Une évaluation insuffisante des performances ou de la précision d'un agent peut conduire à l'utilisation d'agents qui ne répondent pas aux attentes. Un comportement incorrect de l'agent peut nuire aux utilisateurs de l'agent ou à d'autres personnes.
Sujet parent : Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse afin d'expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.