Risque de génération de code préjudiciable pour l'intelligence artificielle
Descriptif
Les modèles peuvent générer du code qui cause des dommages ou affecte involontairement d'autres systèmes.
Pourquoi la génération de code nuisible est-elle une préoccupation pour les modèles de base?
L'exécution de code nuisible peut ouvrir des vulnérabilités dans les systèmes informatiques.
Génération de code moins sécurisé
Selon leur article, des chercheurs de l'Université de Stanford ont étudié l'impact des outils de génération de code sur la qualité du code et ont constaté que les programmeurs ont tendance à inclure plus de bogues dans leur code final lorsqu'ils utilisent des assistants d'IA. Ces bogues peuvent augmenter les vulnérabilités de sécurité du code, mais les programmeurs pensent que leur code est plus sécurisé.
Sujet parent : Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse pour vous aider à expliquer les risques de nombreux modèles de base. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples est fournie à des fins d'illustration uniquement.