Partage d'informations IP/PI/confidentielles avec risque pour l'utilisateur dans le cadre de l'IA
Descriptif
Les agents d'IA ayant un accès illimité aux ressources, aux bases de données ou aux outils pourraient potentiellement stocker et partager des informations PI/IP/confidentielles avec les utilisateurs du système lors de l'exécution de leurs actions.
Pourquoi le partage d'informations ip/pi/confidentielles avec l'utilisateur est-il une préoccupation pour les modèles de fondation?
Les agents d'IA peuvent partager des informations privilégiées avec les utilisateurs. Le fait de partager ces informations peut porter préjudice au propriétaire du modèle, à l'utilisateur ou à d'autres personnes. Le préjudice peut varier en fonction du type et des détails de l'information partagée. En l'absence d'une surveillance adéquate, ces incidents liés à la protection de la vie privée risquent d'accaparer les ressources de l'entreprise.
Sujet parent : Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse afin d'expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.