Partage d'informations IP/PI/confidentielles avec des outils à risque pour l'IA
Descriptif
Les agents d'IA ayant un accès illimité aux ressources, aux bases de données ou aux outils pourraient potentiellement stocker et partager des informations PI/IP/confidentielles avec d'autres outils ou agents lors de l'exécution de leurs actions.
Pourquoi le partage d'informations ip/pi/confidentielles avec des outils est-il une préoccupation pour les modèles de fondation?
Les agents d'IA peuvent partager des informations privilégiées avec d'autres outils/agents. Le fait de partager ces informations peut porter préjudice au propriétaire du modèle, à l'utilisateur ou à d'autres personnes. Le préjudice peut varier en fonction du type et des détails de l'information partagée. En l'absence d'une surveillance adéquate, ces incidents liés à la protection de la vie privée risquent d'accaparer les ressources de l'entreprise.
Sujet parent : Atlas des risques liés à l'IA
Nous fournissons des exemples couverts par la presse afin d'expliquer de nombreux risques liés aux modèles de fondation. Nombre de ces événements couverts par la presse sont encore en cours ou ont été résolus, et le fait d'y faire référence peut aider le lecteur à comprendre les risques potentiels et à s'efforcer de les atténuer. La mise en évidence de ces exemples n'a qu'un but illustratif.