Risiko der unbefugten Nutzung für AI

Zuverlässigkeit

Agentische KI-Risiken

Verstärkt durch agentenbasierte KI

Beschreibung

Unbefugte Nutzung: Wenn Angreifer Zugriff auf den KI-Agenten und seine Komponenten erhalten, können sie Aktionen durchführen, die je nach den Fähigkeiten des Agenten und den Informationen, auf die er Zugriff hat, unterschiedlich schwerwiegend sein können. Beispiele:

Verwendung gespeicherter personenbezogener Daten zur Nachahmung der Identität oder Nachahmung mit der Absicht der Täuschung.
Beeinflussung des Verhaltens des KI-Agenten durch Rückmeldung an den KI-Agenten oder Beeinflussung seines Speichers, um sein Verhalten zu ändern.
Manipulation der Problembeschreibung oder des Ziels, um den KI-Agenten dazu zu bringen, sich schlecht zu verhalten oder schädliche Befehle auszuführen.

Warum ist die unbefugte Nutzung ein Problem für Stiftungsmodelle?

Angreifer, die auf den Agenten zugreifen, können das Verhalten des KI-Agenten ändern und ihn dazu bringen, Aktionen auszuführen, die für den Angreifer vorteilhaft sind, z. B. die Ausführung von Aktionen, die zu einer Beeinträchtigung des Systems, zur Datenexfiltration, zur Erschöpfung der verfügbaren Ressourcen und zur Beeinträchtigung der Leistung führen. Die Handlungen der Angreifer können anderen Schaden zufügen.

Übergeordnetes Thema: AI-Risikoatlas

Anhand von Beispielen, über die in der Presse berichtet wurde, erläutern wir viele der Risiken der Stiftungsmodelle. Viele dieser Ereignisse, über die in der Presse berichtet wurde, sind entweder noch im Gange oder wurden bereits aufgeklärt, und ein Verweis darauf kann dem Leser helfen, die potenziellen Risiken zu verstehen und auf Abhilfemaßnahmen hinzuarbeiten. Die Hervorhebung dieser Beispiele dient lediglich der Veranschaulichung.