Wie generative KI die Angriffsfläche für Insider-Bedrohungen erweitert

Mit der zunehmenden Verbreitung von generativer KI (GenAI) steigt auch das Risiko von Insider-Bedrohungen. Das erhöht den Druck auf Unternehmen, Sicherheits- und Vertraulichkeitsrichtlinien zu überdenken.

In nur wenigen Jahren hat künstliche Intelligenz (KI) die Arbeitswelt radikal verändert. 61 % der Wissensarbeiter nutzen generative KI-Tools – insbesondere ChatGPT von OpenAI – in ihrem Arbeitsalltag. Gleichzeitig investieren Unternehmensführer, oft auch aus Angst, etwas zu verpassen, Milliarden in Tools, die auf generativer KI basieren. Sie investieren nicht nur in Chatbots, sondern auch in Bildsynthesizer, Sprachklon-Software und sogar Deepfake-Videotechnologie zur Erstellung virtueller Avatare.

Bis die generative KI von Menschen nicht mehr zu unterscheiden ist, ist es noch ein weiter Weg. Selbst wenn – oder vielleicht gerade dann – das tatsächlich passiert, werden die damit verbundenen ethischen und Cyberrisiken weiter zunehmen. Denn wenn es unmöglich wird zu sagen, ob jemand oder etwas real ist oder nicht, steigt das Risiko, dass Menschen unwissentlich von Maschinen manipuliert werden.

Ein Großteil der Diskussion über Sicherheit in der Ära der generativen KI betrifft deren Auswirkungen auf Social Engineering und andere externe Bedrohungen. Aber Infosec-Profis dürfen nicht übersehen, wie die Technologie auch die Angriffsfläche von Insider-Bedrohungen erheblich erweitern kann.

Angesichts des übereilten Einsatzes von generativen KI-Tools sind bereits viele Unternehmen in Schwierigkeiten geraten. Erst im letzten Jahr soll Samsung die Nutzung von generativen KI-Tools am Arbeitsplatz verboten haben, nachdem Mitarbeiter verdächtigt wurden, sensible Daten in Gesprächen mit OpenAIs ChatGPT geteilt zu haben.

Standardmäßig speichert und archiviert OpenAI alle Gespräche, potenziell für das Training zukünftiger Generationen des großen Sprachmodells (LLM). Aus diesem Grund könnten sensible Informationen, wie z. B. Firmengeheimnisse, später als Reaktion auf einen Benutzer-Prompt wieder auftauchen. Im Dezember testeten Forscher die Anfälligkeit von ChatGPT für Datenlecks, als sie eine einfache Technik entdeckten, um die Trainingsdaten des LLM zu extrahieren (PDF) und damit das Konzept zu beweisen. OpenAI hat diese Sicherheitslücke möglicherweise inzwischen behoben, aber es ist unwahrscheinlich, dass dies die letzte sein wird.

Angesichts des schnell zunehmenden unautorisierten Einsatzes von generativer KI muss die IT-Abteilung eingreifen, um das richtige Gleichgewicht zwischen Innovation und Cyberrisiko zu finden. Sicherheitsteams kennen den Begriff Schatten-IT vielleicht bereits, aber die neue Bedrohung ist Schatten-KI oder der Einsatz von KI außerhalb der Governance des Unternehmens. Um das zu verhindern, müssen IT-Teams ihre Richtlinien überdenken und alle möglichen Schritte unternehmen, um den verantwortungsvollen Einsatz dieser Tools zu stärken.

Eine naheliegende Möglichkeit, diesen Bedrohungen zu begegnen, wäre die Entwicklung einer proprietären KI-Lösung, die auf den jeweiligen geschäftlichen Anwendungsfall zugeschnitten ist. Unternehmen können ein Modell von Grund auf neu entwickeln oder, wahrscheinlicher, mit einem Open-Source Foundation Model beginnen. Beide Optionen sind nicht ohne Risiko. Während die Risiken bei Open-Source-Modellen tendenziell höher sind, sind die Risiken bei proprietären KI-Systemen etwas differenzierter – und nicht weniger gravierend.

Da KI-gestützte Funktionen in Softwareanwendungen von Unternehmen immer mehr an Bedeutung gewinnen, werden sie auch zu einem attraktiveren Ziel für böswillige Akteure – einschließlich interner Akteure. Datenvergiftung, bei der Angreifer die Daten manipulieren, die zum Trainieren von KI-Modellen verwendet werden, ist ein solches Beispiel. Insider-Bedrohungen sind ebenfalls real, vor allem, wenn die fraglichen Daten im gesamten Unternehmen allgemein zugänglich sind, wie es oft bei Kundenservice-Chats, Produktbeschreibungen oder Markenrichtlinien der Fall ist. Wenn Sie solche Daten verwenden, um ein proprietäres KI-Modell zu trainieren, müssen Sie sicherstellen, dass dessen Integrität weder absichtlich noch unabsichtlich kompromittiert wurde.

Böswillige Insider mit Zugang zu proprietären KI-Modellen könnten ebenfalls versuchen, diese rückzuentwickeln. Zum Beispiel könnte jemand mit Insiderwissen in der Lage sein, Überprüfungsprotokolle zu umgehen, da proprietäre Systeme oft über benutzerdefinierte Logging- und Überwachungslösungen verfügen, die möglicherweise nicht so sicher sind wie ihre Mainstream-Gegenstücke.

Die Ausnutzung von Modellschwachstellen stellt ein ernstes Risiko dar. Während Open-Source-Modelle durch die Beteiligung der Community schnell gepatcht werden können, lässt sich das Gleiche nicht über die versteckten Mängel eines proprietären Modells sagen. Um diese Risiken zu minimieren, ist es wichtig, dass IT-Führungskräfte ihre Lieferketten für KI-Software sichern. Transparenz und Aufsicht sind die einzigen Möglichkeiten, um sicherzustellen, dass Innovationen im Bereich KI kein unannehmbares Risiko für Ihr Unternehmen darstellen.