So etablieren Sie sichere KI-Geschäftsmodelle

Die Akzeptanz von KI in Unternehmen hat sich in den letzten fünf Jahren verdoppelt. Heute sagen CEOs, dass sie erheblichem Druck von Investoren, Gläubigern und Kreditgebern ausgesetzt sind, die Einführung von generativer KI zu beschleunigen. Dies liegt vor allem an der Erkenntnis, dass wir in Bezug auf den Reifegrad der KI eine neue Schwelle überschritten haben und der Gesellschaft als Ganzes ein neues, breiteres Spektrum an Möglichkeiten, Ergebnissen und Vorteilen bieten.

Viele Unternehmen zögern, voll auf KI zu setzen, da gewisse Unbekannte innerhalb dieser Technologie das inhärente Vertrauen untergraben. Und Sicherheit wird typischerweise als eine dieser Unbekannten betrachtet. Wie sichert man KI-Modelle? Wie kann sichergestellt werden, dass diese bahnbrechende Technologie vor Cyberangriffen geschützt ist, sei es in Form von Datendiebstahl, Manipulation und Datenlecks oder von Angriffen durch Umgehung, Vergiftung, Extraktion und Inferenz?

Der weltweite Wettlauf um die Vorherrschaft der KI – sei es bei Regierungen, Märkten oder Wirtschaftssektoren – hat den Druck und die Dringlichkeit erhöht, diese Frage zu beantworten. Die Herausforderung bei der Sicherung von KI-Modellen liegt nicht nur in der dynamischen Natur und dem Volumen der zugrunde liegenden Daten, sondern auch in der erweiterten „Angriffsfläche“, die KI-Modelle mit sich bringen: eine Angriffsfläche, die für alle neu ist. Einfach ausgedrückt: Um ein KI-Modell oder seine Ergebnisse für böswillige Zwecke zu manipulieren, gibt es viele potenzielle Angriffspunkte für Angreifer, von denen wir viele erst noch entdecken müssen.

Doch diese Herausforderung ist nicht unlösbar. Tatsächlich erleben wir die größte Crowdsourcing-Bewegung zur sicheren KI, die jemals eine Technologie ausgelöst hat. Die Biden-Harris-Administration, DHS CISA und die KI-Verordnung der Europäischen Union haben die Forschungs-, Entwickler- und Sicherheitsgemeinschaft mobilisiert, um gemeinsam die Sicherheit, den Datenschutz und die Einhaltung für KI voranzutreiben.

Es ist wichtig zu verstehen, dass die Sicherheit von KI umfassender ist als die Sicherung der KI selbst. Mit anderen Worten: Um KI zu sichern, sind wir nicht nur auf die Modelle und Daten beschränkt. Wir müssen auch den Unternehmensanwendungs-Stack, in den eine KI eingebettet ist, als Abwehrmechanismus betrachten, um den Schutz für KI darin zu erweitern. Ebenso müssen wir, da die Infrastruktur eines Unternehmens als Bedrohungsvektor fungieren kann, der Gegnern Zugang zu seinen KI-Modellen verschafft, sicherstellen, dass die gesamte Umgebung geschützt ist.

Um die verschiedenen Mittel zu verstehen, mit denen wir KI sichern müssen – die Daten, die Modelle, die Anwendungen und den gesamten Prozess – müssen wir uns nicht nur darüber im Klaren sein, wie KI funktioniert, sondern auch, wie sie in verschiedenen Umgebungen bereitgestellt wird.

Die Rolle der Hygiene eines Unternehmensanwendungs-Stacks

Die Infrastruktur eines Unternehmens ist die erste Verteidigungsschicht gegen Bedrohungen für KI-Modelle. Es ist wichtig, dass angemessene Sicherheits- und Datenschutzkontrollen in die breitere IT-Infrastruktur rund um KI eingebettet werden. Dies ist ein Bereich, in dem die Branche bereits einen erheblichen Vorteil hat: Wir verfügen über das Know-how und die Erfahrung, die erforderlich sind, um optimale Standards für Sicherheit, Datenschutz und Compliance in den komplexen und verteilten Umgebungen von heute zu schaffen. Es ist wichtig, dass wir diese tägliche Aufgabe als Wegbereiter für sichere KI erkennen.

So ist zum Beispiel der sichere Zugriff auf Benutzer, Modelle und Daten von größter Bedeutung. Wir müssen die bestehenden Kontrollen nutzen und diese Praxis ausweiten, um Wege zu KI-Modellen zu sichern. In ähnlicher Weise schafft KI eine neue Dimension der Transparenz bei Unternehmensanwendungen, was erfordert, dass die Fähigkeiten zur Bedrohungserkennung und -abwehr auch auf KI-Anwendungen ausgeweitet werden.

Sicherheitsstandards – wie der Einsatz sicherer Übertragungsmethoden in der Lieferkette, die Einführung strenger Zugangskontrollen und des Schutzes der Infrastruktur sowie die Stärkung der Hygiene und Kontrolle von virtuellen Maschinen und Containern – sind der Schlüssel zur Verhinderung von Ausbeutung. Wenn wir unsere gesamte Sicherheitsstrategie für das Unternehmen betrachten, sollten wir dieselben Protokolle, Richtlinien, Hygienemaßnahmen und Standards auch in das KI-Profil des Unternehmens integrieren.

Verwendung und zugrunde liegende Trainingsdaten

Auch wenn die Anforderungen an das KI-Lebenszyklusmanagement noch nicht ganz klar sind, können Unternehmen die bestehenden Leitplanken nutzen, um den Weg der KI zu sichern. Transparenz und Erklärbarkeit sind beispielsweise unerlässlich, um Bias, Halluzinationen und Poisoning zu verhindern. Deshalb müssen KI-Anwender Protokolle erstellen, um die Workflows, Trainingsdaten und Outputs auf Genauigkeit und Leistung der Modelle zu überprüfen. Darüber hinaus sollten die Datenherkunft und der Aufbereitungsprozess dokumentiert werden, um Vertrauen und Transparenz zu gewährleisten. Dieser Kontext und diese Klarheit können dazu beitragen, Anomalien und Abweichungen in den Daten frühzeitig zu erkennen.

Sicherheit muss in allen Phasen der KI-Entwicklung und -Implementierung gewährleistet sein – dazu gehört auch die Durchsetzung von Datenschutz- und Sicherheitsmaßnahmen in den Phasen der Trainings- und Testdaten. Da KI-Modelle kontinuierlich aus den zugrunde liegenden Daten lernen, ist es wichtig, dieser Dynamik Rechnung zu tragen und potenzielle Risiken bei der Datengenauigkeit anzuerkennen sowie Test- und Validierungsschritte in den gesamten Datenlebenszyklus einzubauen. Techniken zur Verhinderung von Datenverlusten sind hier ebenfalls unerlässlich, um den Verlust von SPI, PII und regulierten Daten durch Prompt und APIs zu erkennen und zu verhindern.

Governance über den gesamten KI-Lebenszyklus

Die Sicherung von KI erfordert einen integrierten Ansatz für die Entwicklung, den Einsatz und die Steuerung von KI-Projekten. Das bedeutet, KI mit Governance, Transparenz und Ethik zu entwickeln, die den regulatorischen Anforderungen gerecht werden. Bei der Einführung von KI müssen Unternehmen die Richtlinien und Praktiken von Open-Source-Anbietern in Bezug auf ihre KI-Modelle und Trainingsdatensätze sowie den Reifegrad ihrer KI-Plattformen bewerten. Dabei sollte auch die Datennutzung und -speicherung berücksichtigt werden. Sie sollten genau wissen, wie, wo und wann die Daten verwendet werden, und die Datenspeicher begrenzen, um Datenschutzbedenken und Sicherheitsrisiken zu verringern. Darüber hinaus sollten die Beschaffungsteams einbezogen werden, um sicherzustellen, dass sie mit den aktuellen Datenschutz-, Sicherheits- und Compliance-Richtlinien des Unternehmens übereinstimmen, die als Grundlage für die Formulierung von KI-Richtlinien dienen sollten.

Die Sicherung des KI-Lebenszyklus umfasst die Erweiterung der aktuellen DevSecOps-Prozesse um ML – die Anwendung dieser Prozesse beim Erstellen von Integrations und beim bereitstellen von KI-Modellen und Anwendungen. Besonderes Augenmerk sollte auf den Umgang mit KI-Modellen und ihren Trainingsdaten gelegt werden: Das Training der KI vor der Bereitstellung und die kontinuierliche Verwaltung der Versionen sind ebenso wie das kontinuierliche Training für den Umgang mit der Integrität des Systems von entscheidender Bedeutung. Es ist auch wichtig, Prompts und Personen zu überwachen, die auf die KI-Modelle zugreifen.

Dies ist keinesfalls ein umfassender Leitfaden zur Absicherung von KI, sondern vielmehr eine Richtigstellung von Missverständnissen im Zusammenhang mit der Absicherung von KI. Die Realität ist, dass uns bereits umfangreiche Werkzeuge, Protokolle und Strategien für die sichere Bereitstellung von KI zur Verfügung stehen.

Mit der zunehmenden Einführung von KI und der Weiterentwicklung von Innovationen werden auch die Sicherheitsrichtlinien ausgereift, wie es bei jeder Technologie der Fall ist, die im Laufe der Jahre in die Struktur eines Unternehmens eingebettet wurde. Im Folgenden stellen wir einige Best Practices von IBM vor, die Unternehmen bei der sicheren Bereitstellung von KI in ihren Umgebungen unterstützen sollen:

1. Nutzen Sie vertrauenswürdige KI, indem Sie die Richtlinien und Praktiken der Anbieter auswerten.
2. Ermöglichen Sie den sicheren Zugriff auf Benutzer, Modelle und Daten.
3. Schützen Sie KI-Modelle, -Daten und -Infrastruktur vor feindlichen Angriffen.
4. Implementieren Sie den Datenschutz in den Trainings-, Test- und Betriebsphasen.
5. Integrieren Sie Bedrohungsmodellierungen und sichere Codierungspraktiken in den KI-Entwicklungszyklus.
6. Erkennen Sie Bedrohungen und reagieren Sie auf KI-Anwendungen und -Infrastrukturen.
7. Bewerten und bestimmen Sie den KI-Fortschritt mithilfe des KI-Frameworks von IBM.