Die Risiken und Grenzen von KI in der Versicherungsbranche

Künstliche Intelligenz (KI) polarisiert. Sie begeistert den Futuristen und ruft beim Konservativen Besorgnis hervor. In meinem vorherigen Beitrag beschrieb ich die unterschiedlichen Funktionen sowohl diskriminierender als auch generativer KI und skizzierte eine Welt voller Möglichkeiten, in der KI die Art und Weise verändert, wie Versicherer und Versicherte miteinander interagieren würden. Dieser Blog setzt die Diskussion fort und untersucht nun die Risiken der Einführung von KI. Außerdem werden Maßnahmen für einen sicheren und umsichtigen Umgang mit KI vorgeschlagen.

Die mit der Einführung von KI in der Versicherungswirtschaft verbundenen Risiken lassen sich grob in zwei Kategorien unterteilen – technologische und Nutzungsrisiken.

Technologisches Risiko – Vertraulichkeit der Daten

Das größte technologische Risiko ist die Frage der Vertraulichkeit der Daten. Die Entwicklung von KI hat die Erfassung, den Speicher und die Verarbeitung von Informationen in einem noch nie dagewesenen Umfang ermöglicht und es dadurch extrem einfach gemacht, personenbezogene Daten zu geringen Kosten ohne die Zustimmung anderer zu identifizieren, zu analysieren und zu nutzen. Das Risiko des Verlusts der Privatsphäre durch die Interaktion mit KI-Technologien ist eine der Hauptursachen für die Sorge und das Misstrauen der Verbraucher.

Das Aufkommen generativer KI, bei der die KI Ihre Daten manipuliert, um neue Inhalte zu erstellen, birgt ein zusätzliches Risiko für die Vertraulichkeit von Unternehmensdaten. Zum Beispiel würde das Einspeisen eines generativen KI-Systems wie Chat GPT mit Unternehmensdaten zur Erstellung einer Zusammenfassung vertraulicher Unternehmensforschung bedeuten, dass ein Speicherbedarf unauslöschlich auf dem externen Cloud-Server der KI zurückbleibt und für Anfragen von Wettbewerbern zugänglich ist.

Technologisches Risiko – Sicherheit

KI-Algorithmen sind die Parameter, die die Trainingsdaten optimieren und der KI die Fähigkeit verleihen, Erkenntnisse zu gewinnen. Sollten die Parameter eines Algorithmus durchsickern, kann ein Dritter das Modell möglicherweise kopieren, was für den Eigentümer des Modells zu einem wirtschaftlichen und geistigen Eigentumsverlust führt. Sollten zudem die Parameter des KI-Algorithmusmodells von einem Cyber-Angreifer illegal verändert werden, wird dies die Leistung des KI-Modells beeinträchtigen und zu unerwünschten Konsequenzen führen.

Technologisches Risiko – Transparenz

Die Blackbox-Eigenschaft von KI-Systemen, insbesondere von generativer KI, macht den Entscheidungsprozess von KI-Algorithmen schwer zu verstehen. Entscheidend ist, dass der Versicherungssektor eine finanziell regulierte Branche ist, in der die Transparenz, Erklärbarkeit und Überprüfbarkeit von Algorithmen für die Regulierungsbehörde von zentraler Bedeutung ist.

Nutzungsrisiko – Ungenauigkeit

Die Leistung eines KI-Systems hängt stark von den Daten ab, aus denen es lernt. Wenn ein KI-System auf ungenauen, voreingenommenen oder plagiierten Daten trainiert wird, wird es unerwünschte Ergebnisse liefern, selbst wenn es technisch gut konzipiert ist.

Nutzungsrisiko – Missbrauch

Auch wenn ein KI-System bei der Analyse, Entscheidungsfindung, Koordination und anderen Aktivitäten korrekt funktioniert, besteht immer noch das Risiko des Missbrauchs. Der Verwendungszweck, die Verwendungsmethode, der Verwendungsbereich und so weiter könnten pervertiert oder abgewandelt werden, um negative Auswirkungen zu verursachen. Ein Beispiel hierfür ist die Verwendung von Gesichtserkennung zur illegalen Verfolgung der Bewegungen von Personen.

Nutzungsrisiko – übermäßige Abhängigkeit

Eine übermäßige Abhängigkeit von KI entsteht, wenn Nutzer anfangen, falsche KI-Empfehlungen zu akzeptieren – und damit bewusste Fehler begehen. Benutzer haben Schwierigkeiten, ein angemessenes Vertrauensniveau zu bestimmen, da sie kein Bewusstsein dafür haben, was die KI kann, wie gut sie funktioniert oder wie sie funktioniert. Eine Begleiterscheinung dieses Risikos ist die schwächere Entwicklung der Fähigkeiten des KI-Benutzers. Zum Beispiel ein Schadenregulierer, dessen Fähigkeit, mit neuen Situationen umzugehen oder mehrere Perspektiven zu berücksichtigen, sich verschlechtert oder auf Fälle beschränkt, zu denen auch die KI Zugang hat.

Die Risiken, die mit der Einführung von KI einhergehen, unterstreichen die Notwendigkeit, einen Governance-Ansatz zu entwickeln, um die technischen Risiken und Nutzungsrisiken zu minimieren, die sich aus der Einführung von KI ergeben.

Menschzentrierte Governance

Um das Nutzungsrisiko zu minimieren, wird ein dreiteiliger Ansatz vorgeschlagen:

1. Beginnen Sie mit einem Schulungsprogramm, um bei den Mitarbeitern, die an der Entwicklung, Auswahl oder Nutzung von KI-Tools beteiligt sind, ein verpflichtendes Bewusstsein zu schaffen und die Einhaltung der Erwartungen sicherzustellen.
2. Führen Sie dann eine Lieferantenbewertung durch, um die Robustheit der Lieferantenkontrollen zu bewerten und eine angemessene, in den Verträgen kodifizierte Transparenz sicherzustellen.
3. Legen Sie abschließend Maßnahmen zur Durchsetzung von Richtlinien fest, um die Normen, Rollen und Verantwortlichkeiten, Genehmigungsprozesse und Wartung für den gesamten Lebenszyklus der KI-Entwicklung festzulegen.

Technologiezentrierte Governance

Um das technologische Risiko zu mindern, sollte die IT-Governance um folgende Aspekte erweitert werden:

1. Eine erweiterte Daten- und Systemtaxonomie. So stellen Sie sicher, dass das KI-Modell die Dateneingaben und Nutzungsmuster, die erforderlichen Validierungen und Testzyklen sowie die erwarteten Ergebnisse erfasst. Sie sollten das Modell auf internen Servern hosten.
2. Ein Risikoregister, um das Ausmaß der Auswirkungen, den Grad der Anfälligkeit und den Umfang der Überwachungsprotokolle zu quantifizieren.
3. Eine erweiterte Analyse- und Teststrategie zur regelmäßigen Durchführung von Tests zur Überwachung von Risikoproblemen im Zusammenhang mit Eingaben, Ausgaben und Modellkomponenten von KI-Systemen.

Das Potenzial der KI im Versicherungswesen liegt in ihrer Fähigkeit, neue Erkenntnisse aus immer größeren und komplexeren versicherungsmathematischen und Schadensdatensätzen abzuleiten. Diese Datensätze in Kombination mit Verhaltens- und ökologischen Daten bieten KI-Systemen bei der Abfrage von Datenbanken das Potenzial, fehlerhafte Datenschlussfolgerungen zu ziehen, die auf reale Versicherungsfolgen hinweisen.

Effiziente und präzise KI erfordert sorgfältige Datenanalyse. Sie erfordert eine sorgfältige Kuratierung von Wissensrepräsentationen in Datenbanken, die Zerlegung von Datenmatrizen zur Reduzierung der Dimensionalität sowie die Vorverarbeitung von Datensätzen, um die störenden Effekte fehlender, redundanter und Ausreißerdaten abzumildern. KI-Nutzer im Versicherungswesen müssen sich bewusst sein, dass Einschränkungen der Eingabedatenqualität Auswirkungen auf Versicherungen haben und möglicherweise die Genauigkeit versicherungsmathematischer Analysemodelle verringern. 

Da die KI-Technologien immer ausgereifter werden und sich die Anwendungsfälle erweitern, sollten Versicherer nicht vor der Technologie zurückschrecken. Aber die Versicherer sollten ihr Fachwissen im Versicherungsbereich in die Entwicklung von KI-Technologien einbringen. Ihre Fähigkeit, die Herkunft der Eingabedaten zu informieren und die Datenqualität sicherzustellen, trägt zu einer sicheren und kontrollierten Anwendung von KI in der Versicherungsbranche bei.

Während Sie sich auf Ihre Reise zur KI im Versicherungswesen begeben, erkunden und erstellen Sie Versicherungsfälle. Führen Sie vor allem ein robustes KI-Governance-Programm ein.