KPMG und IBM Watson meistern maschinelles Lernen

By | 2 minute read | August 10, 2021

Beim Einsatz von KI kann es allerdings ab einem gewissen Punkt Schwierigkeiten geben: Dann nämlich, wenn nicht mehr nachvollzogen werden kann, wie die vom Algorithmus ersonnenen Modelle tatsächlich entstanden oder maschinell getroffene automatische Entscheidungen zustande gekommen sind. In diesen Fällen zeigen Aufsichtsbehörden wie die FINMA oder die BaFin den so entstandenen Systemen gerne die rote Karte. Auch für Machine-Learning-Modelle der neuesten Generation gilt eine Dokumentationspflicht. Auf diese Weise haben Endkunden das „Recht auf Erklärung“ der über sie automatisch getroffenen Entscheidungen. Dies ist inzwischen sogar Teil des Datenschutzgesetzes (kurz: DSGVO).

KPMG hat sich dieses Problems angenommen und das „AI in Control“ entwickelt, ein Framework an Kriterien, innerhalb dessen sich der Algorithmus bewegen muss. Diese Kriterien lauten:

  • Integrität: Auf welche Datenquellen darf der Algorithmus zugreifen und sind diese valide?
  • Robustheit: Hält der Algorithmus Cyberangriffen stand und kann er in verschiedenen Umgebungen laufen?
  • Fairness: Ist sichergestellt, dass der Algorithmus keine potenziell diskriminierenden Schlüsse zieht?
  • Erklärbarkeit: Lässt sich jeder einzelne Schritt, den der Algorithmus auf dem Weg zur Lösung gegangen ist, nachvollziehen?

IBM_KPMG IBM_1_500px

Jedes der vier Kriterien hat seine besonderen Herausforderungen. Aus technischer Sicht ist allerdings die „Erklärbarkeit“ die härteste Nuss, da neuere Deep-Learning-Modelle aufgrund der Vielschichtigkeit und der Anzahl an möglichen Variablen als „Black Box“ gelten. Hier setzt KPMG auf Open Source und IBM Watson Technologie aus der IBM Cloud. Dank IBM Watson lassen sich die Ergebnisse künstlicher Intelligenz im gesamtem Lebenszyklus nachvollziehen, messen und steuern, und so letztlich erklärbar machen.

Verwendung finden die von KPMG in Zusammenarbeit mit IBM konzipierten Systeme eher auf Kundenseite, weniger im Kerngeschäft der Wirtschaftsprüfung. Diese erfolgt nach wie vor durch den Prüfer. IT-Systeme unterstützen hier lediglich. Etwa bei der Auswertung von Daten oder beim Abgleich von Verträgen, wie sie beispielsweise bei Änderungen in den Bilanzierungsregeln notwendig sind. KPMG hilft dabei, entsprechende Systeme in Unternehmen zu implementieren oder aber bestehende Systeme anhand des „AI in Control“-Frameworks zu auditieren.

Je nachdem, wo sich das betreffende Unternehmen innerhalb seiner Machine-Learning-Journey befindet, kann das Framework bereits bei der Konzeption herangezogen werden und so das klassische, kleinteilige Proof-of-Concept-Vorgehen (PoC) ergänzen oder gar ersetzen. PoC-Ansätze haben nämlich häufig die Schwierigkeit, dass sie auf Basis von zu wenigen Daten umgesetzt werden und die Ergebnisse folglich nicht den gewünschten Grad an Validität aufweisen. Die Alternative ist ein Machine-Learning-Modell, das beispielsweise in der IBM Watson Studio-Umgebung trainiert wird. So vorgegangen, verfügt das Modell bereits vom Start an über eine breite, integre Datenbasis, um in der weiteren Entwicklung bereits auf validen Erfahrungen aufsetzen zu können.