Innovation

Data Natives: Auf dem Weg zur KI, die wir wirklich brauchen

„We are all Astronauts“, las das Zitat an der Wand der IBM-Bühne auf der diesjährigen Data Natives im Kühlhaus Berlin. Die Konferenz gilt als Gradmesser, was die Zukunft von datenbasierten Technologien bereithält – für die eigene Geschäftstransformation, aber auch für Privatpersonen. Rund 2.000 Datenenthusiasten und 120 Sprecher folgten in diesem Jahr dem Ruf der Organisatoren. „We are all Astronauts.“ Ja, tatsächlich – inmitten der riesigen Datenmengen, zwischen denen man heutzutage umherschwebt, fühlt man sich tatsächlich manchmal wie ein Astronaut auf atemraubender Mission im Datenweltall.

Daten sind überhaupt das zentrale Stichwort – nicht nur auf der Data Natives: Ohne sie würden Technologien wie Künstliche Intelligenz oder Deep Learning überhaupt nicht existieren. KI-Systeme sind allerdings nur so gut wie die Daten, mit denen sie trainiert werden. Stehen genügend Daten zur Verfügung, kann eine KI wie etwa IBM Watson alles lernen. Watsons Wunderwaffe: Dort Muster zu erkennen und intelligente Vorhersagen zu treffen, wo die kognitiven Fähigkeiten des Menschen nicht mehr ausreichen. Möglich machen das sogenannte universale Funktionsapproximatoren, die beliebige Muster und Funktionen darstellen können. Diese Funktionen sind sehr begehrt, da sie es uns ermöglichen, fast alles zu kontrollieren und vorherzusagen, angefangen bei einem detaillierten psychologischen Profil eines Internetnutzers bis hin zu einem vollständigen Modell der physischen Welt. Diese Modelle zu besitzen, bedeutet Macht – ähnlich der einer Atombombe.

Data-Natives-Romeo-KienzlerUngerechte Verzerrungen in den Daten entlarven

Eigentlich ist es nicht die KI, die außer Kontrolle gerät – es sind unsere Daten. Die KI ist nur das Werkzeug. Wie der Verbrennungsmotor für den Treibstoff, damit sich ein Fahrzeug von der Stelle bewegen kann. Auch auf der Data Natives wurde die Frage heiß diskutiert, ob und wie sich die Entscheidungen von selbstlernenden Maschinen nachvollziehen und überprüfen lassen. Dies ist besonders in stark regulierten Branchen wie dem Finanz- und Gesundheitswesen oder auch in datenintensiven und -sensiblen Branchen wie der Automobil- oder der Pharmaindustrie relevant. Hier stellen die Einhaltung der DSGVO und anderer umfassender Vorschriften erhebliche Hindernisse für eine breite Anwendung von KI dar. Weder Menschen noch Algorithmen sollten in einem so kritischen Umfeld unkontrolliert machen können, was sie wollen.

Wie genau die neuronalen Netze zu ihren Schlussfolgerungen kommen, lässt sich kaum nachvollziehen. Für Forscher sind sie oftmals eine Blackbox – undurchsichtig und schwer zu erschließen. Anhand der Trainings-Datenbanken weiß man aber zumindest, auf welcher Datengrundlage die KI-Systeme lernen und Entscheidungen treffen. Die Vision ist simpel: Statt sich auf menschliche Annahmen zu stützen, beispielsweise bei der Kreditvergabe oder bei der Vorauswahl im Bewerbungsprozess, beziehen sich die lernenden Maschinen auf statistische Modelle aus einer Vielzahl von Datenquellen und Parametern. Das Problem dabei: Enthalten die Daten unbewusste Vorurteile, Stereotype und altmodische Rollenbilder, werden diese von den lernenden Algorithmen nicht nur übernommen, sondern noch zusätzlich verstärkt. Wenn Fotos und deren Beschriftungen Kochen überwiegend mit Frauen in Verbindung bringen, dann lernt die Software Kochen immer als Frauentätigkeit zu erkennen. Die Maschinen denken dann genauso in Rollenklischees wie wir Menschen.

KI verstehen und zügeln

Die Herausforderung ist, diese Verzerrungen in den Daten und Algorithmen auch zu bemerken. Das IBM AI Fairness 360 Toolkit geht noch einen Schritt weiter: Es ermöglicht nicht nur die Erkennung von Verzerrungen in verschiedenen Dimensionen, sondern auch deren Behebung. Entwickler können sich hier einer großen Auswahl an etablierten Algorithmen bedienen, um Verzerrungen zu minimieren. Dabei ist wichtig, dass dieser entscheidende Teil der Modellunabhängigkeit vollständig überprüfbar ist. Aus diesem Grund hat IBM das gesamte Toolkit Open Source zur Verfügung gestellt.

Data-Natives-AIF360Die herstellerübergreifende Plattform AI Open Scale nutzt dieses Toolkit, um in Echtzeit offenzulegen, wie eine KI-Anwendung zu ihrer Entscheidung kommt. AI OpenScale fungiert dabei als Zwischenschicht, die sich zwischen der Anwendung und den maschinellen Lernmodellen, die Vorhersagen liefern, positioniert. Jedes Mal, wenn eine Anwendung auf das Modell zugreift, werden die Eingangsdaten (Datenpunkte) und Ausgangsdaten (Vorhersagen) in einer zentralen Datenbank protokolliert. Die Plattform verfügt außerdem über eine Datenbank zur Speicherung von Trainings- und Feedbackdaten, die zur Umschulung und Bereitstellung der Modelle verwendet werden.

AI OpenScale nutzt die Datenbanken, um Verzerrungen, die Genauigkeit sowie die Erklärbarkeit von Modellen zu analysieren. Indem Benutzer in eine bestimmte Transaktion hineinzoomen, können sie die Faktoren verstehen, die das Ergebnis der vorausschauenden Analyse beeinflusst haben. AI Open Scale überwacht kontinuierlich KI-Anwendungen, um mögliche Verzerrungen dank einer automatisierten Anti-Bias-Technologie bereits während der Ausführung zu korrigieren.

Datenhoheit gehört in die eigenen Hände

Um KI-Systemen vertrauen zu können, müssen wir verstehen, warum sie die Entscheidungen treffen, die sie treffen. Transparenz ist das Stichwort. Ohne Transparenz gibt es kein Vertrauen – das ist unser Leitsatz, unsere Arbeitsphilosophie bei IBM. Wir Menschen haben daran einen entscheidenden Anteil, indem wir darauf achten, welche Daten wir preisgeben – und so für KI-Systeme verfügbar machen. Wir brauchen ein höheres Bewusstsein für den Datenschutz, insbesondere außerhalb der Europäischen Union. Selbst als digitale Data Natives übersteigt es oftmals schlicht unsere Vorstellungskraft, wie viele Daten Organisationen sammeln können. Das Problem der Datenhoheit kann jedoch nur auf Anwenderebene gelöst werden.

Wir brauchen keine KI, die versucht, uns Dinge zu verkaufen, die wir nicht brauchen. Wir brauchen eine KI, der wir vertrauen können. Es muss in unseren Händen liegen und von Menschen kontrolliert werden – nicht von multinationalen Unternehmen.

Add Comment
No Comments

Leave a Reply

Your email address will not be published.Required fields are marked *

More Innovation Stories

Data-Driven Creativity – Ein Blick in die Zukunft

In einer Zeit, in der Daten als neues Öl gehandelt werden, überrascht es nicht, dass Datenanalyse auch vermehrt Eingang in kreative Bereiche findet. Den Einsatz von Daten im Zusammenhang mit Kreativität umgibt seit einigen Jahren ein ausgeprägter Hype. Entsprechend polarisierend sind die Meinungen zu solchen Ansätzen. Während manche darin das Tor zu einem neuen Level […]

CIMONs erste Schritte: KI-Assistenz für Astronauten erlebt Premiere im Weltall

CIMON®, der weltweit erste KI-unterstützte Assistent für Astronauten, meisterte seinen allerersten Auftritt an Bord der Internationalen Raumstation ISS mit Bravour. Am 15. November 2018 um 11.40 Uhr MEZ hätte man im Bodenkontrollzentrum BIOTESC der Hochschule Luzern eine Stecknadel zu Boden fallen hören – die Konzentration und freudige Anspannung war bei allen Beteiligten des Missionsteams zu […]

IBM Domino: App-Entwicklung im agilen Umfeld

IBM hat heute die Verfügbarkeit der nächsten Generation seiner Domino-Plattform – Domino V10 – angekündigt und leitet damit die nächste Phase des Rapid Application Developments für die heutigen digitalen Unternehmen ein. Die Plattform-, Datenbank- und Anwendungsentwicklungswerkzeuge von Domino sind besonders einfach zu nutzen und werden von Unternehmen zur Automatisierung wichtiger Prozesse eingesetzt. Weltweit setzen Unternehmen […]