AI Factory treibt Operationalisierung und Industrialisierung von KI voran

By | 5 minute read | June 1, 2021

210601_IBM_AI Factory_Header_990x498px

Zwischen 74 und 88 Prozent der IT-Profis in Deutschland, die in der aktuellen „IBM AI Adoption Study – German Report“ befragt wurden, halten es für sehr wichtig, dass sie den Ergebnissen von KI-Lösungen vertrauen können. 85 Prozent halten zudem die Erklärbarkeit der Ergebnisse für geschäftskritisch. Für 48 Prozent ist das skalierbare Entwickeln von vertrauenswürdiger KI am schwierigsten und für 79 Prozent ist es wichtig, dass KI-Modelle nahe bei den benötigten Daten ausgeführt werden. Mit der AI Factory adressiert IBM exakt diese Punkte, indem sie Data Scientists Konzepte und eine offene Umgebung bietet, um die Entwicklung von KI zu industrialisieren und zu operationalisieren.

Dabei ist es jedoch entscheidend zu verstehen, dass eine solche Lösung nicht alleine auf Technik basieren kann. Es geht vielmehr darum, die richtige Balance zwischen den im Unternehmen oft bereits etablierten (Open Source) Werkzeugen, den Prozessen und Personen zu finden, welche meist neue und wichtige Rollen übernehmen müssen.

Fünf Elemente der AI Factory

  • Build AI umfasst alles rund um die Entwicklung und das Training der KI-Modelle
  • Trust AI umfasst sowohl Validierung als auch Aspekte rund um Fairness und Explainability
  • Use AI befasst sich vor allem damit, die Modelle in die Kern-Anwendungen einzubinden
  • Die allem zugrundeliegende Hybrid Cloud AI Platform bietet Data Scientists den erforderlichen Grad an technischer und finanzieller Flexibilität und Agilität
  • Die AI Factory adressiert darüber hinaus die spezifischen Aspekte der jeweiligen Industrie

IBM_AI Factory_1_500px

Viele Unternehmen haben in den letzten Jahren erste Projekte mit KI gestartet. Vielfach handelt sich um Pilotprojekte, Proof of Concepts (POCs) oder Minimum Viable Products (MVPs) – entweder aus eigener Anstrengung oder zusammen mit Partnern. Sie sind meist in einem abgegrenzten oft auch weniger unternehmenskritischen Bereich angesiedelt und bieten Aktivitäten rund um Digitalisierung und Automatisierung. Darüber hinaus entstanden isolierte Data Science Arbeitsplätze auf Basis von lokal installierten Open Source Tools, um schnell und kostengünstig erste Erfahrungen zu sammeln.

Für den unternehmensweiten Einsatz von KI zur Integration in vollständig digitalisierte Prozesse rücken jedoch Merkmale in den Vordergrund, die erst durch die AI Factory ermöglicht werden.

Build AI

Dieser Bereich bietet vor allem eine integrierte Entwicklungsumgebung, die zum einen die bereits etablierten Open Source Werkzeuge und KI-Modelle berücksichtigt, zum anderen durch zentrale Installation den Austausch, Re-Use und die Zusammenarbeit der Data Scientists ermöglicht. Erst dadurch lässt sich die KI-Entwicklung für stetig wachsende Teams skalieren. Da dafür auch ein effizienter Self-Service-basierter Zugriff auf Daten sowie deren Verwaltung in einem übergreifenden Katalog notwendig ist, kombiniert IBM all diese Funktionalitäten auf der Datenplattform IBM Cloud Pak for Data.

IBM_AI Factory_2_500px

Trust AI

Laut der referenzierten Studie bietet insbesondere dieser Bereich die erforderlichen Konzepte, die für Unternehmen zum erfolgreichen Betrieb von KI essentiell sind.

Erfahrungen zeigen, dass ein formal definierter Validierungsprozess zwingend notwendig ist. Der Prozess definiert, wie ein zuvor entwickeltes und trainiertes KI-Modelle durch ein 4- bzw. 6-Augen Prinzip verschiedene Schritte zur Validierung, Revision, Compliance und Einbindung in das Risk Management durchläuft, bevor es in ein unternehmenskritisches System eingebunden werden darf. Neben direkten finanziellen Risiken aufgrund falscher Ergebnisse sind vor allem auch Reputationsrisiken aufgrund negativer Außenwirkung zu berücksichtigen.

Da KI-Modelle durch Re-Training auch noch während der Produktion eine Art „Eigenleben“ entwickeln, ist dies ebenfalls in den Validierungsprozess zu integrieren und ein AI Lifecycle Management zu etablieren, um jederzeit den Überblick über die verwendeten Versionen zu behalten.

Darüber hinaus impliziert die ggf. durch Regulierungsbehörden geforderte Explainability die Fähigkeit, jederzeit Auskunft geben zu können, welche Version eines KI-Modells zu einem gegebenen Zeitpunkt auf Basis welcher Eingangsdaten welches Ergebnis geliefert hat – und warum.

Das Vertrauen in KI-Ergebnisse erfordert außerdem, dass Aspekte der Ethik wie z.B. Fairness und die Vermeidung von Diskriminierung (Bias) zum Beispiel hinsichtlich Geschlecht, Ethnien oder Altersgruppen zu betrachten sind.

Dies wird dadurch erreicht, dass die produktive genutzte KI kontinuierlich einem fachlichen Monitoring unterliegt, was wiederum Prozesse erfordert, um im Falle von Auffälligkeiten schnell zu regieren sowie Rollen mit den zugehörigen Verantwortlichkeiten zu verteilen.
Zusammen erzeugen diese fünf Aspekte Vertrauen, indem sie Werkzeuge, Prozesse und Rollen bieten, um von der Entwicklung bis zur Produktion kontinuierlich die Qualität der KI derart zu überwachen, dass Abweichungen sowohl vorab als auch im laufenden Betrieb zeitnah erkannt und behoben werden können.

IBM bietet mit Watson OpenScale eine Komponente des Cloud Pak for Data, die genau diese Funktionalitäten abdeckt.
IBM_AI Factory_3_500px

Hybrid Cloud AI Platform

Aus Sicht von Data Scientists und ihren Fachbereichen sind technische Aspekte rund um Infrastukturen, IT Standards und den IT-Betrieb meist nebensächlich. Für sie geht es um eine Laufzeitumgebung, die ihnen das erforderliche Maß an Flexibilität und Agilität bietet.

Basierend auf Transparenz, bietet die Lösung von IBM die Unabhängigkeit, die AI Factory auf allen erdenklichen Positionen, Architekturen und Clouds zu betreiben. Die zusätzliche Skalierung bietet durch stringente Containerisierung eine horizontale Skalierung, damit Umgebungen rasch wachsen und schrumpfen können.

Insbesondere die IBM Cloud Satellite Option versetzt Unternehmen in die Lage, die Entwicklung zwar „managed“ mit einem „pay-as-you-go“ Modell zu betreiben jedoch im eigenen oder Partner-Rechenzentrum zu installieren, um die Verwendung von unternehmenskritischen Daten zu erleichtern.

IBM_AI Factory_4_500px

Use AI

Sind KI-Modelle entwickelt und trainiert, werden sie typischerweise durch Anwendungen aufgerufen, welche in abgeschotteten Produktivumgebungen auf hoch optimierten Systemen laufen. Der Zugriff von dort in eine Laufzeitumgebung für KI resultiert oft in Latenzen, Netzwerk-Engpässen sowie Sicherheits- bzw. regulatorischen Herausforderungen.

Die AI Factory bietet mit dem Use AI Konzepte, um die Modelle nah an diese operativen Systeme zu bringen.

AI Factory sorgt für Flexibilität

Vertrauen ist der Schlüssel dafür, dass die Digitalisierungs-Agenda eines Unternehmens mit Hilfe von KI erfolgreich wird. Die IBM AI Factory bietet sowohl die Technologie als auch eine Reihe von vorgefertigten Workshops, um die notwendigen Anpassungen in Prozessen und Organisationen zu implementieren.

Die Offenheit der Lösung bieten Investitionsschutz und den Fachbereichen die erforderliche Flexibilität, um in diesem für viele relativ neuen Umfeld in beliebigen Schritten mit der erforderlichen Geschwindigkeit zu wachsen.