Was ist generative KI? 

Generative KI stützt sich auf ausgeklügelte Modelle für maschinelles Lernen, sogenannte Deep Learning Modelle, d. h. Algorithmen, die die Lern- und Entscheidungsprozesse des menschlichen Gehirns nachahmen. Diese Modelle funktionieren, indem sie die Muster und Beziehungen in riesigen Datenmengen identifizieren und kodieren und diese Informationen dann verwenden, um die Wünsche oder Fragen der Benutzer in natürlicher Sprache zu verstehen und mit relevanten neuen Inhalten zu antworten.

KI ist bereits seit einem Jahrzehnt ein heiß diskutiertes Thema im Technologiebereich. Aber die generative KI, insbesondere die Einführung von ChatGPT im Jahr 2022, haben das Thema KI weltweit in den Vordergrund gerückt und einen beispiellosen Anstieg der KI-Innovation und -Akzeptanz ausgelöst. Generative KI ermöglicht enorme Produktivitätsgewinne für Einzelpersonen und Unternehmen gleichermaßen. Und obwohl generative KI auch mit äußerst konkreten Herausforderungen und Risiken verbunden ist, sind Unternehmen entschlossen, herauszufinden, wie die Technologie ihre internen Workflows verbessern und ihre Produkte und Services optimieren kann. Laut einer Studie der Unternehmensberatungsfirma McKinsey nutzt ein Drittel der Unternehmen bereits regelmäßig generative KI in mindestens einem Geschäftsbereich.¹ Der Branchenanalyst Gartner geht zudem davon aus, dass bis 2026 mehr als 80 % der Unternehmen generative KI-Anwendungen einsetzen oder Anwendungsprogrammierschnittstellen (APIs) für generative KI nutzen werden.²

Generative KI umfasst im Grunde drei Phasen: 

• Training, um ein Foundation Model zu entwickeln, das als Basis für verschiedene Anwendungen generativer KI dienen kann.
  
  
• Anpassung, um das Foundation Model an eine spezifische Anwendung für generative KI anzupassen.
  
  
• Generierung, Bewertung und Neuabstimmung, um die Ausgabe der KI-Anwendung zu bewerten und ihre Qualität und Genauigkeit kontinuierlich zu verbessern.

Generative KI beginnt mit einem Foundation Model. Dabei handelt es sich um ein Deep-Learning-Modell, das als Grundlage für mehrere verschiedene Arten von generativen KI-Anwendungen dient. Die gängigsten Foundation Models sind heute große Sprachmodelle (LLMs), die für Anwendungen zur Textgenerierung entwickelt wurden. Es gibt aber auch Foundation Models für die Generierung von Bildern, Videos und Sound sowie Musik. Darüber hinaus gibt es multimodale Foundation Models, die verschiedene Arten der Inhaltsgenerierung unterstützen.

Für die Erstellung eines Foundation Models trainieren die Experten einen Deep-Learning-Algorithmus anhand von riesigen Mengen an unstrukturierten, nicht gekennzeichneten Rohdaten. Das können zum Beispiel Terabytes an Daten sein, die aus dem Internet oder einer anderen riesigen Datenquelle stammen. Während des Trainings führt der Algorithmus Millionen von sogenannten „Fill in the Blank“-Übungen durch und wertet die Ergebnisse aus. Dabei versucht er, das nächste Element in einer Sequenz vorherzusagen, z. B. das nächste Wort in einem Satz, das nächste Element in einem Bild oder den nächsten Befehl in einer Codezeile. Dabei passt sich der Algorithmus ständig an, um die Differenz zwischen seinen Vorhersagen und den tatsächlichen Daten (oder dem „richtigen“ Ergebnis) zu minimieren.

Die Ergebnisse dieses Trainings sind ein neuronales Netz von Parametern– codierte Darstellungen der Entitäten, Muster und Beziehungen in den Daten –, das als Reaktion auf Eingaben oder Prompt autonom Inhalte generieren kann.

Dieser Trainingsprozess ist rechenintensiv, zeitaufwändig und teuer: Dafür sind Tausende von geclusterten GPUs (Graphics Processing Units) und wochenlange Verarbeitung erforderlich, was alles Millionen von Dollar kostet. Projekte für Foundation-Models auf Open-Source-Basis wie Llama-2 von Meta ermöglichen es Entwicklern von generativer KI, diesen Schritt und die damit verbundenen Kosten zu vermeiden.

Metaphorisch ausgedrückt, ist ein Foundation Model ein Generalist: Das heißt, es weiß eine Menge über viele Arten von Inhalten, kann aber oft bestimmte Arten von Outputs nicht so genau oder zuverlässig generieren wie gewünscht. Damit dies möglich ist, muss das Modell auf eine bestimmte Aufgabe der Inhaltserstellung abgestimmt werden. Dafür gibt es verschiedene Möglichkeiten.

Feinabstimmung bedeutet, dem Modell Daten zuzuführen, die für die Anwendung zur Inhaltsgenerierung spezifisch sind. Dabei handelt es sich um Fragen oder Prompts, die die Anwendung wahrscheinlich erhalten wird, und die entsprechenden richtigen Antworten im gewünschten Format. Wenn ein Entwicklungsteam beispielsweise versucht, einen Chatbot für den Kundenservice zu entwickeln, erstellt es Hunderte oder Tausende von Dokumenten, die gekennzeichnete Fragen an den Kundenservice samt der richtigen Antworten enthalten. Das Modell wird dann mit diesen Dokumenten „gefüttert“.

Der Arbeitsaufwand bei der Feinabstimmung ist sehr hoch. Entwickler beauftragen oft externe Unternehmen mit dieser Aufgabe, da diese über eine große Anzahl von Mitarbeitern für die Kennzeichnung von Daten verfügen.

Beim RLHF werten menschliche Benutzer generierte Inhalte aus. Diese Antworten verwendet das Modell dann zur Aktualisierung der Ergebnisse, um höhere Genauigkeit oder mehr Relevanz zu erzielen. Beim RLHF werden häufig unterschiedliche Ergebnisse als Antwort auf denselben Prompt „bewertet“. Manchmal ist es aber auch so einfach, dass Menschen einem Chatbot oder einem virtuellen Assistenten antworten und seinen Output korrigieren.

Entwickler und Benutzer bewerten kontinuierlich die Outputs ihrer Apps für generative KI und passen das Modell weiter an – manchmal sogar einmal pro Woche –, um die Genauigkeit oder Relevanz zu erhöhen. (Im Gegensatz dazu wird das Foundation Model selbst viel seltener aktualisiert, vielleicht einmal pro Jahr oder alle 18 Monate).

Eine weitere Möglichkeit, die Leistung einer Gen-KI-App zu verbessern, ist Retrieval-Augmented Generation (RAG). RAG ist ein Framework zur Erweiterung des Foundation Models, um relevante Quellen außerhalb der Trainingsdaten zu verwenden und die Parameter oder Darstellungen im ursprünglichen Modell zu ergänzen und zu verfeinern. RAG kann sicherstellen, dass eine generative KI-App immer Zugriff auf die aktuellsten Informationen hat. Als Bonus sind die über RAG abgerufenen zusätzlichen Quellen für Benutzer auf eine Weise transparent, die das Wissen im ursprünglichen Foundation Model nicht ist.

Wirklich generative KI-Modelle – also Deep-Learning-Modelle, die bei Bedarf eigenständig Inhalte erstellen können – haben sich in den letzten zwölf Jahren kontinuierlich weiterentwickelt. Zu den wichtigsten Modellarchitekturen in diesem Zeitraum gehören:

• Variational Autoencoder (VAEs), die zu einem Durchbruch in der Bilderkennung, der Verarbeitung natürlicher Sprache und der Erkennung von Anomalien geführt haben.

• Generative Adversarial Networks (GANs) und Diffusionsmodelle, die die Genauigkeit früherer Anwendungen verbesserten und einige der ersten KI-Lösungen für die fotorealistische Bilderzeugung ermöglichten.

• Transformer mit der Deep-Learning-Modellarchitektur, auf der heute die wichtigsten Foundation Models und Lösungen für generative KI basieren.

Ein Autoencoder ist ein Deep-Learning-Modell, das aus zwei verbundenen neuronalen Netzen besteht: Eines kodiert (oder komprimiert) eine große Menge unstrukturierter, nicht gekennzeichneter Trainingsdaten in Parameter, und ein anderes dekodiert diese Parameter, um den Inhalt zu rekonstruieren. Technisch gesehen können Autoencoder neue Inhalte generieren, aber sie sind eher für die Komprimierung von Daten zur Speicherung oder Übertragung und die Dekomprimierung zur Verwendung geeignet als für die Generierung hochwertiger Inhalte.

Variational Autoencoder (VAEs) wurden 2013 eingeführt und können Daten wie ein Autoencoder kodieren, aber mehrere neue Variationen des Inhalts dekodieren. Durch das Training eines VAE, Variationen in Richtung eines bestimmten Ziels zu generieren, kann es mit der Zeit präzisere, zuverlässigere Inhalte finden. Zu den frühen VAE-Anwendungen gehörten die Erkennung von Anomalien (z. B. bei der medizinischen Bildanalyse) und die Generierung natürlicher Sprache.

GANs, die 2014 eingeführt wurden, bestehen ebenfalls aus zwei neuronalen Netzen: einem Generator, der neue Inhalte erzeugt, und einem Diskriminator, der die Genauigkeit und Qualität der erzeugten Daten bewertet. Diese gegensätzlichen Algorithmen regen das Modell dazu an, immer hochwertigere Outputs zu erzeugen.

GANs werden häufig zur Generierung von Bildern und Videos verwendet, können aber in verschiedenen Bereichen hochwertige, realistische Inhalte generieren. Sie haben sich bei Aufgaben wie der Stilübertragung (Änderung des Stils eines Bildes, zum Beispiel von einem Foto zu einer Bleistiftskizze) und der Datenerweiterung (Erstellung neuer, synthetischer Daten, um die Größe und Vielfalt eines Trainingsdatensatzes zu erhöhen) als besonders erfolgreich erwiesen.

Diffusionsmodelle, die ebenfalls 2014 eingeführt wurden, funktionieren, indem sie zuerst Rauschen zu den Trainingsdaten hinzufügen, bis es zufällig und nicht mehr erkennbar ist, und dann den Algorithmus so trainieren, dass er das Rauschen iterativ diffundiert, um einen gewünschten Output zu erzielen.

Diffusionsmodelle benötigen mehr Zeit zum Trainieren als VAEs oder GANs, ermöglichen aber letztendlich eine differenziertere Kontrolle über die Ausgabe, insbesondere für Tools zur Generierung hochwertiger Bilder. DALL-E, das Bildgenerierungstool von Open AI, basiert auf einem Diffusionsmodell.

Die erstmals in einem Artikel von Ashish Vaswani und anderen aus dem Jahr 2017 dokumentiertenTransformer sind eine Weiterentwicklung des Encoder-Decoder-Paradigmas und ermöglichen einen großen Fortschritt bei der Art und Weise, wie Foundation Models trainiert werden, sowie bei der Qualität und Bandbreite der Inhalte, die sie produzieren können. Diese Modelle bilden den Kern der meisten der heutigen generativen KI-Tools, die derzeit für Schlagzeilen sorgen, darunter ChatGPT und GPT-4, Copilot, BERT, Bard und Midjourney, um nur einige zu nennen.

Transformer verwenden ein Konzept namens Aufmerksamkeit (auch das Bestimmen und Fokussieren auf das Wichtigste in den Daten einer Sequenz), um Folgendes zu erreichen:

• gleichzeitige Verarbeitung ganzer Sequenzen von Daten, z. B. von Sätzen statt einzelner Wörter;

• Erfassung des Kontexts der Daten innerhalb der Sequenz;

• Kodierung der Trainingsdaten in Einbettungen (auch Hyperparameter genannt), welche die Daten und ihren Kontext darstellen.

Transformers ermöglichen nicht nur ein schnelleres Training, sondern zeichnen sich auch durch die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) und das Verstehen natürlicher Sprache (Natural Language Understanding, NLU) aus und können längere Datensequenzen mit höherer Genauigkeit und Qualität als andere umfassende Modelle für generative KI generieren. Sie können also nicht nur Antworten auf Fragen ausgeben, sondern auch Gedichte, Artikel oder Paper generieren. Transformer-Modelle können auch für die Verwendung von Tools (z. B. Tabellenkalkulationsprogramme, HTML, Zeichenprogramme) trainiert oder abgestimmt werden, um Inhalte in einem bestimmten Format auszugeben.

Generative KI kann viele Arten von Inhalten in vielen verschiedenen Bereichen erschaffen. 

Der offensichtliche, übergreifende Nutzen der generativen KI ist eine größere Effizienz. Da sie bei Bedarf Inhalte und Antworten generieren kann, hat generative KI das Potenzial, arbeitsintensive Aufgaben zu beschleunigen oder zu automatisieren, Kosten zu senken und Mitarbeitern Zeit für höherwertige Arbeit zu geben.

Generative KI bietet jedoch noch weitere Vorteile für Einzelpersonen und Unternehmen.

Generativen KI-Tools können die Kreativität durch automatisiertes Brainstorming anregen, indem sie mehrere neue Versionen von Inhalten generieren. Diese Variationen können auch als Ausgangspunkte oder Referenzen dienen, die Schriftstellern, Künstlern, Designern und anderen Kreativen helfen, kreative Blockaden zu überwinden.

Generative KI zeichnet sich durch die Analyse großer Datensätze, die Identifizierung von Mustern und die Gewinnung aussagekräftiger Erkenntnisse aus. Anschließend werden auf der Grundlage dieser Erkenntnisse Hypothesen und Empfehlungen erstellt, die Führungskräfte, Analysten, Forscher und andere Fachleute dabei unterstützen, intelligentere, datengestützte Entscheidungen zu treffen.

In Anwendungen wie Empfehlungssystemen und der Erstellung von Inhalten kann generative KI die Vorlieben und die Historie der Benutzer analysieren und anschließend anhand dessen personalisierte Inhalte in Echtzeit erstellen, was zu einem maßgeschneiderten und ansprechenden Benutzererlebnis führt.

Generative KI ist kontinuierlich in Betrieb, wird nie müde und bietet rund um die Uhr Verfügbarkeit zur Erledigung von Aufgaben wie den Kundensupport per Chatbot und automatisierte Antworten.

Im Folgenden finden Sie eine Auswahl an Anwendungsfällen für generative KI in Unternehmen. Wenn sich die Technologie weiterentwickelt und Unternehmen diese Tools in ihre Workflows einbinden, werden noch viele weitere hinzukommen. 

Generative KI hat in relativ kurzer Zeit bemerkenswerte Fortschritte erzielt, stellt Entwickler, Benutzer und die breite Öffentlichkeit aber immer noch vor große Herausforderungen und Risiken. Nachfolgend finden Sie einige der größten Probleme und wie sie angegangen werden. 

Eine KI-Halluzination ist ein generativer KI-Output, der unsinnig oder völlig ungenau ist – aber allzu oft völlig plausibel erscheint. Das klassische Beispiel ist, wenn ein Anwalt ein Gen-KI-Tool für die Recherche zur Vorbereitung eines hochkarätigen Falls verwendet hat – und das Tool mehrere Beispielfälle hervorgebracht, komplett mit Zitaten und Zuschreibungen, die völlig fiktiv waren.

Einige Anwender betrachten Halluzinationen als unvermeidliche Folge der Abwägung zwischen der Genauigkeit eines Modells und seinen kreativen Fähigkeiten. Entwickler können jedoch vorbeugende Maßnahmen, sogenannte Verhaltensregeln, einführen, die das Modell auf relevante oder vertrauenswürdige Datenquellen beschränken. Eine kontinuierliche Bewertung und Abstimmung kann ebenfalls dazu beitragen, Halluzinationen und Ungenauigkeiten zu reduzieren.

Weil generative KI-Modelle variabel bzw. wahrscheinlichkeitsbasiert sind, können die gleichen Eingaben zu leicht oder erheblich unterschiedlichen Ausgaben führen. Dies kann bei bestimmten Anwendungen unerwünscht sein, z. B. bei Chatbots für den Kundenservice, wo einheitliche Ergebnisse erwartet oder gewünscht werden. Durch Prompt Engineering– also die iterative Verbesserung oder Kombination von Prompts – können Benutzer Prompts erhalten, die konsistent die gewünschten Ergebnisse ihrer generativen KI-Anwendungen liefern.

Es kann passieren, dass generative Modelle gesellschaftliche Vorurteile (Verzerrungen) lernen, die ihren Ursprung in den Trainingsdaten haben – oder in den gekennzeichneten Daten, externen Datenquellen oder menschlichen Bewertern, die mit der Abstimmung des Modells beauftragt werden – und infolgedessen voreingenommene, unfaire oder beleidigende Inhalte generieren. Um voreingenommene Outputs ihrer Modelle zu verhindern, müssen die Entwickler vielfältige Trainingsdaten verwenden, Richtlinien zur Vermeidung von Verzerrungen während des Trainings und der Abstimmung festlegen und die Ausgaben des Modells kontinuierlich auf Verzerrungen und Genauigkeit überprüfen.

Viele Modelle der generativen KI sind „Blackbox“-Modelle, d. h. es kann schwierig oder unmöglich sein, ihre Entscheidungsprozesse nachzuvollziehen. Selbst die Ingenieure oder Data Scientists, die den zugrundeliegenden Algorithmus entwickeln, haben Schwierigkeiten zu verstehen oder zu erklären, was genau im Algorithmus vor sich geht und wie er zu einem bestimmten Ergebnis kommt. Praktiken undTechniken für Explainable AI (erklärbare KI) können Experten und Benutzern helfen, die Prozesse und Outputs generativer Modelle zu verstehen und ihnen zu vertrauen.

Auch das Bewerten und Vergleichen der Qualität generierter Inhalte kann eine Herausforderung sein. Herkömmliche Bewertungsmetriken erfassen möglicherweise nicht die differenzierten Aspekte von Kreativität, Kohärenz oder Relevanz. Die Entwicklung robuster und zuverlässiger Bewertungsmethoden für generative KI ist nach wie vor ein Forschungsgebiet, das aktiv weiterverfolgt wird.

Generative KI-Modelle können genutzt werden, um überzeugende Phishing -E-Mails, gefälschte Identitäten oder andere bösartige Inhalte zu generieren, die Benutzer zu Aktionen verleiten können, welche die Sicherheit und den Datenschutz gefährden. Entwickler und Benutzer müssen darauf achten, dass die Daten, die in das Modell eingegeben werden (und zwar sowohl während der Optimierung als auch als Teil eines Prompts), nicht ihr eigenes geistiges Eigentum oder Informationen offenlegen, die von anderen Unternehmen als geistiges Eigentum geschützt sind. Und sie müssen die Ausgaben auf neue Inhalte überwachen, die ihr eigenes geistiges Eigentum offenlegen oder den Schutz des geistigen Eigentums anderer verletzen.

Deepfakes sind von der künstlichen Intelligenz generierte oder manipulierte Bilder, Videos oder Audiodateien, die erstellt werden, um Menschen vorzutäuschen, dass sie jemanden sehen, beobachten oder hören, der etwas tut oder sagt, was diese Person jedoch nie getan oder gesagt hat. Sie sind eines der beunruhigsten Beispiele dafür, wie die Möglichkeiten der generativen KI in böswilliger Absicht eingesetzt werden können.

Die meisten Menschen sind mit Deepfakes vertraut, die erstellt werden, um die Reputation zu schädigen oder Fehlinformationen zu verbreiten. In jüngster Zeit haben Cyberkriminelle Deepfakes allerdings auch als Teil von Cyberangriffen (z. B. gefälschte Stimmen bei Voice-Phishing-Scams) oder Finanzbetrug eingesetzt.

Forscher arbeiten intensiv an KI-Modellen, die Deepfakes mit höherer Genauigkeit erkennen können. In der Zwischenzeit können die Aufklärung der Benutzer und Best Practices (z. B. kein unbestätigtes oder ungeprüftes umstrittenes Material zu teilen) dazu beitragen, den Schaden zu begrenzen, den Deepfakes anrichten können.