Generative KI-Modelle basieren auf Transformer-Architekturen, die es ihnen erlauben, die Feinheiten der Sprache zu erfassen und riesige Datenmengen über neuronale Netze zu verarbeiten. KI-Prompt-Engineering hilft dabei, den Output des Modells zu formen und sicherzustellen, dass die künstliche Intelligenz sinnvoll und kohärent antwortet. Verschiedene Prompting-Techniken, darunter Tokenisierung, Modellparameter-Tuning und Top-K-Sampling, sorgen dafür, dass KI-Modelle hilfreiche Antworten erzeugen.

Prompt Engineering ist unerlässlich, um das volle Potenzial generativer KI-Modelle auszuschöpfen. Foundation Models (Basismodelle) sind große Sprachmodelle (Large Language Models, kurz LLMs), die auf einer Transformer-Architektur aufbauen und alle Informationen enthalten, die das generative KI-System benötigt.

Generative KI-Modelle arbeiten auf der Grundlage des Natural Language Processings (NLP), bei dem Eingaben in natürlicher Sprache verarbeitet werden, um komplexe Ergebnisse zu erzielen. Die zugrundeliegenden datenwissenschaftlichen Vorbereitungen, Transformer-Architekturen und Algorithmen für Machine Learning (maschinelles Lernen) ermöglichen es diesen Modellen, Sprache zu verstehen und riesige Datensätze zu nutzen, um Text- oder Bildausgaben zu erstellen.

Damit ein LLM einen Prompt erfolgreich verarbeiten kann, muss es diesen allerdings zunächst verstehen. Daher ist die Art und Weise, wie dieser Prompt formuliert ist, besonders relevant. Hier spielen zwei zentrale Faktoren eine wichtige Rolle, von denen einer für uns Menschen recht offensichtlich ist: Ähnlich wie das menschliche Gehirn fällt es einem LLM deutlich schwerer, ungenauen, unstrukturierten oder missverständlichen Fragen und Aufforderungen zu folgen, weshalb ein guter Prompt stets möglichst präzise sein sollte. Um den zweiten Faktor besser zu verstehen, sollten sich Prompt Engineers vor Augen führen, inwiefern sich die Funktionsweise eines LLMs von unserer Denkweise unterscheidet. Bestimmte Formulierungen, Informationen und Formatierungen, die Menschen üblicherweise nicht in ihre Kommunikation integrieren würden, helfen diesen Modellen dabei, Prompts besser zu verstehen und somit ihre Ausgaben zu verfeinern.

Auch wenn der Input rein sprachlich erfolgt, können daraus durch die Kombination verschiedener KI-Modelle auch andere Arten von Medien erstellt werden. Generative Text-zu-Bild-KI wie DALL-E und Midjourney verwendet beispielsweise ein LLM in Verbindung mit Stable Diffusion, einem Modell, das Bilder aus Textbeschreibungen erzeugt. Auch hier ist ein effektives Prompt Engineering von großer Bedeutung, um technisches Wissen mit einem tiefgreifenden Verständnis der natürlichen Sprache, des Vokabulars und des Kontexts zu kombinieren, um mit wenigen Überarbeitungen optimale Ergebnisse zu erzielen.

Der Hauptvorteil von Prompt Engineering ist die Möglichkeit, nach der Generierung mit minimalem Aufwand optimierte Ergebnisse zu erzielen. Die Ergebnisse generativer KI können von unterschiedlicher Qualität sein und erfordern häufig eine Überprüfung und Überarbeitung durch Experten. Durch die Erstellung präziser Prompts gewährleisten Prompt Engineers, dass der KI-generierte Output mit den gewünschten Zielen und Kriterien übereinstimmt, wodurch letztlich der Bedarf an umfangreicher Nachbearbeitung reduziert wird.

Es ist auch die Aufgabe des Prompt Engineers, zu verstehen, wie er die besten Ergebnisse aus der Vielfalt der generativen KI-Modelle auf dem Markt herausholen kann. Das Schreiben von Prompts für GPT-3 oder GPT-4 von OpenAI unterscheidet sich beispielsweise von dem Schreiben von Prompts für Google Bard. Bard kann über die Google-Suche auf Informationen zugreifen und so angewiesen werden, aktuellere Informationen in seine Ergebnisse zu integrieren. ChatGPT ist hingegen das bessere Tool zum Aufnehmen und Zusammenfassen von Text, da es speziell für diesen Zweck entwickelt wurde. Ebenso erfordern Text-zu-Bild-Modelle individuelle Herangehensweisen: Derselbe Prompt kann bei Midjourney, DALL·E, Stable Diffusion etc. zu drastisch unterschiedlichen Ergebnissen führen, da jedes Modell einen Prompt unterschiedlich verarbeitet. Auch hier sollten Prompt Engineers wissen, wie sie mit unterschiedlichen Eingaben die gewünschten Ergebnisse erhalten können. Gut gestaltete Prompts leiten KI-Modelle dazu an, relevantere, genauere und personalisiertere Antworten zu generieren. Da sich KI-Systeme bei ihrer Verwendung weiterentwickeln, wird die Interaktion mit der KI durch hochwertige Prompts langfristig effizienter und zufriedenstellender.

Clevere Prompt Engineers, die in Open-Source-Umgebungen arbeiten, treiben die generative KI zu unglaublichen Leistungen an, die nicht in jedem Fall Teil ihres ursprünglichen Designs waren. So entstehen nicht selten überraschende Resultate, die hilfreiche Anwendungsmöglichkeiten für die Praxis bieten. Beispielsweise haben Forscher ein neues KI-System entwickelt, das Sprache übersetzen kann, ohne mit einem Paralleltext trainiert worden zu sein. Engineers betten generative KI auch in Videospiele ein, damit menschliche Spieler in ein wirklich lebendiges Storytelling eintauchen können. KI hilft sogar dabei, präzise neue Erkenntnisse über das astronomische Phänomen der schwarzen Löcher zu gewinnen. Je umfangreicher und komplexer generative KI-Systeme werden, desto wichtiger wird auch das Prompt Engineering.

Große Technologieunternehmen stellen Prompt Engineers ein, um neue kreative Inhalte zu entwickeln, komplexe Fragen zu beantworten und maschinelle Übersetzungen und NLP-Aufgaben zu verbessern. Zu den Fähigkeiten, die Prompt Engineers mitbringen sollten, gehören Vertrautheit mit großen Sprachmodellen, ausgeprägte Kommunikationsfähigkeiten, die Fähigkeit, technische Konzepte zu erklären, Programmierkenntnisse (insbesondere in Python) und ein klares Verständnis von Datenstrukturen und Algorithmen. Kreativität und eine realistische Auffassung der Vorteile und Risiken neuer Technologien sind in dieser Rolle ebenfalls von Vorteil.Obwohl Modelle in mehreren Sprachen trainiert werden, ist Englisch oft die Hauptsprache des Trainings generativer KI. Prompt Engineers benötigen ein fundiertes Verständnis in Bezug auf Wortschatz, Nuancen, Formulierungen, Kontext und Linguistik, da jedes einzelne Wort in einem Prompt das Ergebnis beeinflussen kann.

Prompt Engineers sollten auch wissen, wie sie dem KI-Modell den notwendigen Kontext, Anweisungen, Inhalte oder Daten effektiv vermitteln können.

Wenn das Ziel in der Generierung von Code besteht, muss ein Prompt Engineer die Prinzipien des Programmierens und der jeweils relevanten Programmiersprachen verstehen. Wer mit Bildgeneratoren arbeitet, sollte mit Begriffen aus Kunstgeschichte, Fotografie und Film vertraut sein. Prompt Engineers, die Inhalte mit sprachlichem Kontext generieren, sollten gegebenenfalls verschiedene Erzählstile oder literarische Theorien kennen.

Neben einem breiten Spektrum an Kommunikationsfähigkeiten müssen Prompt Engineers auch generative KI-Tools und die Deep-Learning-Frameworks verstehen, die sie bei ihren Entscheidungen unterstützen. Prompt Engineers können die folgenden fortgeschrittenen Techniken einsetzen, um das Verständnis des Modells und die Qualität der Ausgabe zu verbessern:

• Beim Zero-Shot-Prompting wird dem Modell des maschinellen Lernens eine Aufgabe gestellt, für die es nicht explizit trainiert wurde. Zero-Shot-Prompting testet die Fähigkeit des Modells, relevanten Output zu produzieren, ohne auf vorherige Beispiele zurückgreifen zu können. Ein möglicher Prompt wäre die Aufforderung, Schlüsselwörter aus einem Text zu extrahieren, ohne jegliche Beispiele bereitzustellen, die dem Modell dabei helfen würden, die Aufgabe genauer zu verstehen.
• Beim Few-Shot-Prompting oder In-Context-Learning erhält das Modell einige Beispiel-Outputs (Shots), damit es lernt, was der Anfragesteller von ihm erwartet. Das Lernmodell kann besser verstehen, was für eine Ausgabe gewünscht ist, wenn es auf Kontext zurückgreifen kann. Ein Prompt zur Extraktion von Schlüsselwörtern könnte hier demnach um Beispieltexte und eine dazugehörige Liste an erwarteten Schlüsselwörtern erweitert werden. Das Modell könnte diese Daten zur Orientierung nutzen, um einen Output zu generieren, der den gewünschten Anforderungen entspricht.
• Chain-of-Thought-Prompting (CoT) ist eine fortgeschrittene Technik, die eine schrittweise Argumentation vorgibt, der das Modell folgen kann. Die Aufteilung einer komplexen Aufgabe in Zwischenschritte oder „Argumentationsketten“ ermöglicht dem Modell ein besseres Verständnis der Sprache und das Erzielen genauerer Outputs. Erweitert man beispielsweise einen Prompt, für den verschiedene Reiseverbindungen verglichen werden müssen, durch eine simple schrittweise Anleitung, die den Lösungsweg erläutert, kann das die Genauigkeit des Ergebnisses erhöhen. Zudem erleichtert dieser Ansatz die Suche nach möglichen Fehlerursachen, da sich bei einer Aufschlüsselung der Denkprozesse die Schritte identifizieren lassen, bei denen es zu Problemen gekommen sein könnte.

Beim Entwickeln eines wirksamen Prompts sollten einige Best Practices befolgt werden, die die Qualität der Ausgabe maßgeblich verbessern können. So helfen genaue Beschreibungen und Details dabei, präzisere Ergebnisse zu erhalten. Dies bezieht sich zum einen auf einzelne Aspekte eines Prompts (beispielsweise die Angabe konkreter Details zu einer Person, über die ein Gedicht geschrieben werden soll), zum anderen aber auch auf die allgemeine Struktur des Prompts selbst. Eine effektive Anfrage enthält dementsprechend häufig eine Einleitung, zusätzlichen Kontext, konkrete Beispiele und eine abschließende Bemerkung, die die Antwort des Modells in eine bestimmte Richtung leitet. Gleichzeitig sollte sich der Prompt aber nicht übermäßig ausschweifend sein und stattdessen präzise, klar verständliche Sprache verwenden. Die Herausforderung für Prompt Engineers besteht darin, Anfragen durch möglichst viele relevante Details zu erweitern und gleichzeitig weniger relevante Elemente zu reduzieren. Formulierungen, die möglicherweise von den eigentlichen Absichten eines Prompts ablenken könnten, gilt es dabei zu vermeiden. Aus diesem Grund empfiehlt es sich auch, dem Modell konkret vorzugeben, was es tun soll, anstatt darauf einzugehen, was es nicht tun soll.