Was ist Prompt Engineering?

Die Grundregel lautet: Gute Prompts liefern auch gute Ergebnisse. Doch was macht einen guten Prompt aus? Mit dieser Frage beschäftigt sich die Disziplin des Prompt Engineerings. Damit generative KI effektiv aus verschiedenen Eingabedaten lernen und sich anpassen kann, werden diese Daten beim Prompt Engineering durch verschiedene Techniken und iterative Verfeinerung ausgearbeitet. Dieser Ansatz minimiert Verzerrungen und Verwirrungen und erzeugt genauere Antworten.

Die zentrale Rolle der Erstellung solcher Anfragen, die generativen KI-Modellen helfen, nicht nur die Sprache, sondern auch die Nuancen und die Absicht hinter einer Anfrage zu verstehen, erfüllen die sogenannten Prompt Engineers. Ein qualitativ hochwertiger, fundierter und sachkundiger Prompt beeinflusst wiederum die Qualität der von der KI generierten Inhalte, egal ob es sich um Bilder, Code, Datenzusammenfassungen oder Text handelt.

Ein durchdachter Ansatz bei der Erstellung von Prompts ist notwendig, um die Lücke zwischen rohen Anfragen und aussagekräftigen KI-generierten Antworten zu schließen. Durch die Feinabstimmung effektiver Prompts können die Engineers die Qualität und Relevanz der Outputs deutlich optimieren, um sowohl mit spezifischen als auch allgemeinen Fragestellungen zufriedenstellend umzugehen. Dieser Prozess reduziert den Bedarf an manueller Überprüfung und Nachbearbeitung und spart letztendlich Zeit und Mühe beim Erzielen der gewünschten Ergebnisse.

Generative KI-Modelle basieren auf Transformer-Architekturen, die es ihnen erlauben, die Feinheiten der Sprache zu erfassen und riesige Datenmengen über neuronale Netze zu verarbeiten. KI-Prompt-Engineering hilft dabei, den Output des Modells zu formen und sicherzustellen, dass die künstliche Intelligenz sinnvoll und kohärent antwortet. Verschiedene Prompting-Techniken, darunter Tokenisierung, Modellparameter-Tuning und Top-K-Sampling, sorgen dafür, dass KI-Modelle hilfreiche Antworten erzeugen.

Prompt Engineering erweist sich als entscheidend für die Ausschöpfung des vollen Potenzials der Foundation Models, die der generativen KI zugrunde liegen. Foundation Models sind Large Language Models (LLMs), die auf einer Transformer-Architektur basieren und alle Informationen enthalten, die das generative KI-System benötigt.

Generative KI-Modelle arbeiten auf der Grundlage von Verarbeitung natürlicher Sprache (NLP) und verwenden Eingabe in natürlicher Sprache, um komplexe Ergebnisse zu erzielen. Die zugrundeliegenden datenwissenschaftlichen Vorbereitungen, Transformer-Architekturen und Algorithmen für maschinelles Lernen ermöglichen es diesen Modellen, Sprache zu verstehen und riesige Datensätze zu nutzen, um Text- oder Bildausgaben zu erstellen.

Generative Text-zu-Bild-KI wie DALL-E und Midjourney verwendet beispielsweise ein LLM in Verbindung mit Stable Diffusion, einem Modell, das Bilder aus Textbeschreibungen erzeugt. Auch hier ist ein effektives Prompt Engineering von großer Bedeutung, um technisches Wissen mit einem tiefgreifenden Verständnis der natürlichen Sprache, des Vokabulars und des Kontexts zu kombinieren, um mit wenigen Überarbeitungen optimale Ergebnisse zu erzielen.

Der Hauptvorteil von Prompt Engineering ist die Möglichkeit, nach der Generierung mit minimalem Aufwand optimierte Ergebnisse zu erzielen. Die Ergebnisse generativer KI können von unterschiedlicher Qualität sein und erfordern häufig eine Überprüfung und Überarbeitung durch Experten. Durch die Erstellung präziser Prompts gewährleisten Prompt Engineers, dass der KI-generierte Output mit den gewünschten Zielen und Kriterien übereinstimmt, wodurch letztlich der Bedarf an umfangreicher Nachbearbeitung reduziert wird.

Es ist auch die Aufgabe des Prompt Engineers, zu verstehen, wie er die besten Ergebnisse aus der Vielfalt der generativen KI-Modelle auf dem Markt herausholen kann. Das Schreiben von Prompts für GPT-3 oder GPT-4 von OpenAI unterscheidet sich beispielsweise von dem Schreiben von Prompts für Google Bard. Bard kann über die Google-Suche auf Informationen zugreifen und so angewiesen werden, aktuellere Informationen in seine Ergebnisse zu integrieren. ChatGPT ist hingegen das bessere Tool zum Aufnehmen und Zusammenfassen von Text, da es speziell für diesen Zweck entwickelt wurde. Ebenso erfordern Text-zu-Bild-Modelle individuelle Herangehensweisen: Derselbe Prompt kann bei Midjourney, DALL·E, Stable Diffusion etc. zu drastisch unterschiedlichen Ergebnissen führen, da jedes Modell einen Prompt unterschiedlich verarbeitet. Auch hier sollten Prompt Engineers wissen, wie sie mit unterschiedlichen Eingaben die gewünschten Ergebnisse erhalten können. Gut gestaltete Prompts leiten KI-Modelle dazu an, relevantere, genauere und personalisiertere Antworten zu generieren. Da sich KI-Systeme bei ihrer Verwendung weiterentwickeln, wird die Interaktion mit der KI durch hochwertige Prompts langfristig effizienter und zufriedenstellender.

Clevere Prompt Engineers, die in Open-Source-Umgebungen arbeiten, treiben die generative KI zu unglaublichen Leistungen an, die nicht in jedem Fall Teil ihres ursprünglichen Designs waren. So entstehen nicht selten überraschende Resultate, die hilfreiche Anwendungsmöglichkeiten für die Praxis bieten. Beispielsweise haben Forscher ein neues KI-System entwickelt, das Sprache übersetzen kann, ohne mit einem Paralleltext trainiert worden zu sein. Engineers betten generative KI auch in Videospiele ein, damit menschliche Spieler in ein wirklich lebendiges Storytelling eintauchen können. KI hilft sogar dabei, präzise neue Erkenntnisse über das astronomische Phänomen der schwarzen Löcher zu gewinnen. Je umfangreicher und komplexer generative KI-Systeme werden, desto wichtiger wird auch das Prompt Engineering.

Große Technologieunternehmen stellen Prompt Engineers ein, um neue kreative Inhalte zu entwickeln, komplexe Fragen zu beantworten und maschinelle Übersetzungen und NLP-Aufgaben zu verbessern. Zu den Fähigkeiten, die Prompt Engineers mitbringen sollten, gehören Vertrautheit mit großen Sprachmodellen, ausgeprägte Kommunikationsfähigkeiten, die Fähigkeit, technische Konzepte zu erklären, Programmierkenntnisse (insbesondere in Python) und ein klares Verständnis von Datenstrukturen und Algorithmen. Kreativität und eine realistische Auffassung der Vorteile und Risiken neuer Technologien sind in dieser Rolle ebenfalls von Vorteil.Obwohl Modelle in mehreren Sprachen trainiert werden, ist Englisch oft die Hauptsprache des Trainings generativer KI. Prompt Engineers benötigen ein fundiertes Verständnis in Bezug auf Wortschatz, Nuancen, Formulierungen, Kontext und Linguistik, da jedes einzelne Wort in einem Prompt das Ergebnis beeinflussen kann.

Prompt Engineers sollten auch wissen, wie sie dem KI-Modell den notwendigen Kontext, Anweisungen, Inhalte oder Daten effektiv vermitteln können.

Wenn das Ziel in der Generierung von Code besteht, muss ein Prompt Engineer die Prinzipien des Programmierens und der jeweils relevanten Programmiersprachen verstehen. Wer mit Bildgeneratoren arbeitet, sollte mit Begriffen aus Kunstgeschichte, Fotografie und Film vertraut sein. Prompt Engineers, die Inhalte mit sprachlichem Kontext generieren, sollten gegebenenfalls verschiedene Erzählstile oder literarische Theorien kennen.

Neben einem breiten Spektrum an Kommunikationsfähigkeiten müssen Prompt Engineers auch generative KI-Tools und die Deep-Learning-Frameworks verstehen, die sie bei ihren Entscheidungen unterstützen. Prompt Engineers können die folgenden fortgeschrittenen Techniken einsetzen, um das Verständnis des Modells und die Qualität der Ausgabe zu verbessern:

• Beim Zero-Shot-Prompting wird dem Modell des maschinellen Lernens eine Aufgabe gestellt, für die es nicht explizit trainiert wurde. Zero-Shot-Prompting testet die Fähigkeit des Modells, relevanten Output zu produzieren, ohne auf vorherige Beispiele zurückgreifen zu können. Ein möglicher Prompt wäre die Aufforderung, Schlüsselwörter aus einem Text zu extrahieren, ohne jegliche Beispiele bereitzustellen, die dem Modell dabei helfen würden, die Aufgabe genauer zu verstehen.
• Beim Few-Shot-Prompting oder In-Context-Learning erhält das Modell einige Beispiel-Outputs (Shots), damit es lernt, was der Anfragesteller von ihm erwartet. Das Lernmodell kann besser verstehen, was für eine Ausgabe gewünscht ist, wenn es auf Kontext zurückgreifen kann. Ein Prompt zur Extraktion von Schlüsselwörtern könnte hier demnach um Beispieltexte und eine dazugehörige Liste an erwarteten Schlüsselwörtern erweitert werden. Das Modell könnte diese Daten zur Orientierung nutzen, um einen Output zu generieren, der den gewünschten Anforderungen entspricht.
• Chain-of-Thought-Prompting (CoT) ist eine fortgeschrittene Technik, die eine schrittweise Argumentation vorgibt, der das Modell folgen kann. Die Aufteilung einer komplexen Aufgabe in Zwischenschritte oder „Argumentationsketten“ ermöglicht dem Modell ein besseres Verständnis der Sprache und das Erzielen genauerer Outputs. Erweitert man beispielsweise einen Prompt, für den verschiedene Reiseverbindungen verglichen werden müssen, durch eine simple schrittweise Anleitung, die den Lösungsweg erläutert, kann das die Genauigkeit des Ergebnisses erhöhen. Zudem erleichtert dieser Ansatz die Suche nach möglichen Fehlerursachen, da sich bei einer Aufschlüsselung der Denkprozesse die Schritte identifizieren lassen, bei denen es zu Problemen gekommen sein könnte.

Da generative KI immer zugänglicher wird, entdecken Unternehmen neue und innovative Wege, um Prompt Engineering zur Lösung realer Probleme einzusetzen.