In diesem Tutorial führen wir Sie Schritt für Schritt durch eine Prompt-Engineering-Technik namens Rollen-Prompting. Wir verwenden ein IBM Granite-Modell, um Personas für differenzierte Modellausgaben zuzuweisen.
Rollenprompting ist eine Prompt Engineering-Technik, die ein KI-Modell anweist, beim Generieren einer Antwort eine bestimmte Rolle oder Persona einzunehmen. Mit dieser Technik lassen sich Tonfall, Stil und Verhalten des Modells steuern, was zu ansprechenderen Ausgaben führen kann.
Beim Prompt Engineering geht es darum, die Eingabe des Modells zu optimieren, damit es mit angemessenen, aussagekräftigen Antworten antwortet. Zero-Shot- und Few-Shot-Prompting sind zwei beliebte Techniken für die Konversation mit großen Sprachmodellen (LLMs). LLMs haben eine natürliche Fähigkeit, Aufgaben zur Verarbeitung natürlicher Sprache (NLP) auszuführen, da sie menschliche Sprache verarbeiten und interpretieren können. Die sprachlichen Fähigkeiten von KI-Modellen sind wertvoll für Aufgaben, die von Chatbot-Konversationen und Multiagenten-Interaktionen bis hin zu offenem kreativem Schreiben reichen.
Generative KI (Gen AI) wird persönlicher, wenn ein LLM angewiesen wird, als eine bestimmte Person zu agieren, um die spezifischen Bedürfnisse einer Rolle zu erfüllen. Wenn der KI eine bestimmte Rolle zugewiesen wird, können ihre Antworten genauer und relevanter ausfallen. KI-Modelle nutzen riesige Datensätze, sodass die zugewiesene Rolle alles sein kann: eine Lehrkraft, eine historische Persönlichkeit, ein Verkäufer oder Ähnliches. Die einzige Grenze ist die eigene Vorstellungskraft. Dieser Aspekt macht das Rollen-Prompting, oder Persona-Prompting, zu einer so effektiven Technik. Dank seiner Anpassungsfähigkeit ist ein KI-Modell ein Meister der Tarnung. Er kann Antworten generieren, die auf die spezifischen Bedürfnisse eines Benutzers oder Systems zugeschnitten sind.
Mithilfe von Rollen-Prompting kann einem Chatbot oder KI-Agenten eine Persona gegeben werden, um eine bessere Interaktion mit Benutzern bzw. anderen Bearbeitern zu ermöglichen. Wenn Sie mit Prompts vertraut sind, haben Sie vielleicht bereits Rollen-Prompting in Aktion erlebt. Zum Beispiel verwenden viele Frameworks rollenspielbasierte Agenten, um Aufgaben zu erledigen und effektiv zusammenzuarbeiten. ChatDev verwendet eine Prompting-Technik, die als Selbstaufmerksamkeitsmechanismus bezeichnet wird. Dieser Mechanismus definiert klar die Rolle des Agenten, was als Richtlinie für die generierten Ausgaben dient.
Um diesem Tutorial folgen zu können, benötigen Sie ein IBM® Cloud-Konto, um ein watsonx.ai- Projekt erstellen zu können.
Sie können zwar aus mehreren Tools wählen, aber dieses Tutorial führt Sie durch die Einrichtung eines IBM® Kontos für die Verwendung eines Jupyter Notebook. Jupyter Notebooks werden häufig in der Data Science eingesetzt, um Code, Text, Bilder und Datenvisualisierungen zu kombinieren und eine fundierte Analyse zu formulieren.
Die Projekt-ID finden Sie unter Projekt > Verwalten > Allgemein > Projekt-ID.
Sie benötigen diese ID für dieses Tutorial.
3. Erstellen Sie ein Jupyter Notebook.
Mit diesem Schritt wird eine Notebook-Umgebung geöffnet, in die Sie den Code aus diesem Tutorial kopieren können, um selbst eine Zero-Shot-Klassifizierung durchzuführen. Alternativ können Sie dieses Notebook auf Ihr lokales System herunterladen und als Asset in Ihr watsonx.ai-Projekt hochladen. Dieses Jupyter Notebook ist auf GitHub verfügbar .
In diesem Schritt verknüpfen Sie Ihr Projekt mit dem watsonx.ai-Service.
Erstellen Sie eine watsonx.ai Runtime-Instanz (wählen Sie den Lite-Plan als kostenlose Instanz).
Generieren Sie einen API-Schlüssel in watsonx.ai.
Verknüpfen Sie watsonx.ai Runtime mit dem Projekt, das Sie in watsonx.ai erstellt haben.
Für dieses Tutorial benötigen wir einige Bibliotheken und Module. Stellen Sie sicher, dass Sie die folgenden Dateien importieren. Wenn sie nicht installiert sind, wird das Problem durch eine schnelle Pip-Installation behoben.
Führen Sie den folgenden Befehl aus, um Ihren watsonx.ai Runtime-API-Schlüssel und Ihre Projekt-ID einzugeben und zu speichern:
Als Nächstes richten wir Granite-3.1-8B-Instruct von IBM ein, um Rollenprompting durchzuführen.
Um ein einfaches und unterhaltsames Beispiel für Rollenprompting zu geben, bitten wir das Model, die Rolle einer berühmten Figur, William Shakespeare, anzunehmen. Wir werden das Modell mit seiner neu zugewiesenen Rolle bitten, einige Liedtexte im Stil von Shakespeares berühmten Sonetten umzuschreiben.
Der folgende Codeblock richtet den Prompt ein, auf den das Modell reagieren soll, und definiert ihn. Sie können den Titel nach Belieben ändern, aber beachten Sie, dass Granite nicht mit urheberrechtlich geschützten Inhalten trainiert wurde. Wenn Sie einen Titel auswählen, der nicht Teil der öffentlichen Domain ist, beispielsweise „Espresso“ von Sabrina Carpenter, müssen Sie auch den Text mit dem Prompt einfügen.
Damit der Prompt reibungslos funktioniert, wird in diesem Beispiel das klassische Wiegenlied für Kinder „Twinkle, Twinkle, Little Star“ von Jane Taylor aus dem Jahr 1806 verwendet. Führen Sie den Codeblock aus, um sowohl Ihren Prompt als auch einen Beispieltext für die Eingabe zu definieren.
Sobald der Prompt definiert ist, können wir den nächsten Codeblock ausführen, damit das Modell eine Ausgabe generieren kann. Hoffen wir, dass es unseren literarischen Standards entspricht.
Hier ist die Ausgabe des Modells mit lesbarer Formatierung:
„Twinkle, twinkle, little star, how I wonder what you are;
Up above the world so high, like a diamond in the sky.
In night's velvet cloak, you shine so bright,
Guiding sailors through the darkest night.
Your radiant beams, a celestial art,
Illuminate the canvas of the heart.
In silent whispers, secrets you share,
Of galaxies far and constellations rare.
Yet, mortal eyes can never grasp your form,
Beyond our realm, in realms beyond the storm.
O, star! O, star! Your light does pierce my soul,
A cosmic dance, a timeless role.
In dreams, I chase you, in slumber's hold,
Your mystery, like an enchanted scroll.
But wakefulness claims me, daylight steals your guise,
Leaving behind but a memory of your surprise.
Thus, twinkling star, in slumber's peaceful reign,
I bid you farewell, till morning brings again.“
Das Modell konnte auf den Prompt antworten und das Lied in ein Sonett im Stil von Shakespeare umschreiben. s hielt sich dabei an die Regeln und den Stil, die der Prompt voraussetzte. *Beachten Sie, dass aufgrund des kreativen Charakters des Prompts Ihre Ausgabe anders aussehen könnte als dieses Beispiel.
In diesem nächsten Beispiel vergleichen wir einen einfachen Prompt mit einem rollenbasierten Prompt. Nehmen wir an, eine Veterinärpraxis hat kürzlich einen virtuellen Assistenten auf ihrer Webseite implementiert. Um den besten Kundensupport zu bieten, möchte die Praxis sicherstellen, dass sich die Tierbesitzer auch bei ihren virtuellen Interaktionen gehört und unterstützt fühlen – ein nachvollziehbares Ziel für viele Unternehmen. Ein Besucher könnte eine Frage stellen wie: „Meine Hauskatze hat in letzter Zeit viel geniest und leckt sich die Pfoten. Was soll ich tun?“ In diesem Szenario wurde dem Modell keine Rolle in seinem Prompt zugewiesen. Wir verwenden das Modell einfach ohne Eingabehilfen.
Entsprechend antwortet das Modell mit Ratschlägen und Informationen. Es gibt jedoch keine persönliche Note und die Antworten unterscheiden sich kaum von den Ergebnissen einer Suchmaschine. Die Ausgabe des Modells ist ungefiltert und es mangelt ihr an Kreativität. Diese Lösung mag akzeptabel sein, aber sie hebt den virtuellen Assistenten dieser Veterinärpraxis nicht von den anderen ab. Versuchen wir es mit derselben Frage noch einmal, diesmal mit der Zuweisung der Rolle eines „mitfühlenden, professionellen und erfahrenen Tierarztes“.
Die Sprache in der Antwort des Modells ist menschlicher, da sie ein emotionales Bewusstsein für den Kontext aufweist, das bei dem einfachen Systemprompt fehlte. Das Modell war in der Lage, diesen Ton zu erreichen und gleichzeitig eine vollständige und relevante Antwort zu liefern, was beweist, dass es sich um eine nuanciertere Antwort handelt. Diese Art der menschlichen Interaktion mit künstlicher Intelligenz ist eine Möglichkeit, subjektive Erwartungen innerhalb von Unternehmen und Anwendungen zu erfüllen.
Wenn Sie ein Entwickler oder Unternehmen sind und Ihre generativen KI-Anwendungen um mehr Personalisierung und sinnvolle Interaktionen erweitern möchten, sollten Sie sich darüber im Klaren sein, wie das Rollenprompting einen Unterschied machen kann. Die meisten modernen Sprachmodelle sind zum Rollenprompting in der Lage. Einige Basismodelle erfassen möglicherweise nicht die Nuancen der Rolle oder halten ihre Antworten nicht konsistent, während andere möglicherweise nicht darauf abgestimmt sind, auf eine bestimmte Weise zu reagieren. Foundation Models wie die Granite-Serie von IBM werden anhand großer Mengen unternehmensspezifischer Daten trainiert. Dadurch können die Modelle besser Rollen übernehmen, um maßgeschneiderte Antworten auf der Grundlage von Geschäftsanforderungen zu erzeugen.
Rollenprompting ermutigt das Modell, entsprechend den Erwartungen an die ihm zugewiesene Rolle konstant zu agieren. Wir haben ein einfaches Beispiel aufgeführt, indem wir dem LLM die Rolle einer historischen Persönlichkeit in unserem Prompt zugewiesen haben, um einen Songtext in ein Sonett zu verwandeln. Als Nächstes haben wir die Ausgabe eines Modells ohne Rollenprompting mit der eines Modells mit Prompt für Chatbot-Antworten verglichen. Wir haben festgestellt, dass die Antwort durch das Rollenprompting in ihrer Sprache nuancierter und unterstützender ist, was eine bessere Kundenbetreuung bietet.