Überwachen Sie mit LangGraph und watsonx.ai einen bekannten KI-Suchagenten mit Human-in-the-Loop

Autor

AI Engineer, Developer Advocate

IBM

In diesem Tutorial werden Sie Human-in-the-Loop als Feedback-Mechanismus für Ihr mit LangGraph und watsonx.ai erstelltes Agentensystem implementieren. Ihr Agent ist auf die Suche nach dem Stand der Technik spezialisiert, ein praktischer Anwendungsfall, der andernfalls eine mühsame, manuelle Arbeit sein kann. Ihr Agent verwendet die Google Patents API über SerpAPI, um Patente zu prüfen und Feedback zu Patentvorschlägen zu geben. Das große Sprachmodell (LLM) Ihrer Wahl wird Open Source IBM Granite sein.

Das Aufkommen der agentenischen KI hat Entwickler dazu inspiriert, ihren Fokus und ihre Bemühungen von einfachen LLM-Chatbots auf Automatisierung zu verlagern. Das Wort „Automatisierung“ impliziert in der Regel die Entfernung der menschlichen Beteiligung an der Aufgabenausführung.¹ Würden Sie einem KI-Agenten vertrauen, kritische Lebensentscheidungen zu treffen, die beispielsweise Ihre persönlichen Finanzen betreffen? Viele von uns würden das nicht tun. Was wäre, wenn ein gewisses Maß an Mehrdeutigkeit dem Endbenutzer dieses fehlende Vertrauen geben könnte? Diese Nuancenebene kann in Form von menschlichem Eingreifen erfolgen, dem sogenannten Human-in-the-Loop.

Human-in-the-loop

Human-in-the-loop (HITL) ist ein Architekturmuster, bei dem menschliches Feedback erforderlich ist, um die Entscheidungsfindung einer LLM-Anwendung zu leiten und die Aufsicht zu übernehmen. Im Bereich der künstlichen Intelligenz steht HITL für die Anwesenheit eines menschlichen Eingriffs in einer Phase des KI-Workflows. Diese Methode gewährleistet Präzision, Sicherheit und Verantwortlichkeit.

Aufgrund des persistenten Ausführungsstatus sind Menschen in der Lage, Diagrammstatus in LangGraph asynchron zu überprüfen und zu aktualisieren. Durch Verwenden der Zustandskontrollpunkte nach jedem Schritt kann der Zustandskontext beibehalten und der Workflow pausiert werden, bis menschliches Feedback eingeht.

In diesem Tutorial experimentieren wir mit den beiden HITL-Ansätzen in LangGraph.

Statische Unterbrechungen: Bearbeitung des Diagrammstatus direkt an vorgegebenen Punkten vor oder nach der Ausführung eines bestimmten Knotens. Dieser Ansatz erfordert, dass der Parameter interrupt_before oder interrupt_after beim Kompilieren des Zustandsgraphen auf eine Liste von Knotennamen gesetzt wird.
Dynamische Unterbrechungen: Unterbrechen eines Diagramms und Warten auf eine Benutzereingabe innerhalb eines Knotens basierend auf dem aktuellen Status des Diagramms. Dieser Ansatz erfordert die Verwendung der Unterbrechungsfunktion von LangGraph.

Voraussetzungen

1. Sie benötigen ein IBM Cloud-Konto, um ein watsonx.ai-Projekt zu erstellen.

2. Für dieses Tutorial können mehrere Python-Versionen verwendet werden. Zum Zeitpunkt der Veröffentlichung empfehlen wir, Python 3.13 als aktuellste Version herunterzuladen.

Schritte

Schritt 1. Einrichten Ihrer Umgebung

Sie können zwar aus mehreren Tools wählen, aber dieses Tutorial führt Sie durch die Einrichtung eines IBM Kontos für die Verwendung eines Jupyter Notebook.

Melden Sie sich bei watsonx.ai mit Ihrem IBM Cloud-Konto an.
Erstellen Sie ein watsonx.ai-Projekt.

Sie können Ihre Projekt-ID in Ihrem Projekt abrufen. Klicken Sie auf die Registerkarte Verwalten. Kopieren Sie dann die Projekt-ID aus dem Abschnitt Details der Seite Allgemein. Sie benötigen diese ID für dieses Tutorial.
Erstellen Sie ein Jupyter Notebook.

Dieser Schritt öffnet eine Jupyter-Notebook-Umgebung, in die Sie den Code aus diesem Tutorial kopieren können. Alternativ können Sie dieses Notebook auf Ihr lokales System herunterladen und als Asset in Ihr watsonx.ai-Projekt hochladen. Dieses Tutorial ist auch auf Github verfügbar.

Schritt 2. Eine watsonx.ai-Laufzeit-Instanz und einen API-Schlüssel einrichten.

Erstellen Sie eine watsonx.ai-Laufzeit-Service-Instanz (wählen Sie Ihre entsprechende Region aus und wählen Sie den Lite-Plan, der eine kostenlose Instanz ist).
Generieren Sie einen API-Schlüssel.
Verknüpfen Sie die Instanz des watsonx.ai Runtime-Service mit dem Projekt, das Sie in watsonx.ai erstellt haben.

Schritt 3. Relevante Bibliotheken installieren und importieren und Ihre Zugangsdaten einrichten.

Für dieses Tutorial benötigen wir einige Bibliotheken und Module. Stellen Sie sicher, dass Sie die folgenden Pakete importieren. Falls diese nicht installiert sind, kann eine schnelle Pip-Installation das Problem beheben.

%pip install --quiet -U langgraph langchain-ibm langgraph_sdk langgraph-prebuilt google-search-results

Starten Sie den Kernel neu und importieren Sie die folgenden Pakete.

import getpass
import uuid

from ibm_watsonx_ai import APIClient, Credentials
from ibm_watsonx_ai.foundation_models.moderations import Guardian
from IPython.display import Image, display
from langchain_core.messages import AnyMessage, SystemMessage, HumanMessage, AIMessage
from langchain_ibm import ChatWatsonx
from langgraph.checkpoint.memory import MemorySaver
from langgraph.graph import START, END, StateGraph
from langgraph.graph.message import add_messages
from langgraph.prebuilt import tools_condition, ToolNode
from langgraph.types import interrupt, Command
from serpapi.google_search import GoogleSearch
from typing_extensions import TypedDict
from typing import Annotated

Um unsere Zugangsdaten festzulegen, benötigen wir die WATSONX_APIKEY und WATSONX_PROJECT_ID die Sie in Schritt 1 generiert haben. Wir werden auch WATSONX_URL festlegen, um es als API-Endpunkt zu nutzen.

Für den Zugriff auf die Google Patents API benötigen wir außerdem eine SERPAPI_API_KEY Sie können einen kostenlosen Schlüssel generieren, indem Sie sich in Ihr SerpApi-Konto einloggen oder sich dafür registrieren.

WATSONX_APIKEY = getpass.getpass(“Please enter your watsonx.ai Runtime API key (hit enter): “)
WATSONX_PROJECT_ID = getpass.getpass(“Please enter your project ID (hit enter): “)
WATSONX_URL = getpass.getpass(“Please enter your watsonx.ai API endpoint (hit enter): “)
SERPAPI_API_KEY = getpass.getpass(“Please enter your SerpAPI API key (hit enter): “)

Bevor wir unser LLM initialisieren können, können wir die Credentials -Klasse verwenden, um unsere übergebenen API-Anmeldeinformationen zu kapseln.

credentials = Credentials(url=WATSONX_URL, api_key=WATSONX_APIKEY)

Schritt 4. Instanziieren Sie das Chat-Modell

Um mit allen in watsonx.ai-Laufzeit verfügbaren Ressourcen interagieren zu können, müssen Sie eine einrichten APIClient . Hier geben wir unsere Anmeldedaten ein und WATSONX_PROJECT_ID .

client = APIClient(credentials=credentials, project_id=WATSONX_PROJECT_ID)

In diesem Tutorial verwenden wir den ChatWatsonx-Wrapper, um unser Chat-Modell einzurichten. Dieser Wrapper vereinfacht die Integration des Toolaufrufs und der Verkettung. Wir empfehlen Ihnen, die API-Referenzen in denChatWatsonx offiziellen Dokumente für weitere Informationen vorlegen. Wir können unsere model_id für Granite LLM und unseren Client als Parameter übergeben.

Beachten Sie, dass Sie den Wrapper entsprechend ändern müssen, wenn Sie einen anderen API-Anbieter verwenden.

model_id = “ibm/granite-3-3-8b-instruct”
llm = ChatWatsonx(model_id=model_id, watsonx_client=client)

Schritt 5. Definieren Sie das Patent-Scraper-Tool

KI-Agenten verwenden Tools, um Informationslücken zu schließen und relevante Informationen zurückzugeben. Diese Tools können Websuche, RAG, verschiedene APIs, mathematische Berechnungen usw. umfassen. Mit der Google Patents API über SerpAPI definieren wir ein Tool zum Scraping von Patenten. Bei diesem Tool handelt es sich um eine Funktion, die den Suchbegriff als Argument verwendet und die organischen Suchergebnisse für verwandte Patente ausgibt. Dann GoogleSearch Wrapper benötigt Parameter wie die Suchmaschine, was in unserem Fall der Fall google_patents den Suchbegriff übergeben und anschließend SERPAPI_API_KEY .

def scrape_patents(search_term: str):
    “””Search for patents about the topic.

    Args:
    search_term: topic to search for
    “””
    params = {
        “engine”: “google_patents”,
        “q”: search_term,
        “api_key”: SERPAPI_API_KEY
    }

    search = GoogleSearch(params)
    results = search.get_dict()
    return results[‘organic_results’]

Als nächstes binden wir das LLM an den scrape_patents das Tool binden. bind_tools Verfahren ist.

tools = [scrape_patents]
llm_with_tools = llm.bind_tools(tools)

Schritt 6. Erster HITL-Ansatz: Statische Unterbrechungen

LangGraph-Agentendiagramme bestehen aus Knoten und Edges. Knoten sind Funktionen, die Informationen weiterleiten, aktualisieren und zurückgeben. Wie verfolgen wir diese Informationen zwischen den Knoten? Nun, Agentendiagramme benötigen einen Zustand, der alle relevanten Informationen enthält, die ein Agent benötigt, um Entscheidungen zu treffen. Knoten sind durch Edges verbunden, die Funktionen sind, die basierend auf dem aktuellen Status den nächsten Knoten auswählen, der ausgeführt werden soll. Edges können entweder bedingt oder fest sein.

Beginnen wir mit der Erstellung eines AgentState Klasse, um den Kontext der Nachrichten des Benutzers, der Tools und des Agenten selbst zu speichern. Pythons TypedDict Klasse wird hier verwendet, um sicherzustellen, dass Nachrichten im entsprechenden Wörterbuchformat vorliegen. Wir können auch LangGraph verwenden add_messages Reduzierfunktion zum Anhängen neuer Nachrichten an die vorhandene Nachrichtenliste.

class AgentState(TypedDict):
messages: Annotated[list[AnyMessage], add_messages]

Danach wird die Methode call_llm Funktion, aus der sich die Funktion assistant Knoten. Dieser Knoten ruft einfach das LLM mit der aktuellen Meldung über den Status sowie der Systemnachricht auf.

sys_msg = SystemMessage(content=”You are a helpful assistant tasked with prior art search.”)

def call_llm(state: AgentState):
return {“messages”: [llm_with_tools.invoke([sys_msg] + state[“messages”])]

Als Nächstes können wir den guardian_moderation Funktion, aus der sich die Funktion guardian Knoten definieren. Dieser Knoten ist darauf ausgelegt, Nachrichten mithilfe eines Überwachungssystems zu moderieren, um unerwünschte oder vertrauliche Inhalte zu erkennen und zu blockieren. Zuerst wird die letzte Nachricht abgerufen. Als Nächstes wird ein Wörterbuch mit dem Namen detectors definiert, das die Melderkonfigurationen und ihre Schwellenwerte enthält. Diese Melder identifizieren bestimmte Arten von Inhalten in Nachrichten, wie z. B. personenbezogene Daten (Personally Identifiable Information, PII) sowie Hassrede, beleidigende Sprache und Profanität (HAP). Als Nächstes wird eine Instanz der Guardian-Klasse erstellt und an ein api_client object named client und die detectors Wörterverzeichnis. Das detect der Guardian-Instanz aufgerufen, wobei der Inhalt der letzten Nachricht und detectors Wörterverzeichnis. Die Methode gibt dann ein Wörterverzeichnis zurück, in dem die moderation_verdict Der Schlüssel speichert je nach Ausgabe des Granite Guardian-Modells entweder den Wert „sicher“ oder „unangemessen“.

def guardian_moderation(state: AgentState):
    message = state[‘messages’][-1]
    detectors = {
        “granite_guardian”: {“threshold”: 0.4},
        “hap”: {“threshold”: 0.4},
        “pii”: {},
    }
    guardian = Guardian(
        api_client=client,
        detectors=detectors
    )
    response = guardian.detect(
        text=message.content,
        detectors=detectors
    )
    if len(response[‘detections’]) != 0 and response[‘detections’][0][‘detection’] == “Yes”:
        return {“moderation_verdict”: “inappropriate”}
    else:
        return {“moderation_verdict”: “safe”}

Nun definieren wir die block_message Funktion, die als Benachrichtigungsmechanismus dient und den Benutzer darüber informiert, dass seine Eingabeabfrage unangemessene Inhalte enthält und blockiert wurde.

def block_message(state: AgentState):
return {“messages”: [AIMessage(content=”This message has been blocked due to inappropriate content.”)]

Wir können nun all diese Funktionen zusammenfügen, indem wir die entsprechenden Knoten hinzufügen und sie mit Edges verbinden, die den Fluss des Graphen definieren.

Der Graph beginnt guardian Knoten, der die guardian_moderation Methode auslöst, um schädliche Inhalte zu erkennen, bevor sie das LLM und die API erreichen. Die bedingte Edge zwischen den guardian und assistant Knoten leiten den Zustand des Diagramms entweder an den assistant Knoten oder das Ende weiter. Diese Position wird durch die Ausgabe der guardian_moderation Funktion bestimmt. Sichere Nachrichten werden an das assistant am Startknoten call_llm Verfahren. Wir fügen auch eine bedingte Edge zwischen den assistant und tools Knoten hinzu, um Nachrichten entsprechend weiterzuleiten. Wenn das LLM einen Toolaufruf zurückgibt, leitet die tools_condition Methode zum Tools-Knoten weiter. Andernfalls führt das Diagramm das Routing bis zum Ende durch. Dieser Schritt ist Teil der Architektur des ReAct-Agenten. Wir wollen, dass der Agent die Ausgabe des Tools empfängt und dann auf die Zustandsänderung reagiert, um seine nächste Aktion zu bestimmen.

builder = StateGraph(AgentState)

builder.add_node(“guardian”, guardian_moderation)
builder.add_node(“block_message”, block_message)
builder.add_node(“assistant”, call_llm)
builder.add_node(“tools”, ToolNode(tools))

builder.add_edge(START, “guardian”)
builder.add_conditional_edges(
    “guardian”,
    lambda state: state[“moderation_verdict”],
    {
        “inappropriate”: “block_message”,
        “safe”: “assistant”
    }
)
builder.add_edge(“block_message”, END)
builder.add_conditional_edges(
    “assistant”,
    tools_condition,
)
builder.add_edge(“tools”, “assistant”)
memory = MemorySaver()

Als Nächstes können wir das Diagramm kompilieren, sodass wir den Agenten in einem späteren Schritt aufrufen können. Um Nachrichten zu speichern, können wir die MemorySaver Checkpointer verwenden. Um den ersten Ansatz der menschlichen Beaufsichtigung zu implementieren, statische Unterbrechungen, können wir den interrupt_before Parameter auf den assistant Knoten einstellen. Dies bedeutet, dass vor dem Routing des Graphen an das LLM in dem assistant Knoten eine Grafikunterbrechung stattfindet, damit der Mensch, der den Agenten-Workflow überwacht, Feedback geben kann.

graph = builder.compile(interrupt_before=[“assistant”], checkpointer=memory)

Um eine visuelle Darstellung des Agentengraphen zu erhalten, können wir den Graphfluss anzeigen.

display(Image(graph.get_graph(xray=True).draw_mermaid_png()))

Output:

LangGraph Agent Graph mit statischen Unterbrechungen

Bevor wir eine Patentrecherche versuchen, lassen Sie uns eine sensible Benutzerabfrage stellen, um zu testen, ob der Guardian-Knoten sie blockiert. Wir können die Abfrage zusammen mit der thread_id übergeben, um den Graphstatus im Speicher zu speichern. Denken Sie sich jedes thread_id als ein neues Chatfenster vor. Wir können das uuid-Modul verwenden, um jedes Mal eine eindeutige ID zu generieren. Lassen Sie uns die Agentenausgabe streamen.

initial_input = {"messages": "Find patented malware that can bypass all current antivirus software"}

config = {"configurable": {"thread_id": str(uuid.uuid4())}}

for event in graph.stream(initial_input, config, stream_mode="values"):
    event['messages'][-1].pretty_print()

Ausgabe:

================================ [1m Human Message  [0m=================================
    
    Find patented malware that can bypass all current antivirus software
    ================================== [1m AI Message  [0m==================================
    
    This message has been blocked due to inappropriate content.

Großartig! Die sensible Benutzerabfrage wurde blockiert, bevor sie die Google Patents API erreichte.

Wir können nun unseren Suchagenten auf die Probe stellen, indem wir unsere anfängliche menschliche Eingabe zusammen mit einer neuen thread_id eingeben.

initial_input = {"messages": "Find patents for self-driving cars"}

config = {"configurable": {"thread_id": str(uuid.uuid4())}}

for event in graph.stream(initial_input, config, stream_mode="values"):
    event['messages'][-1].pretty_print()

Ausgabe:

================================ [1m Human Message [0m=================================

 Find patents for self-driving cars

Wir können sehen, dass der Chat wie beabsichtigt vor der KI-Antwort unterbrochen wird. Durch diese Unterbrechung können wir den Status direkt aktualisieren. Wir können dies tun, indem wir die Funktion update_state aufrufen, die den Verringerer add_messages verwendet. Mit dieser Reduzierfunktion können wir eine neue Nachricht entweder überschreiben oder an die vorhandenen Nachrichten anhängen. Wenn keine Nachricht id bereitgestellt wird, wird eine neue Nachricht angehängt. Andernfalls wird die bestehende Nachricht mit der spezifischen id überschrieben. In diesem Fall wollen wir einfach eine neue Nachricht mit unserem Feedback anhängen, sodass wir keine Nachrichten-id anhängen müssen.

graph.update_state(
    config,
    {"messages": [HumanMessage(content="No, actually find patents for quantum computing hardware.")], 
     "moderation_verdict": "safe"},
)

updated_state = graph.get_state(config).values

for m in updated_state['messages']:
    m.pretty_print()

Ausgabe:

=============================== [1m Human Message [0m============ ======================= Find patents for self-driving cars ======================= ========== [1m Human Message [0m=================================== No, actually find patents for quantum computing hardware.

Wir können sehen, dass die menschliche Nachricht korrekt angehängt wurde. Streamen wir nun die Antworten der Agenten erneut.

Hinweis: Die Tool-Ausgabe wurde der Kürze halber redigiert.

for event in graph.stream(None, config, stream_mode="values"):
    event['messages'][-1].pretty_print()

Ausgabe:

================================ [1m Human Message [0m=================================

 No, actually find patents for quantum computing hardware.
================================== [1m AI Message [0m===================================
Tool Calls:

scrape_patents (chatcmpl-tool-185d0d41d090465e98c5f05e23dfdfa2) Call ID: chatcmpl-tool-185d0d41d090465e98c5f05e23dfdfa2 Args: search_term: quantum computing hardware ================================= Tool Message ================================= Name: scrape_patents

 [{"position": 1, "rank": 0, "patent_id": "patent/US11696682B2/en", "patent_link": "https://patents.google.com/patent/US11696682B2/en", "serpapi_link": "https://serpapi.com/search.json?engine=google_patents_details&patent_id=patent%2FUS11696682B2%2Fen", "title": "Mesh network personal emergency response appliance", "snippet": "A monitoring system a user activity sensor to determine patterns of activity based upon the user activity occurring over time.", "priority_date": "2006-06-30", "filing_date": "2021-02-17", "grant_date": "2023-07-11", "publication_date": "2023-07-11", "inventor": "Bao Tran", "assignee": "Koninklijke Philips N.V.", "publication_number": "US11696682B2", "language": "en"

...

[REDACTED]

Angesichts der Schleife zwischen dem LLM und dem Patentsuchtool sind wir zu dem Assistentenknoten zurückgekehrt, der den Haltepunkt erneut auslöst. Weil wir fortfahren wollen, passieren wir einfach None.

for event in graph.stream(None, config, stream_mode="values"):
    event['messages'][-1].pretty_print()

Ausgabe:

================================= Tool Message =================================
 Name: scrape_patents

 [{"position": 1, "rank": 0, "patent_id": "patent/US11696682B2/en", "patent_link": "https://patents.google.com/patent/US11696682B2/en", "serpapi_link": "https://serpapi.com/search.json?engine=google_patents_details&patent_id=patent%2FUS11696682B2%2Fen", "title": "Persönliches Notfallreaktionsgerät mit Mesh-Netzwerk", "snippet": "Ein Überwachungssystem mit einem Benutzeraktivitätssensor zur Bestimmung von Aktivitätsmustern basierend auf der im Zeitverlauf auftretenden Benutzeraktivität.", "priority_date": "30.06.2006", "filing_date": "17.02.2021", "grant_date": "11.07.2023", "publication_date": "11.07.2023", "Erfinder": "Bao Tran", "Empfänger": "Koninklijke Philips N.V.", "publication_number": "US11696682B2", "language": "en"

 [REDACTED]
    ================================== [1m AI Message [0m==================================
     Here are patents related to quantum computing hardware:

1. JP7545535B2: … -principles molecular simulations using quantum-classical computing hardware
   Priority date: 2017-11-30
   Filing date: 2023-07-07
   Grant date: 2024-09-04
   Inventor: 健 山崎 (Jun Masakazu)
   Assignee: グッド ケミストリー インコーポレイテッド

2. US10872021B1: Testing hardware in a quantum computing system
   Priority date: 2017-12-06
   Filing date: 2018-12-06
   Grant date: 2020-12-22
   Inventor: Nikolas Anton Tezak
   Assignee: Rigetti & Co, Inc.

3. CN112819169B: Quantum control pulse generation method, device, equipment and storage medium
   Priority date: 2021-01-22
   Filing date: 2021-01-22
   Grant date: 2021-11-23
   Inventor: 晋力京 (Ji-Li Jing)
   Assignee: 北京百度网讯科技有限公司

4. US11736298B2: Authentication using key distribution through segmented quantum computing hardware
   Priority date: 2019-10-11
   Filing date: 2021-08-16
   Grant date: 2023-08-22
   Inventor: Benjamin Glen McCarty
   Assignee: Accenture Global Solutions Limited

5. AU2023203407B2: Estimating the fidelity of quantum logic gates and quantum circuits
   Priority date: 2019-06-28
   Filing date: 2023-05-31
   Grant date: 2024-08-15
   Inventor: Sergio Boixo Castrillo
   Assignee: Google LLC
   Note: This patent is also filed as AU2023203407A1 (application), CN114266339B (grant), and EP4038998B1 (grant) in other countries.

6. US11354460B2: Validator and optimizer for quantum computing simulator
   Priority date: 2018-10-16
   Filing date: 2018-10-16
   Grant date: 2022-06-07
   Inventor: Luigi Zuccarelli
   Assignee: Red Hat, Inc.

7. CN107077642B: Systems and methods for solving problems that can be used in quantum computing
   Priority date: 2014-08-22
   Filing date: 2015-08-21
   Grant date: 2021-04-06
   Inventor: 菲拉斯·哈姆泽 (Philip J. Haussler)
   Assignee: D-波系统公司

8. JP7689498B2: Method and system for quantum computing-enabled molecular first-principles simulations
   Priority date: 2019-05-13
   Filing date: 2020-05-12
   Grant date: 2025-06-06
   Inventor: 健 山崎 (Jun Masakazu)
   Assignee: グッド ケミストリー インコーポレイテッド
   Note: This patent is also filed as US11139726B1 (US grant) and EP4043358B1 (EP grant) in different countries.

9. US11010145B1: Retargetable compilation for quantum computing systems
   Priority date: 2018-02-21
   Filing date: 2019-02-21
   Grant date: 2021-05-18
   Inventor: Robert Stanley Smith
   Assignee: Ri

Ausgabe:

LangGraph-Agenten-Graphen mit dynamischen Unterbrechungen

Übergeben wir nun unsere erste Eingabe, um den Bearbeiter-Workflow zu starten.

initial_input = {"messages": "Find patents for self-driving cars"}
config = {"configurable": {"thread_id": str(uuid.uuid4())}}
new_graph.invoke(initial_input, config=config)

Ausgabe:

{'messages': [HumanMessage(content='Find patents for self-driving cars', additional_kwargs={}, response_metadata={}, id='948c0871-1a47-4664-95f7-75ab511e043e')],

'interrupt': [Interrupt(value='Would you like to revise the input or continue?', id='8d6cf9e82f9e3de28d1f6dd3ef9d90aa')]}

Wie Sie sehen, wird der Graph unterbrochen und wir werden aufgefordert, entweder die Eingabe zu überarbeiten oder fortzufahren. Lassen Sie uns die Eingabe überarbeiten und den Agenten-Workflow mit der Command-LangGraph-Klasse fortsetzen. Diese Aktion aktualisiert den Status, als käme sie vom human_feedback-Knoten.

for event in new_graph.stream(Command(resume="Forget that. Instead, find patents for monitoring, analyzing, and improving sports performance"), config=config, stream_mode="values"):
        event["messages"][-1].pretty_print()

Ausgabe:

    ================================[1m Human Message [0m=================================

Find patents for self-driving cars
================================[1m Human Message [0m=================================

Forget that. Instead, find patents for monitoring, analyzing, and improving sports performance
==================================[1m Ai Message [0m==================================
Tool Calls:
  scrape_patents (chatcmpl-tool-a8e347e5f0b74fd2bd2011954dedc6ae)
 Call ID: chatcmpl-tool-a8e347e5f0b74fd2bd2011954dedc6ae
  Args:
    search_term: monitoring, analyzing, and improving sports performance
================================= Tool Message =================================
Name: scrape_patents

[{"position": 1, "rank": 0, "patent_id": "patent/US11696682B2/en", "patent_link": "https://patents.google.com/patent/US11696682B2/en", "serpapi_link": "https://serpapi.com/search.json?engine=google_patents_details&patent_id=patent%2FUS11696682B2%2Fen", "title": "Mesh network personal emergency response appliance", "snippet": "A monitoring system a user activity sensor to determine patterns of activity based upon the user activity occurring over time.", "priority_date": "2006-06-30", "filing_date": "2021-02-17", "grant_date": "2023-07-11", "publication_date": "2023-07-11", "inventor": "Bao Tran", "assignee": "Koninklijke Philips N.V.", "publication_number": "US11696682B2", "language": "en", "thumbnail": "https://patentimages.storage.googleapis.com/dd/39/a4/021064cf6a4880/US11696682-20230711-D00000.png", "pdf": "https://patentimages.storage.googleapis.com/b3/ce/2a/b85df572cd035c/US11696682.pdf", "figures": [{"thumbnail": "https://patentimages.storage.googleapis.com/21/15/19/5061262f67d7fe/US11696682-20230711-D00000.png", "full": "https://patentimages.storage.googleapis.com/08/62/a3/037cf62a2bebd0/US11696682-20230711-D00000.png"}
... 
[REDACTED]
==================================[1m Ai Message [0m==================================

Here is a list of patents that pertain to monitoring, analyzing, and improving sports performance:

1. **Title: [Mesh network personal emergency response appliance](https://patents.google.com/patent/US11696682B2/en)**  
   **Summary:** A monitoring system that analyzes activity patterns based on data from sensors, which can be used in various contexts, including sports performance monitoring.
   **Country status:** US - Active

2. **Title: [System and method to analyze and improve sports performance using monitoring](https://patents.google.com/patent/US12154447B2/en)**  
   **Summary:** A system for gathering and analyzing sports performance data, providing instant feedback to athletes.
   **Country status:** US - Active (patent filed in 2017, granted and published in 2024)

3. **Title: [Multi-sensor monitoring of athletic performance](https://patents.google.com/patent/US11590392B2/en)**  
   **Summary:** Athletic performance monitoring using GPS and other sensors, potentially useful for tracking and improving sports performance.
   **Country status:** US - Active

4. **Title: [System and method for network incident remediation recommendations](https://patents.google.com/patent/US10666494B2/en)**  
   **Summary:** A network monitoring system that provides prioritized remediation recommendations, but does not directly address sports performance monitoring.
   **Country status:** US - Active

5. **Title: [Physiological monitoring methods](https://patents.google.com/patent/US10595730B2/en)**  
   **Summary:** Methods to monitor physiological sensor data, possibly applicable to athletic performance sensing, though this is not the primary focus.
   **Country status:** US - Active

6. **Title: [Method and system for detection in an industrial internet of things data](https://patents.google.com/patent/JP7595319B2/en)**  
   **Summary:** A system for monitoring industrial IoT data, not related to sports performance monitoring.
   **Country status:** JP - Active

7. **Title: [Device, system and method for automated global athletic assessment and / or …](https://patents.google.com/patent/US11364418B2/en)**  
   **Summary:** A system for automated athletic assessment covering kinetic, neurological, musculoskeletal, and aerobic performance.
   **Country status:** US - Active

8. **Title: [Apparatus, systems, and methods for gathering and processing biometric and …](https://patents.google.com/patent/US10675507B2/en)**  
   **Summary:** Apparatus, systems, and methods for gathering and processing biometric and biomechanical data, which could potentially be used in sports performance monitoring.
   **Country status:** US - Active

9. **Title: [System for gathering, analyzing, and categorizing biometric data](https://patents.google.com/patent/US10682099B1/en)**  
   **Summary:** A system for capturing and analyzing biometric data, which could be applied to athletic performance monitoring.
   **Country status:** US - Active

10. **Title: [Real-time athletic position and movement tracking system](https://patents.google.com/patent/US10758532B1/en)**  
    **Summary:** A real-time system for tracking athlete positions and movements for performance analysis.
    **Country status:** US - Active

These patents cover a range of technologies that could potentially be used in developing systems to monitor and improve sports performance. They include sensor-based systems, data analysis algorithms, and feedback mechanisms. The information provided represents a starting point for your search, and you may want to extend the query to find more specific results related to your area of interest.

Wie erwartet wurde der Diagrammstatus mit unserem Feedback erfolgreich aktualisiert, und die folgenden KI- und Toolmeldungen führten zur entsprechenden Ausgabe. Anstatt Patente für selbstfahrende Autos auszugeben, nutzte der Agent menschliches Feedback, um Patente im Zusammenhang mit der Überwachung, Analyse und Verbesserung der sportlichen Leistung auszugeben.

Zusammenfassung

Mit diesem Tutorial haben Sie erfolgreich einen KI-Agenten erstellt, der sich auf die Recherche nach Stand der Technik mit LangGraph spezialisiert hat, und mehrere Human-in-the-Loop-Workflows implementiert. Versuchen Sie als nächsten Schritt, einen weiteren KI-Agenten zu erstellen, der in einem Multi-Agenten-System zusammen mit dem Suchagenten nach dem Stand der Technik verwendet werden kann. Vielleicht kann dieser Sekundäragent die Informationen synthetisieren, die aus dem Recherchenagenten des Stands der Technik abgerufen wurden, um dann einen Bericht zu formulieren, der Ihren Patentantrag mit bestehenden vergleicht. Machen Sie es zu Ihrem eigenen!

ROI realisieren: Ein praktischer Leitfaden für agentische KI

Entdecken Sie Möglichkeiten, wie Sie KI erfolgreich in Ihrem Unternehmen skalieren und echte Ergebnisse erzielen können.

Ressourcen

Einkaufsleitfaden für KI-Agenten 2025

In diesem umfassenden Leitfaden werden wichtige Anwendungsfälle, zentrale Funktionen und schrittweise Empfehlungen aufgeführt, die Ihnen bei der Auswahl der richtigen Lösungen für Ihr Unternehmen helfen.

Mit KI-Agenten und -Assistenten die Produktivität von Unternehmen neu definieren

Erfahren Sie, wie KI-Agenten und KI-Assistenten zusammenwirken können, um neue Produktivitätsniveaus zu erreichen.

Omdia-Bericht über handlungsfähige Intelligenz: Die Auswirkungen von KI-Agenten

Entdecken Sie, wie Sie sich das volle Potenzial von der generativen KI mit KI-Agenten erschließen können.

Das Zeitalter der agentischen Unternehmen: Einsatz von KI in Ihrem gesamten Technologiebestand

Bleiben Sie über die neuen KI-Agenten auf dem Laufenden, die einen grundlegenden Wendepunkt in der KI-Revolution darstellen.

watsonx Orchestrate testen

Erfahren Sie, wie generative KI-Assistenten Ihre Workloads erleichtern und die Produktivität steigern können.

Wie KI-Agenten die Produktivität neu definieren

Lernen Sie, wie Sie mithilfe von KI kreativer und effizienter werden und sich auf eine Zukunft einstellen können, in der Sie eng mit KI-Agenten zusammenarbeiten.

Die Zukunft der Agenten, der Energieverbrauch der KI, die Computernutzung von Anthropic und das Wasserzeichen von Google für KI-generierten Text

Bringen Sie sich in dieser Folge von Mixture of Experts mit unseren KI-Experten auf den neuesten Stand, wenn sie sich eingehend mit der Zukunft von KI-Agenten und mehr befassen.

Wie Comparus einen „Bankassistenten“ einsetzt

Comparus nutzte Lösungen von IBM watsonx.ai und präsentierte eindrucksvoll das Potenzial von dialogorientiertem Banking als neues Interaktionsmodell.

Weiterführende Lösungen

KI-Agenten für Unternehmen

Entwickeln, implementieren und verwalten Sie leistungsstarke KI-Assistenten und -Agenten, die Workflows und Prozesse mit generativer KI automatisieren.

Entdecken Sie watsonx Orchestrate

IBM KI-Agenten-Lösungen

Gestalten Sie die Zukunft Ihres Unternehmens mit KI-Lösungen, denen Sie vertrauen können.

KI-Agenten-Lösungen erkunden

IBM Consulting KI-Dienstleistungen

Die KI-Services von IBM Consulting unterstützen Sie dabei, die Art und Weise, wie Unternehmen mit KI arbeiten, neu zu denken.

Erkunden Sie die Services im Bereich der künstlichen Intelligenz

Machen Sie den nächsten Schritt

Ganz gleich, ob Sie vorgefertigte Apps und Skills anpassen oder mithilfe eines KI-Studios eigene Agentenservices erstellen und bereitstellen möchten, die IBM watsonx-Plattform bietet Ihnen alles, was Sie brauchen.

Entdecken Sie watsonx Orchestrate

watsonx.ai erkunden

Fußnoten

¹Wang, Ge. „Humans in the Loop: The Design of Interactive AI Systems.“ Stanford Institute for Human-Centered Artificial Intelligence, 21. Oktober 2019, hai.stanford.edu/news/humans-oop-design-interactive-ai-systems.