Überwachungs- Google -Gemini-Modelle

Online bearbeiten

Google Gemini ist eine Familie multimodaler KI-Modelle, die darauf ausgelegt sind, Informationen aus Text, Code, Bildern, Audio- und Videodaten zu verstehen und zu verarbeiten. In dieser Anleitung erfahren Sie, wie Sie eine Anwendung mithilfe von „ Google “-Gemini-Modellen und „ OpenLLMetry “ instrumentieren, um Telemetriedaten an „ Instana “ zu senden.

Voraussetzungen

Stellen Sie sicher, dass die folgenden Voraussetzungen erfüllt sind:

Python 3.8 oder später
Ein Schlüssel für „ Google “ unter API für Gemini (erhältlich bei Google AI Studio )
Ein „ Instana “-Backend-Konto mit aktivierter Observability für generative KI
Übersicht über die ersten Schritte im Agenten- und agentenlosen Modus

Instrumentierung Ihrer Gemini-Anwendung unter Google

Installieren Sie die erforderlichen Pakete.
```
pip install google-genai traceloop-sdk
```
Exportieren Sie Ihren Schlüssel für „ Google “ unter API.
```
export GOOGLE_API_KEY="<your-google-api-key>"
```

Erstellen Sie Ihre „ Google “-Anwendung bei Gemini. Erstellen Sie eine Datei namens „ Python “ mit dem folgenden Code:

from google import genai
from traceloop.sdk import Traceloop
from traceloop.sdk.decorators import workflow

# Initialize OpenLLMetry
Traceloop.init(app_name="gemini_chat_app", disable_batch=True)

# Initialize Gemini client
client = genai.Client()

@workflow(name="gemini_conversation")
def ask_gemini(question: str):
    """Send a question to Gemini and get a response."""

    chat = client.chats.create(model="gemini-2.0-flash-exp")
    response = chat.send_message(question)

    return response.text

# Example usage
if __name__ == "__main__":
    questions = [
        "What is Artificial Intelligence?",
        "How does machine learning work?"
    ]

    for question in questions:
        print(f"\nQuestion: {question}")
        answer = ask_gemini(question)
        print(f"Answer: {answer}\n")
        print("-" * 80)

Führen Sie Ihre Anwendung aus.
```
python3 gemini_app.py
```
Die Anwendung sendet Fragen an Gemini und zeigt die Antworten an. OpenLLMetry erfasst automatisch die Traces für jeden Aufruf von „ API “ und sendet sie an Instana.
Daten unter Instana anzeigen.

Nach dem Ausführen Ihrer Anwendung werden auf dem „ Instana Gen AI“-Observability-Dashboard folgende Elemente angezeigt:
- Verwendetes Modell
- Verwendung von Token (Eingabe- und Ausgabetoken)
- Reaktionsverzögerung
- Inhalt der Anfrage und der Antwort

Fehlerbehebung

Bei häufigen Problemen wie nicht angezeigten Spuren oder Verbindungsfehlern lesen Sie bitte den Abschnitt „Fehlerbehebung “.

Authentifizierungsfehler

Falls bei der Authentifizierung Fehler auftreten:

Überprüfen Sie, ob Ihre GOOGLE_API_KEY Einstellung korrekt ist
Überprüfen Sie, ob Ihr „ API “-Schlüssel in „ Google AI Studio“ gültig ist
Stellen Sie sicher, dass Ihr „ API “-Schlüssel nicht abgelaufen oder widerrufen wurde
Stellen Sie sicher, dass Ihr „ API “-Schlüssel Zugriff auf den Gemini- API hat

Fehler bei der Ratenbegrenzung

Falls bei Ihnen Fehler aufgrund von Ratenbeschränkungen auftreten:

Überprüfen Sie die Ratenbegrenzungen Ihres „ Google “-Kontos bei AI Studio
Fügen Sie bei mehreren Aufrufen Verzögerungen zwischen den Anfragen ein
Erwägen Sie ein Upgrade Ihres Tarifs, um höhere Limits zu erhalten
Exponentielles Backoff für Wiederholungsversuche implementieren

Fehlermeldung „Modell nicht gefunden“

Falls Fehlermeldungen wie „Modell nicht gefunden“ auftreten:

Überprüfen Sie, ob der Modellname korrekt ist (z. B. gemini-2.0-flash-exp, gemini-pro)
Prüfen Sie, ob das Modell in Ihrer Region erhältlich ist
Stellen Sie sicher, dass Ihr „ API “-Schlüssel Zugriff auf das angegebene Modell hat
Informationen zu den verfügbaren Modellen finden Sie in der Gemini-Dokumentation von Google

Nächste Schritte

Entdecken Sie die von Instana unterstützten LLM-Anbieter
Erfahren Sie mehr über die Kostenberechnung für Ihre LLM-Nutzung
Richten Sie Benachrichtigungen für Ihre Nutzung von „ Google “ und „Gemini“ ein API
Lesen Sie die Gemini-Dokumentation unter Google, um sich über die Funktionen des Modells zu informieren