Verwendung des AI Gateway zur Unterstützung von Azure OpenAI APIs

API Connect bietet einen UI-Assistenten zur Erstellung von KI-fähigen APIs und Produkten sowie eine Integration mit Azure OpenAI zur Weiterleitung von Anfragen und Verwaltung von Antworten.

Die AI Gateway erleichtert Unternehmen die Verwaltung des Zugangs zu API-Endpunkten, die von KI-Anwendungen genutzt werden. Die AI Gateway vereinfacht die Integration von KI in neue und bestehende OpenAPI 3.0 APIs in API Connect , um auf eine Reihe von Operationen zuzugreifen, die von Azure OpenAI angeboten werden.

API Connect bietet eine Richtlinie, die es Ihrer API ermöglicht, Anfragen an Azure OpenAI zu senden. Die folgenden Azure OpenAI Operationen werden unterstützt:
  • POST /chat/completions
  • POST /embeddings
  • GET /models
  • GET /models/[model-id]

Voraussetzungen für die Verwendung der AI Gateway mit Azure OpenAI

Bevor Sie versuchen, AI Gateway mit Azure OpenAI, zu verwenden, müssen Sie die folgenden Voraussetzungen erfüllen:

  • Registrieren Sie sich bei Azure AI Foundry.
  • Erstellen Sie ein Projekt in Azure AI Foundry. Nach der Erstellung erhalten Sie die folgenden Anmeldedaten;
    • API-Schlüssel
    • Die Ressourcen-ID.
  • Setzen Sie ein Modell ein, das Ihrem gewünschten Einsatz entspricht. Zum Beispiel: gpt-4o für Chatabschlüsse.
    Erforderliche Benutzereingaben:
    Tabelle 1.
    Parameter Beschreibung
    api-key Wird als Anfragekopf gesendet
    resource_id Dient als Teil des Endpunkts von URL, der auf die von Ihnen bereitgestellten Ressourcen verweist
    deployment_id Pfadparameter - der Name des Projekts/der Einrichtung, in dem/der das Modell bereitgestellt wird
    api-version Abfrageparameter - muss das Format YYYY-MM-DD haben

Erste Schritte mit der AI Gateway und Azure OpenAI

Führen Sie die folgenden Schritte aus, um die Website AI Gateway zu verwenden:

  1. Richten Sie Ihre Umgebung wie in Voraussetzungen für die Verwendung des AI Gateway mit Azure OpenAI beschrieben ein.

  2. Erstellen Sie eine API zur Verwendung als Reverse-Proxy.

  3. Fügen Sie der API die Richtlinie Azure OpenAI invoke hinzu, damit sie auf die Plattform Azure OpenAI zugreifen kann.

  4. Überprüfen Sie die Metriken zur Leistung der API im KI-Nutzungs-Dashboard, das die Nutzung von KI-Token und -Modellen verfolgt.