Utilisation de la passerelle AI pour prendre en charge les API Azure OpenAI
Le site API Connect propose un assistant d'interface utilisateur pour créer des API et des produits compatibles avec l'IA, ainsi qu'une intégration avec Azure OpenAI pour transmettre les demandes et gérer les réponses.
Le site AI Gateway permet aux entreprises de gérer facilement l'accès aux points d'extrémité des API utilisés par les applications d'IA. Le site AI Gateway simplifie l'intégration de l'IA dans les API nouvelles et existantes OpenAPI 3.0 dans API Connect pour accéder à un ensemble d'opérations exposées par Azure OpenAI.
API Connect fournit une politique qui permet à votre API d'envoyer des requêtes à Azure
OpenAI. Les opérations Azure OpenAI suivantes sont prises en charge :
POST /chat/completionsPOST /embeddingsGET /modelsGET /models/[model-id]
Conditions préalables à l'utilisation du site AI Gateway avec Azure OpenAI
Avant d'essayer d'utiliser le site AI Gateway avec Azure OpenAI,, il convient de remplir les conditions préalables suivantes :
- Inscrivez-vous sur Azure AI Foundry.
- Créez un projet sur Azure AI Foundry. Lors de la création, vous recevrez les informations d'identification suivantes;
- clé d'API
- ID de ressource.
- Déployez un modèle en fonction de l'opération souhaitée. Par exemple,
gpt-4opour les discussions en ligne.Entrées utilisateur requises :Tableau 1. Paramètre Descriptif api-keyEnvoyé comme en-tête de requête resource_idFait partie de l'extrémité de URL qui pointe vers vos ressources provisionnées deployment_idNom du projet/déploiement où le modèle est déployé op-versionLa version de l'opération doit être au format YYYY-MM-DD
Pour commencer, utilisez les sites AI Gateway et Azure OpenAI
Pour utiliser le site AI Gateway, procédez comme suit :
- Configurez votre environnement comme expliqué dans les conditions préalables à l'utilisation de la passerelle AI avec Azure OpenAI.
- Créer une API à utiliser comme proxy inverse.
- Ajoutez la politique d'invocation Azure OpenAI à l'API afin qu'elle puisse accéder à la plateforme Azure OpenAI .
- Examinez les mesures des performances de l'API dans le tableau de bord de l'utilisation de l'IA, qui suit l'utilisation des jetons et des modèles d'IA.