Usando o AI Gateway para oferecer suporte a APIs " OpenAI

O " API Connect fornece um assistente de interface do usuário para criar APIs e produtos com reconhecimento de IA, além de integração com o " OpenAI para encaminhar solicitações e gerenciar respostas.

O AI Gateway facilita para as empresas o gerenciamento do acesso aos endpoints de API usados pelos aplicativos de IA. A AI Gateway simplifica a integração da IA em APIs OpenAPI 3.0 novas e existentes para API Connect acessar um conjunto de operações expostas pela OpenAI.

API Connect fornece uma política que permite que sua API envie solicitações para OpenAI. As seguintes operações OpenAI são suportadas:
  • POST /chat/completions
  • POST /embeddings
  • GET /models
  • GET /models/[model-id]

Pré-requisitos para usar o AI Gateway com OpenAI

Antes de tentar usar o ' AI Gateway com o OpenAI, conclua os seguintes pré-requisitos:

  • Registre-se na OpenAI.
    Observação: Quando você registra seu ID OpenAI, um projeto padrão é criado para você. Você pode usar esse projeto ou criar projetos adicionais. os projetos OpenAI permitirão que os clientes organizem seu trabalho na plataforma " OpenAI. Da perspectiva do " AI Gateway, o ID do projeto " OpenAI é uma propriedade opcional que associará uma solicitação " OpenAI a um projeto específico.
  • Obter uma chave de API OpenAI.

Primeiros passos com o AI Gateway e o OpenAI

Para usar o AI Gateway, conclua as etapas a seguir:

  1. Configure seu ambiente conforme explicado em Pré-requisitos para usar o AI Gateway com o OpenAI.

  2. Crie uma API para usar como um proxy reverso.

  3. Adicione o " OpenAI invocar política à API para que ele possa acessar a plataforma " OpenAI.

  4. Analise as métricas sobre o desempenho da API no painel de uso de IA, que rastreia o uso de tokens e modelos de IA.