Implementação de serviços de IA com código

Você pode criar um serviço de IA personalizado que é feito sob medida para seu aplicativo de IA generativa desde o início. Por exemplo, se você estiver implantando um ativo que usa geração aumentada de recuperação (RAG), poderá capturar a lógica para recuperar respostas dos documentos de base no serviço de IA.

Métodos para implementar serviços de IA com código

Você pode usar os seguintes métodos para codificar e implantar seus serviços de IA:

  1. Codificação e implementação manual de serviços de IA

    Você pode criar um notebook que contenha o serviço de IA e as conexões dentro do projeto. O serviço de IA captura a lógica do seu aplicativo RAG e contém a função de geração, que é uma unidade de código implementável. A função de geração é promovida para o espaço de implantação, que é usado para criar uma implantação. A implantação é exposta como um ponto de extremidade da API REST que pode ser acessado por outros aplicativos. Você pode enviar uma solicitação ao ponto de extremidade da API REST para usar o serviço de IA implantado para inferências. O serviço de IA implantado processa a solicitação e retorna uma resposta.

    Para obter mais informações, consulte Codificação e implantação manual de serviços de IA.

  2. Codificação e implementação de serviços de IA com modelos

    Você pode usar modelos predefinidos para implementar seus serviços de IA em watsonx.ai. Os modelos de serviço de IA fornecem uma base pré-construída para aplicativos de IA, permitindo que os desenvolvedores se concentrem na lógica central de seus aplicativos, em vez de começar do zero. Ao fornecer uma estrutura, uma configuração e um conjunto de ferramentas predefinidos, os modelos de serviços de IA simplificam o processo de implantação de serviços de IA, reduzem o risco de erros e melhoram a eficiência e a consistência gerais do desenvolvimento e da implantação de IA.

    Para obter mais informações, consulte Codificação e implantação de serviços de IA com modelos.

Escolha do método correto de implementação

Há duas abordagens para a implementação de serviços de IA: codificação manual e modelos de desenvolvedor. Cada abordagem tem suas vantagens e desvantagens. A escolha da abordagem de implementação depende das necessidades e dos requisitos específicos do projeto. Os modelos de desenvolvedor são adequados para implantações simples com necessidades limitadas de personalização, enquanto a codificação manual é adequada para implantações complexas com grandes necessidades de personalização.

A tabela a seguir fornece um resumo comparativo das três abordagens para a implementação de serviços de IA com código:

Principais diferenças
Abordagem Facilidade de uso Customização Escalabilidade Tempo de colocação no mercado
Codificação manual difícil Completo Alta Lento
Modelos de desenvolvedor Fácil Limitado Limitado Rápido

Saiba mais