Implementando funções Python

Você pode implantar funções Python no watsonx.ai Runtime da mesma forma que pode implantar modelos. Suas ferramentas e apps podem usar o cliente watsonx.ai Python ou a API de REST para enviar dados para suas funções implementadas da mesma maneira que eles enviam dados para modelos implementados A implementação de funções Python permite ocultar detalhes (como credenciais). Também é possível pré-processar dados antes de passá-los para modelos. Além disso, é possível manipular erros e incluir chamadas para vários modelos, todos dentro da função implementada, em vez de em seu aplicativo.

Blocos de notas de amostra para criação e implementação de funções Python

Para obter exemplos de como criar e implantar funções Python usando a biblioteca cliente Python watsonx.ai, consulte estes notebooks de exemplo publicados no Resource hub:

Nome da amostra Estrutura Técnicas demonstradas
Predizer negócios para carros Híbrido (Tensorflow) Configure uma definição de IA
Prepare os dados
Crie um modelo Keras usando Tensorflow
Implante e pontue o modelo
Defina, armazene e implante uma função Python
Implementar a função Python para especificação de software Núcleo Criar uma função Python
Criar um serviço da web
Pontuar o model
Nota:

Você pode acessar o hub de recursos selecionando Hub de recursos no menu de navegação principal.

Importante:

Se sua conta estiver na região de Dallas- IBM Cloud, você pode clicar no link. Caso contrário, procure o nome do modelo no Centro de Recursos. Essa amostra pode não estar disponível em todas as regiões ou plataformas de nuvem.

Os blocos de notas demonstram as seis etapas para criação e implementação de uma função:

  1. Definir a função
  2. Autenticar e definir um espaço
  3. Armazenar a função no repositório
  4. Obter a especificação de software
  5. Implementar a função armazenada
  6. Enviar dados para a função para processamento

Para obter links para outros exemplos de notebooks que usam a biblioteca do clientePython watsonx.ai, consulte Usando o tempo de execução watsonx.ai em um notebook.

Aumentando a escalabilidade para uma função

Ao implementar uma função a partir de um espaço de implementação ou programaticamente, uma única cópia da função é implementada por padrão. Para aumentar a escalabilidade, é possível aumentar o número de réplicas, editando a configuração da implementação. Mais réplicas permitem um volume maior de pedidos de pontuação.

O exemplo a seguir usa a API do cliente Python para configurar o número de réplicas para 3.

change_meta = {
                client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
                                       "name":"S",
                                       "num_nodes":3}
            }

client.deployments.update(<deployment_id>, change_meta)

Saiba Mais