Opções de cálculo para treinamento e pontuação de modelo

Ao treinar ou pontuar um modelo ou uma função, escolha o tipo, tamanho e potência da configuração de hardware que corresponde às necessidades de cálculo.

Configurações de hardware padrão

Escolha a configuração de hardware para o seu ativo de tempo de execução watsonx.ai ao treinar o ativo ou ao implantá-lo.

Configurações de hardware disponíveis para treinamento e implementação ativos
Tipo de capacidade Unidades de capacidade por hora
Extrapequeno: 1 x 4 = uma vCPU e 4 GB de RAM 0.5
Pequeno: 2 x 8 = duas vCPUs e 8 GB de RAM 1
Médio: 4 x 16 = 4 vCPUs e 16 GB de RAM 2
Grande: 8 x 32 = oito vCPUs e 32 GB de RAM 4
Extragrande: 16 x 64 = 16 vCPUs e 64 GB de RAM 8

Uso de computação para ativos de tempo de execução watsonx.ai

As implantações e a pontuação consomem recursos de computação como horas de unidade de capacidade (CUH) do serviço watsonx.ai Runtime.

Para verificar o consumo total mensal de CUH dos serviços de tempo de execução do watsonx.ai, no menu de navegação, selecione Administração -> Tempos de execução do ambiente.

Além disso, é possível monitorar o uso de recurso mensal em cada espaço de implementação específico Para fazer isso, em seu espaço de implementação, acesse a guia Gerenciar e, em seguida, selecione Uso de recurso. O resumo mostra os CUHs usados por tipo de implantação: separadamente para implantações em AutoAI, implantações em lote e implantações on-line.

Detalhes do uso de cálculo

A taxa de CUHs consumidos é determinada pelos requisitos de computação de suas implementações. Ele é baseado em tais variáveis como:

  • Tipo de implementação
  • tipo de enquadramento
  • complexidade de pontuar Scaling uma implementação para suportar mais usuários simultâneos e solicitações também aumenta o consumo de CUH. Como muitas variáveis afetam o consumo de recursos para uma implementação, recomenda-se executar testes em seus modelos e implementações para analisar o consumo de CUH.

A forma como as implementações on-line consomem unidades de capacidade é baseada em estrutura. Para alguns frameworks, CUHs são cobrados pelo número de horas que o ativo de implementação está ativo em um espaço de implementação. Por exemplo, os modelos SPSS em modo de implementação online que são executados por 24 horas por dia, sete dias por semana, consomem CUHs e são cobrados por esse período. Uma implementação online ativa não tem tempo ocioso. Para outros frameworks, os CUHs são cobrados de acordo com a duração de pontuação. Consulte a tabela de consumo de CUH para obter detalhes sobre como o uso de CUH é calculado.

O tempo de cálculo é calculado para o milissegundo, com um mínimo de 1-minute para cada operação distinta. Por exemplo:

  • Uma corrida de treinamento que leva 12 seconds é faturada como 1 minute
  • Uma execução de treinamento que leva 83.555 segundos é cobrada exatamente conforme calculado

Consumo de CUH por tipo de implementação e estrutura

O consumo de CUH é calculado utilizando-se estas fórmulas:

Tipo de implementação Estrutura Cálculo de CUH
On-line AutoAI, função de IA, SPSS, bibliotecas customizadas Scikit-Learn, Tensorflow, RShiny Duração ativa da implementação * Número de nós * Taxa de CUH para estrutura de tipo de capacidade
On-line Spark, PMML, Scikit-Learn, Pytorch, XGBoost Duração de pontuação em segundos * Número de nós * Taxa de CUH para estrutura de tipo de capacidade
Batch todas as estruturas Duração da tarefa em segundos * Número de nós * Taxa de CUH para estrutura de tipo de capacidade

Saiba Mais