Implantando modelos ajustados a partir da interface do usuário

Você pode implantar modelos ajustados a partir da interface do usuário do watsonx. Implemente os recursos de experimentos de ajuste armazenados em seu projeto ou implemente modelos ajustados a partir do Tuning Studio.

Como alternativa, você pode implantar modelos básicos ou personalizados fornecidos pelo IBM usando a API. Para obter detalhes, consulte Implantação de modelos ajustados com código.

Permissões necessárias
Para implantar modelos ajustados, você deve ter a função de administrador ou editor em um projeto.

Procedimento

Ao usar o Tuning Studio para criar seu experimento de ajuste, você pode implantar diretamente o modelo ajustado resultante.

Para implantar um modelo ajustado armazenado como um recurso de experimento de ajuste em seu projeto, execute as seguintes etapas:

  1. Na guia Ativos do projeto, clique no tipo de ativo Experimentos.

  2. Clique para abrir o experimento de ajuste para o modelo que você deseja implantar.

  3. Na lista de modelos ajustados, localize o experimento de ajuste concluído e clique em Nova implantação.

  4. Dê um nome ao modelo ajustado.

    O nome da experiência de ajuste é usado como nome do modelo ajustado, caso você não o altere. O nome tem um número entre parênteses, que conta as implantações. O número começa em um e é incrementado em um cada vez que você implanta essa experiência de ajuste.

    Opcional : Adicione uma descrição e tags.

  5. Para o contêiner de implantação, escolha uma das seguintes opções:

    Este projeto

    Implemente o modelo ajustado e adicione-o ao seu projeto, onde você poderá testá-lo. Você pode promover a implantação do modelo ajustado para um espaço de implantação a qualquer momento. Escolha esta opção se desejar realizar mais testes no modelo ajustado antes de utilizá-lo em produção.

    Espaço de implementação

    Promove o modelo ajustado para um espaço de implantação e implanta o modelo ajustado. Um espaço de implantação é separado do projeto onde você cria o ativo. Essa separação permite promover ativos de vários projetos para um espaço e implantar ativos em mais de um espaço. Escolha esta opção quando o modelo ajustado estiver pronto para ser promovido para uso em produção.

    Um espaço de implantação está associado a um armazenamento de objetos baseado em nuvem, como IBM Cloud Object Storage ou Amazon S3.

    Importante: Para a conexão com o armazenamento de objetos baseado em nuvem, você deve fornecer o endpoint URL e credenciais com acesso de leitura e gravação aos buckets no armazenamento de objetos.
    1. Selecione um espaço de implantação no campo Espaço de implantação de destino.

    Se você não tiver um espaço de implantação, crie um novo espaço. Para obter detalhes, consulte Criando espaços de implantação.

    1. Adicione um rótulo para a implantação no nome de serviço da implantação.

      O nome pode ter até 36 caracteres. Os caracteres suportados são [ a-z,0-9, _].

      Dica: o nome do serviço é usado no URL para o endpoint da API que identifica sua implantação. Adicionar um nome legível por humanos é útil porque o nome especificado substitui um ID longo, gerado pelo sistema, que é criado automaticamente. O nome do serviço também abstrai a implantação dos detalhes da instância do serviço. Os aplicativos podem se referir a esse nome, o que permite que a instância do serviço subjacente seja alterada sem afetar os usuários.

  6. Selecione a opção para visualizar após a criação, para que você possa encontrar facilmente seu modelo ajustado após a conclusão do processo de implantação, e clique em Implantar. Após a implantação do modelo ajustado, uma cópia do modelo ajustado é armazenada em seu projeto como um recurso de modelo.

  7. Inferência da implantação para testar seu modelo ajustado.

    A partir do 2.3.1, a API de geração de texto está obsoleta e será removida no futuro.

    No espaço de implantação
    1. Na guia Implantações do seu projeto, clique no nome do recurso de modelo implantado no seu projeto ou no nome do espaço de implantação onde você implantou o modelo ajustado.
    1. Clique na guia Teste.
    1. No campo Dados de entrada, adicione um prompt que siga o padrão de prompt que seu modelo ajustado foi treinado para reconhecer e clique em Gerar. Você pode clicar em Exibir configurações de parâmetros para ver os parâmetros de prompt que são aplicados ao modelo por padrão. Para alterar os parâmetros do prompt, você deve acessar o Prompt Lab.
    No projeto
    1. No projeto, clique em Abrir no Prompt Lab. Se você estiver trabalhando em um espaço de implantação, será solicitado que escolha o projeto no qual deseja trabalhar com o modelo.
    1. Na seção Experimentar, adicione um prompt ao campo Entrada que siga o padrão de prompt que seu modelo ajustado foi treinado para reconhecer e, em seguida, clique em Gerar.

Saiba mais