Escolhendo um modelo de IA para o agente
A escolha do modelo de IA correto ajuda o agente a entender a intenção do usuário, raciocinar sobre as tarefas e gerar respostas confiáveis. Sua escolha afeta diretamente a precisão, o desempenho e o custo.
Antes de iniciar
Antes de selecionar um modelo:
Identifique o caso de uso que seu agente deve suportar, incluindo as expectativas de precisão, latência e custo.
Analise as considerações para a escolha de um modelo de IA para entender como as características do modelo afetam o desempenho.
Verifique os modelos de IA disponíveis para confirmar quais modelos são compatíveis com sua região e seu provedor de nuvem.
Verifique se você já tem um agente ou se está pronto para criar um.
Verifique se a seleção de modelos está ativada para o seu locatário. Os administradores podem controlar essa configuração. Para obter mais informações, consulte “Gerenciamento das configurações de seleção de modelo ”.
Atribuir um modelo
Se a seleção de modelos estiver desativada pelo administrador, o menu suspenso de modelos de IA ficará desativado e exibirá o modelo selecionado no momento. Você não pode alterar o modelo, a menos que ele esteja obsoleto ou indisponível. Entre em contato com o seu administrador caso precise selecionar um modelo diferente. Para obter mais informações, consulte “Gerenciamento das configurações de seleção de modelo ”.
Para atribuir um modelo de IA ao seu agente:
Crie um novo agente ou abra um já existente.
Localize a lista suspensa do modelo de IA nas configurações do agente.
Analise os modelos disponíveis e escolha aquele que melhor atende às suas necessidades.
Considere a complexidade da tarefa, o tipo de entrada e os requisitos de desempenho.
Se houver mais de cinco modelos disponíveis, clique em Exibir todos os modelos básicos para ver a lista completa.
Na seção Seleção de modelo, procure o modelo que você precisa.
Passe o cursor sobre o nome de um modelo para ver os detalhes.
Selecione o modelo e clique em Salvar.
Depois de selecionar um modelo, continue configurando seu agente personalizando prompts ou adicionando conhecimento.
Disponibilidade e status do modelo
A lista suspensa de modelos de IA inclui modelos que são:
Fornecido por padrão pelo watsonx Orchestrate
Recomendado para sua região
Adicionado através do Kit de Desenvolvimento de Agente (ADK)
Conectado por meio do gateway de IA
Etiquetas de status do modelo
Alguns modelos exibem uma etiqueta de status para indicar a disponibilidade ou o estado do ciclo de vida.
Status | Descrição | Ação necessária |
|---|---|---|
Padrão | Modelo usado automaticamente quando nenhum modelo é selecionado. | Não é necessário realizar nenhuma ação, a menos que você queira alterar o modelo. |
Obsoleto | O modelo é compatível agora, mas pode ser retirado em uma versão futura. | Planeje migrar para outro modelo compatível. |
Indisponível | O modelo não está mais disponível para uso ou não está acessível no locatário. | Selecione outro modelo compatível antes da implantação. |
Quando você usa um modelo de terceiros, o modelo é fornecido sob sua própria licença e não é regido pela licenç IBM. Leia os termos da licença antes de usá-la. Leia os termos.
Se você selecionar um modelo com a marcação “Não disponível”, o resumo pré-implantação exibirá um erro. Escolha outro modelo compatível para implantar o agente.
Ordem dos modelos na lista
A lista suspensa do modelo de IA exibe os modelos na seguinte ordem:
O modelo atualmente selecionado.
O modelo padrão, se ainda não estiver selecionado.
Modelos listados como recomendados no ADK (se estiver disponível no centro de dados).
Modelos externos adicionados através do AI Gateway, listados em ordem alfabética.
Modelos de políticas configurados através do ADK. Para obter mais informações, consulte Configurando políticas de modelo.
O quê fazer em seguida
Personalize os prompts para adequar o comportamento de seu agente, consulte Personalização da mensagem de boas-vindas e dos prompts iniciais.
Adicione fontes de conhecimento para melhorar a precisão e a cobertura do domínio, consulte Adição de conhecimento aos agentes.
Se precisar de modelos adicionais, configure-os usando o ADK e o AI Gateway; consulte Adicionando modelos de IA por meio do AI Gateway.