Mensagens de salvamento

A engenharia de prompt envolve tentativa e erro Acompanhe sua experimentação e salve as combinações de modelo e prompt que geram a saída desejada.

Ao salvar seu serviço, é possível escolher salvá-lo como diferentes tipos de ativos. Salvar seu trabalho como um ativo possibilita compartilhar seu trabalho com colaboradores no projeto atual.

Tabela 1: Tipos de recursos utilizados para salvar prompts
Tipo de ativo	Quando usar esse tipo de ativo	O que é salvo	Como recuperar o ativo
Ativo do modelo de prompt	Quando você localiza uma combinação de texto estático de prompt, variáveis de prompt e parâmetros de engenharia de prompt que geram os resultados desejados de um modelo específico e desejam reutilizá-lo.	Texto do prompt, modelo, parâmetros de engenharia do prompt, variáveis do prompt e configurações de limites de segurança da IA. Nota: a saída gerada pelo modelo não é salva como parte do modelo de prompt, a menos que o prompt tenha sido criado no modo de bate-papo.	Na guia Modelos de prompt salvos
Ativo de sessão de prompt	Quando você quiser acompanhar os passos envolvidos com a sua experimentação para que você saiba o que você tentou e o que você não fez.	Texto do prompt, modelo, parâmetros de engenharia de prompts, configurações de limites de segurança da IA e resultados do modelo para até 500 prompts enviados durante uma sessão de engenharia de prompts.	Na guia Histórico
Ativo padrão de notebook	Quando você deseja trabalhar com modelos de forma programática, mas quer começar pela interface Prompt Lab para ter uma melhor experiência de engenharia imediata.	O texto do prompt, o modelo, os parâmetros de engenharia do prompt, bem como os nomes e valores padrão das variáveis do prompt, são formatados como código do ` Python ` e armazenados como um notebook do ` Python `.	Na página Ativos do projeto
Notebook de implementação	Quando seu assistente de linha de comando é capaz de realizar funções avançadas, como pesquisar documentos de referência para encontrar respostas a perguntas feitas em um chat, e você deseja implementar essa função como um serviço de IA.	Um serviço de IA implantável que pode ser utilizado por meio de APIs REST. Observação: você só pode salvar seu trabalho como um notebook de implantação ao selecionar um índice vetorial e usar um modelo de chat.	Na página Ativos do projeto

Cada um desses tipos de ativos está disponível na página Ativos do projeto. Os colaboradores do projeto com a função de Administrador ou Editor podem abrir e trabalhar com os recursos. Seu modelo de prompt e os recursos da sessão de prompt são bloqueados automaticamente, mas você pode desbloqueá-los clicando no ícone de Ícone de bloqueio cadeado.

Um editor ou administrador pode usar modelos de prompt bloqueados para gerar inferências. Somente o proprietário do bloqueio pode usar um ativo de sessão de prompt bloqueado para gerar inferências Para mais detalhes, consulte “Gerenciamento de ativos em projetos ”.

Salvando seu trabalho de engenharia de prompt

Para salvar seu trabalho de engenharia de prompt, conclua as etapas a seguir:

Na barra de ferramentas do editor de prompts, clique no ícone “Salvar trabalho” e, em seguida, clique em “Salvar como ”.
Escolha um tipo de ativo

Se você optar por criar um caderno de implantação, deverá associar o prompt a um espaço de implantação. Para obter mais informações, consulte Espaços de implantação.

Você pode navegar pelos 100 principais espaços de implantação.
Nomeie o ativo e, opcionalmente, inclua uma descrição.
Watsonx.governance apenas: Escolha o tipo de tarefa que melhor corresponde ao seu objetivo..
Se você salvar o prompt como um ativo de bloco de notas apenas: Selecione Visualizar no projeto após salvar.
Clique em Salvar.

Trabalhando com prompts salvos em um bloco de notas

Quando você salva seu trabalho como um ativo de bloco de notas, um bloco de notas Python é construído

Para trabalhar com um recurso de notebook de prompt, siga o procedimento correspondente ao seu tipo de notebook.

Notebook padrão

Abra o ativo do bloco de notas na guia Ativos de seu projeto.
Clique no ícone Editar para executar o notebook e poder percorrer o código passo a passo.

O bloco de notas contém código executável que gerencia as etapas a seguir para você:
- Autentica com o serviço.
- Define uma classe Python ..
- Define o texto de entrada para o modelo e declara quaisquer variáveis de prompt É possível editar o texto de prompt estático e designar valores para as variáveis de prompt
- Usa a classe definida para chamar a API de inferência watsonx.ai e passar sua entrada para o modelo base.
- Mostra a saída que é gerada pelo modelo de fundação
Observação: Para comandos que utilizam modelos otimizados para inferência armazenados no projeto, substitua o ID do espaço pelo ID do projeto.
Use o bloco de notas como está ou mude-o para atender às necessidades de seu caso de uso.

O código Python que é gerado com o uso do Prompt Lab é executado com êxito. Deve-se testar e validar quaisquer mudanças feitas no código.

Notebook de implementação

Abra o ativo do bloco de notas na guia Ativos de seu projeto.
Clique no ícone Editar para executar o notebook e poder percorrer o código passo a passo.

O bloco de notas contém código executável que gerencia as etapas a seguir para você:
- Autentica com o serviço.
- Conecta-se ao espaço de destino e promove o índice do vetor.
- Define o serviço de IA a ser implantado. Isso inclui código para inicializar o índice vetorial, realizar consultas no índice vetorial, formatar a entrada para o modelo e executar inferências.
- Testa o serviço de IA localmente.
- Implanta o serviço de IA no espaço de destino.
- Testa o serviço de IA implantado.
Use o bloco de notas como está ou mude-o para atender às necessidades de seu caso de uso.

O código Python que é gerado com o uso do Prompt Lab é executado com êxito. Deve-se testar e validar quaisquer mudanças feitas no código.
O serviço de IA implementado pelo notebook pode ser acessado por meio de uma API REST. A seguir, um exemplo de solicitação cURL para chamar sua implantação:
```
curl --location '${PUBLIC_ENDPOINT}' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer ${IAM_TOKEN}' \
--data '{ \
  "messages": [${MESSAGES}]
}'
```
em que
- PUBLIC_ENDPOINT é o endpoint público da sua implantação. Consulte “Criação de implantações online ”.
- IAM_TOKEN é o token de autenticação para acessar os serviços do IBM Cloud. Consulte as credenciais para acesso programático. O token de acesso que você usa deve estar associado à mesma conta do projeto mencionado no notebook.
- MESSAGES é uma matriz contendo as entradas de texto do histórico de bate-papo com o seguinte esquema:
```
{
   "role": type, // "user" or "assistant"
   "content": content // The text content of the message
}
```

Para obter detalhes sobre como implantar e realizar inferências em serviços de IA, consulte Implantação de serviços de IA com ferramentas.

Trabalhando com modelos de prompt salvos

Para continuar trabalhando com um prompt salvo, abra-o na guia Saved prompt templates (Modelos de prompt salvos ) do site Prompt Lab.

Ao abrir um modelo de prompt salvo, Salvamento Automático está ativo, o que significa que quaisquer mudanças feitas no prompt serão refletidas no ativo do modelo de prompt salvo. Se você desejar que o modelo de prompt salvo permaneça inalterado, clique em Novo prompt para iniciar um novo prompt.

Não é possível alterar os modos de edição de um modelo de prompt salvo.

Diferente de outros modos de edição, um modelo de prompt que é salvo no modo de bate-papo também armazena a saída do modelo. Não é possível alternar para um modo diferente de um modelo de prompt que foi salvo no modo de bate-papo. Os prompts salvos como modelos de prompt podem incluir documentos de referência com um tamanho total máximo de apenas 5 MB.

Um recurso de modelo de prompt sem um índice de vetor associado é implantado diretamente, sem a criação de um serviço de IA.

Quando watsonx.governance é provisionado, se seu modelo de prompt incluir pelo menos uma variável de prompt, será possível avaliar a eficácia das respostas do modelo.

Para obter mais informações sobre as variáveis de prompt, consulte Construindo prompts reutilizáveis
Para obter mais informações sobre a avaliação de respostas de modelo, consulte Avaliando modelos de prompt em projetos

Trabalhando com sessões de prompt salvas

Para continuar trabalhando com uma sessão de prompt salva, abra-a na guia History (Histórico ) do site Prompt Lab.

Para revisar envios de prompt anteriores, é possível clicar em uma entrada de prompt do histórico para abri-lo no editor de prompt. Se você preferir os resultados do prompt anterior, será possível reconfigurá-lo como seu prompt atual clicando em Restaurar Ao restaurar um prompt anterior, sua sessão de prompt atual é substituída pela versão anterior da sessão de prompt.