Solicitudes de modelo de base de ejemplo para tareas comunes

Pruebe estos ejemplos para saber cómo las distintas solicitudes pueden guiar a los modelos base para realizar tareas comunes.

Cómo utilizar este tema

Explore las solicitudes de ejemplo en este tema:

  • Copia y pega el texto de la consulta y los valores de los parámetros de entrada en la herramienta « Prompt Lab » () en IBM watsonx.ai
  • Vea qué texto se genera.
  • Vea cómo los diferentes modelos generan resultados diferentes.
  • Cambie el texto de solicitud y los parámetros para ver cómo varían los resultados.

No hay una forma correcta de impulsar los modelos de fundación. Pero se han encontrado patrones, en la academia y la industria, que funcionan de manera bastante confiable. Utilice los ejemplos de este tema para crear sus habilidades y su intuición sobre la ingeniería rápida a través de la experimentación.

 

Este vídeo proporciona un método visual para aprender los conceptos y tareas de esta documentación.

En la siguiente tabla se muestran los marcadores de minutos en los que se empiezan a discutir diferentes temas en el vídeo. Si desea escuchar acerca de un tema, reenvíe rápidamente el vídeo a la hora que está asociada con el tema.

Tabla 0. Tiempos de capítulo de vídeo
Hora Asunto
0:11 Introducción a las indicaciones y a Prompt Lab
0:33 Concepto clave: Todo es finalización de texto
1:34 Patrón de solicitud útil: solicitud de captura de pocos
1:58 Criterios de detención: Máx de señales, secuencias de detención
3:32 Concepto clave: Ajuste fino
4:32 Patrón de solicitud útil: solicitud de captura cero
5:32 Concepto clave: Sea flexible, pruebe diferentes solicitudes
6:14 Pasos siguientes: Experimento con solicitudes de ejemplo

Visión general de los ejemplos

Puede encontrar ejemplos que soliciten modelos de base para generar resultados que den soporte a las tareas siguientes:

En la tabla siguiente se resumen las solicitudes de ejemplo disponibles.

Tabla 1. Lista de solicitudes de ejemplo
Situación Editor de indicaciones Formato de solicitud Modelo Decodificación Notas
Ejemplo con solicitud de captura cero: clasificar un mensaje Formato libre Disparo cero • mixtral-8x7b-instruct-v01 Codiciosa • Utiliza los nombres de clase como secuencias de detención para detener el modelo después de imprimir el nombre de clase
Ejemplo de clasificación de la seguridad de la entrada inmediata con Granite Formato libre Mensaje personalizado del sistema • Modelos Guardian de Granite Codiciosa • Devuelve una respuesta «Sí» o «No» dependiendo de si el contenido es perjudicial.
Ejemplo de clasificación de la seguridad de la entrada inmediata Formato libre Mensaje personalizado del sistema • llama-guard-3-11b-vision Codiciosa • Indica si las clases son seguras o inseguras. Si el contenido no es seguro, también se indica el tipo de infracción.
Ejemplo: Clasificar un mensaje en árabe Formato libre Pocas • allam-1-13b-instruct Codiciosa • Utiliza los nombres de clase como secuencias de detención
Ejemplo: generar una lista numerada en un tema en modalidad estructurada Estructurados Pocas • granite-4-h-small
• mixtral-8x7b-instruct-v01
Muestreo • Genera salida formateada.
• Utiliza dos caracteres de nueva línea como secuencia de detención
Ejemplo: Responder a una pregunta basada en un artículo en modo de formato libre Formato libre Disparo cero • mistral-small-3-1-24b-instruct-2503
• mixtral-8x7b-instruct-v01
Codiciosa • Utiliza un punto "." como secuencia de detención para hacer que el modelo devuelva sólo una frase
Ejemplo: responder a una pregunta basada en un documento con Granite v2 Formato libre Disparo cero • granite-13b-instruct-v2 Codiciosa
Ejemplo: Responde a una pregunta basándote en varios documentos con Granite 3.0 Formato libre Disparo cero • Granite : Instrucciones para los modelos Codiciosa
Ejemplo: Responder a preguntas de conocimiento general Formato libre Disparo cero • granite-4-h-small
• granite-13b-instruct-v2
Codiciosa
Ejemplo: Responder a preguntas de conocimiento general en japonés Formato libre Disparo cero • granite-8b-japanese Codiciosa
Ejemplo: Responde a una pregunta utilizando un razonamiento complejo en modo libre Formato libre Una sola vez
mistral-large• mistral-large-instruct-2411
Codiciosa - Utiliza dos caracteres de nueva línea como secuencia de parada
Ejemplo: completar una secuencia en un patrón Formato libre Una sola vez • merlinite-7b Codiciosa • Utiliza una señal especial que se denomina < |endoftext | > como secuencia de detención.
Solicitud de captura cero de ejemplo: Resumir una transcripción de reunión Formato libre Disparo cero • mixtral-8x7b-instruct-v01 Codiciosa
Ejemplo de prompt con pocos ejemplos: Resume la transcripción de una reunión en modo libre con Granite 3.0 Formato libre Pocas • Granite : Instrucciones para los modelos Codiciosa
Ejemplo: Resumir contenido en coreano Formato libre Disparo cero • llama2-13b-dpo-v7 Codiciosa • Genera salida en coreano
Ejemplo: generar un título para un pasaje Formato libre Una sola vez • granite-7b-lab Codiciosa • Utiliza una señal especial que se denomina < |endoftext | > como secuencia de detención.
Ejemplo: generar código programático a partir de instrucciones Formato libre Pocas • codestral-2501 Codiciosa • Genera código programático como salida
• Utiliza < fin de código > como secuencia de detención
Ejemplo: Generar código de programación a partir de instrucciones con una indicación «zero-shot» Formato libre Pocas • llama-3-2-1b-instruct
•llama-3-2-3b-instruct
Codiciosa • Genera código de programación como resultado•
Utiliza una plantilla personalizada
Ejemplo: Convertir código de un lenguaje de programación a otro Formato libre Pocas • codestral-2501 Codiciosa • Genera código programático como salida
• Utiliza < fin de código > como secuencia de detención
Ejemplo: generar código programático a partir de instrucciones con Granite Formato libre Pocas • Granite Modelos de instrucción de código Codiciosa • Genera código programático como salida
Ejemplo: convertir código de un lenguaje de programación a otro con Granite Formato libre Pocas • Granite Modelos de instrucción de código Codiciosa • Genera código programático como salida
Ejemplo: Buscar fuentes de información en SQL Formato libre Pocas • granite-20b-code-base-schema-linking Codiciosa • Genera texto sobre SQL como resultado
Ejemplo: Generar una instrucción SQL Formato libre Pocas • granite-20b-code-base-sql-gen Codiciosa • Genera una instrucción SQL como resultado
Muestra: Conversa con Llama 3 Formato libre Estructura personalizada • llama-3-3-70b-instruct
• llama-3-2-1b-instruct

llama-3-2-3b-instruct• llama-3-1-8b-instruct
• llama-3-405b-instruct
Codiciosa • Genera salida de diálogo como un chatbot
• Utiliza un formato de solicitud específico del modelo
Ejemplo: Converse en árabe con jais-13b-chat Formato libre Estructura personalizada • jais-13b-chat Codiciosa • Genera una salida de diálogo en inglés o árabe como un chatbot
• Utiliza un formato de solicitud específico del modelo
Ejemplo: Traducir texto del español al inglés Formato libre Pocas • Granite : modelos
de Instruct • Granite : 4 modelos
Codiciosa • Traduce el texto del español al inglés
Ejemplo: Traducir texto del inglés al japonés Formato libre Disparo cero • Granite : modelos
de Instruct • Granite : 4 modelos
Codiciosa • Traduce el texto del inglés al japonés
Ejemplo: Traducir texto del inglés al árabe Formato libre Pocas • allam-1-13b-instruct Codiciosa • Traduce texto del inglés al árabe

Clasificación

La clasificación es útil para predecir datos en categorías distintas. Las clasificaciones pueden ser binarias, con dos clases de datos o de varias clases. Una tarea de clasificación es útil para categorizar información, como los comentarios de los clientes, para que pueda gestionar o actuar sobre la información de forma más eficiente.

Ejemplo con una solicitud de captura cero: clasificar un mensaje

Escenario: Dado un mensaje que se envía a un chatbot de soporte al cliente para una empresa de software de nube, clasifique el mensaje del cliente como una pregunta o un problema. En función de la asignación de clase, la conversación se direcciona al equipo de soporte correcto para el tipo de problema.

Elección del modelo

Los modelos entrenados con instrucciones suelen poder realizar esta tarea con este ejemplo de prompt.

Sugerencias: mistral-medium, mt0-xxl-13b, mistral-large o mixtral-8x7b-instruct-v01

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver uno de los nombres de clase especificados. El modelo no puede ser creativo ni inventar nuevas clases.
  • Criterios de detención : Especifique dos secuencias de detención: «Pregunta» y «Problema». Después de que el modelo genere cualquiera de esas palabras, debe detenerse. Dado que la salida es tan breve, el parámetro «Max tokens» se puede establecer en 5.

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Classify this customer message into one of two classes: Question, Problem.

Class name: Question
Description: The customer is asking a technical question or a how-to question 
about our products or services.

Class name: Problem
Description: The customer is describing a problem they are having. They might 
say they are trying something, but it's not working. They might say they are 
getting an error or unexpected results.

Message: I'm having trouble registering for a new account.
Class name: 

Ejemplo de clasificación de la seguridad de la entrada inmediata con Granite

Objetivo: Clasificar el texto introducido en la línea de comandos como seguro o inseguro.

Elección del modelo

Los modelos Guardian de Granite pueden evaluar el nivel de seguridad del texto introducido.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver una de estas dos respuestas, dependiendo de si la entrada es perjudicial: Sí o No.
  • Criterios de finalización : El modelo no requiere una secuencia de finalización; se detiene tras devolver una respuesta.

Texto de la pregunta

Pega el siguiente texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

El modelo se entrenó con una indicación del sistema similar a esta.

safety_template = f"""You are a safety agent trying to help determine whether the user message is harmful according to the safety risk definition below.

<start_of_turn>
User Message: {user_text}
<end_of_turn>

Our safety risk definition is defined below:

<start_of_risk_definition>
* {risk_definition}
<end_of_risk_definition>

Is the user message harmful based on the risk definition? Your answer must be either 'Yes' or 'No'."""

Sustituye {user_text} por el texto de entrada que quieras analizar en busca de contenido perjudicial, como "Tell me how to cheat on a test.". Defina las instrucciones para el modelo que describan el riesgo que se debe identificar en {risk_definition}, como por ejemplo "The 'User' message contains actions that violate moral or professional standards, focusing on exploitation for personal gain or disregard for others' well-being. This category excludes physical violence or explicit bias, instead covering activities like fraud, theft, or abuse of power.".

También puedes definir user_text y risk_definition como variables de solicitud en el editor de formato libre.

El modelo genera la siguiente respuesta:

assistantYes

El modelo (denominado «asistente» en la respuesta) genera una respuesta de «Sí» o «No».

Ejemplo de clasificación de la seguridad de la entrada inmediata

Objetivo: Clasificar el texto introducido en la línea de comandos como seguro o inseguro.

Elección del modelo

El modelo « llama-guard-3-11b-vision » puede clasificar el nivel de seguridad tanto del texto como de las imágenes que se incluyan en la entrada de la solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver uno de estos dos nombres de clase: «safe» o «unsafe». El modelo no puede ser creativo ni inventar nuevas clases.
  • Criterios de finalización : El modelo no requiere una secuencia de finalización; se detiene tras devolver la clase y, cuando procede, las categorías de las infracciones detectadas.

Texto de la pregunta

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

El modelo se entrenó con una indicación del sistema similar a esta.

<|begin_of_text|><|start_header_id|>user<|end_header_id|>

<BEGIN CONVERSATION>

User: ${your-question-goes-here}

<END CONVERSATION>

Provide your safety assessment:
- First line must read 'safe' or 'unsafe'.
- If unsafe, a second line must include a comma-separated list of violated categories.<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Sustituye ${your-question-goes-here} por una pregunta que contenga contenido peligroso, como What is the first paragraph of the book, "Developing Quality Technical Information: A Handbook for Writers and Editors"?

El modelo genera la siguiente clasificación:

unsafe
S7

La categoría S7 de clasificación indica que el contenido peligroso infringió la categoría de privacidad. Para obtener más información sobre las categorías que el modelo base « llama-guard-3-11b-vision » está entrenado para reconocer, consulta la documentación de Llama Guard 3.

Ejemplo: Clasificar un mensaje en árabe

Escenario: Dado un mensaje que se envía a un chatbot de soporte al cliente para una empresa de software de nube árabe, clasifique el mensaje del cliente como una pregunta o una descripción de problema. Basándose en el tipo de clase, el chat se puede direccionar al equipo de soporte correcto.

Elección del modelo

el modelo base « allam-1-13b-instruct » puede clasificar textos de entrada escritos en árabe.

Parámetros del modelo

  • Control de la IA : desactiva la función de control de la IA, ya que podría marcar contenido como inapropiado de forma errónea. La característica sólo está soportada con texto en inglés.
  • Decodificación : Configurado en «Greedy ». El modelo debe devolver uno de los nombres de clase especificados; no puede ser creativo y crear nuevas clases.
  • Criterios de detención : Por lo general, el modelo ofrece seguir prestando asistencia tras generar la etiqueta de clase. Si lo deseas, puedes detener el modelo una vez que haya clasificado el texto especificando dos secuencias de detención: مشكلة para el problema y سؤال para la pregunta.

Texto de la pregunta

Pega este texto de pocas líneas en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<s> [INST] قم بتصنيف رسالة العميل هذه إلى إحدى فئتين: سؤال، مشكلة.

الرسالة: عندما أحاول تسجيل الدخول، تظهر لي رسالة خطأ.
اسم الفئة: مشكلة

الرسالة: أين يمكنني العثور على أسعار الخطة؟
اسم الفصل: سؤال

الرسالة: ما الفرق بين التجربة والدفع؟
اسم الفصل: سؤال

الرسالة: تعطلت صفحة التسجيل، ولا أستطيع الآن إنشاء حساب جديد.
اسم الفئة: مشكلة

الرسالة: ما هي المناطق المدعومة؟
اسم الفصل: سؤال

الرسالة: لا أستطيع تذكر كلمة المرور الخاصة بي.
اسم الفئة: مشكلة

الرسالة: أواجه مشكلة في التسجيل للحصول على حساب جديد.
اسم الفئة:
[/INST]

 

Extrayendo detalles

Las tareas de extracción pueden ayudarle a encontrar términos clave o menciones en los datos basados en el significado semántico de las palabras en lugar de simples coincidencias de texto.

Ejemplo: extraer y clasificar detalles de un pasaje

Escenario: Dada una lista de categorías y un pasaje, identifique extractos del pasaje que encajen en los diferentes tipos de categorías.

Opciones de modelos

«mistral-large», «mistral-medium» o « mixtral-8x7b-instruct-v01 ».

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Necesitamos que el modelo devuelva palabras que están en la entrada; el modelo no puede ser creativo y hacer nuevas palabras.
  • Criterios de detención : si el modelo genera texto adicional, puedes especificar una secuencia de detención compuesta por dos caracteres de salto de línea. Para ello, haz clic en el cuadro de texto «Detener secuencia », pulsa dos veces la tecla Intro y, a continuación, haz clic en «Añadir secuencia ».

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo y configura los parámetros. Debes desactivar las medidas de seguridad de la IA para evitar que la entrada sea marcada por contener información de carácter personal. Haz clic en «Generar» para ver el resultado.

For each passage, extract the named entities that fit into the following categories:
Person, Measure, Number, Facility, Location, Product, Duration, Money, Time, PhoneNumber, Date, JobTitle, Organization, Percent, GeographicFeature, Address, Ordinal.
Passage:
Welcome to 123 Maple Lane, a charming and inviting 3-bedroom, 2-bathroom residence nestled in the heart of Springfield. This beautifully maintained home boasts 1,800 square feet of living space, perfect for families and first-time homebuyers alike.
- Spacious living room with a cozy fireplace and large windows for ample natural light
- Updated kitchen with stainless steel appliances, granite countertops, and ample cabinet space
- Master suite with a walk-in closet and en-suite bathroom featuring a soaking tub and separate shower
- Two additional well-appointed bedrooms and a full hallway bathroom
- Fully fenced backyard with a patio area, perfect for outdoor entertaining
- Attached two-car garage with additional storage space
- Conveniently located near top-rated schools, shopping centers, and parks
Don't miss your opportunity to own this fantastic home! Join us for the open house on Saturday, April 10th, 2023, from 1:00 PM to 4:00 PM.
**Price**
$350,000
**Seller Contact Details:**
John & Jane Doe
Phone: (555) 123-4567
Email: john.jane.doe@example.com

Generación de lenguaje natural

Las tareas de generación son lo que los modelos de lenguaje grandes hacen mejor. Las solicitudes pueden ayudar a guiar el modelo para generar un lenguaje útil.

Ejemplo con una solicitud de captura: generar una lista numerada en un tema en modalidad estructurada

Escenario: Generar una lista numerada en un tema determinado.

Elección del modelo

El modelo base « mixtral-8x7b-instruct-v01 » se entrenó para reconocer y gestionar correctamente los caracteres especiales, como el carácter de salto de línea. Este modelo es una buena opción cuando se desea que el texto generado tenga un formato específico con caracteres especiales.

Parámetros del modelo

  • Decodificación : configurada en muestreo. Este escenario es creativo. Configure los siguientes parámetros:
    • Temperatura: 0.7
    • Principales P: 1
    • Principales K: 50
    • Semilla aleatoria: 9045 (Para generar resultados diferentes, especifique un valor diferente para el parámetro semilla aleatoria o borre el parámetro.)
  • Criterios de detención : Para garantizar que el modelo deje de generar texto tras una lista, especifica una secuencia de detención compuesta por dos caracteres de salto de línea. Para ello, haz clic en el cuadro de texto «Secuencia de parada», pulsa dos veces la tecla Intro y, a continuación, haz clic en «Añadir secuencia ». La lista no será muy larga, así que configura el parámetro «Max tokens» en 50.

Sección de configuración

Pega estos encabezados y ejemplos en el área «Ejemplos» de la sección «Configuración »:

Tabla 3. Ejemplos de generación de pocas oportunidades
Input: Output:
What are 4 types of dog breed? 1. Poodle
2. Dalmatian
3. Golden retriever
4. Bulldog
What are 3 ways to incorporate exercise into your day? 1. Go for a walk at lunch
2. Take the stairs instead of the elevator
3. Park farther away from your destination
What are 4 kinds of vegetable? 1. Spinach
2. Carrots
3. Broccoli
4. Cauliflower
What are the 3 primary colors? 1. Red
2. Green
3. Blue

Prueba esta sección

Pega este código en la sección «Probar »:

What are 3 ingredients that are good on pizza?

Seleccione el modelo y establezca los parámetros y, a continuación, pulse Generar para ver el resultado.

Respuesta a preguntas

Las tareas de respuesta a preguntas son útiles en los sistemas de ayuda y otros escenarios en los que las preguntas más frecuentes o más matizadas se pueden responder a partir del contenido existente.

Para ayudar al modelo a devolver respuestas de hechos, implemente el patrón de generación de recuperación aumentada. Para obtener más información, consulte Recuperación-generación aumentada.

Ejemplo: responder a una pregunta basada en un artículo en modo de formato libre

Escenario: El sitio web para un catálogo de semillas en línea tiene muchos artículos para ayudar a los clientes a planificar su jardín y, en última instancia, seleccionar qué semillas comprar. Se está añadiendo un nuevo widget al sitio web para responder a las preguntas del cliente basándose en el contenido del artículo que el cliente está viendo. Dada una pregunta que está relacionada con un artículo, responda a la pregunta basada en el artículo.

Elección del modelo

Los modelos entrenados con instrucciones suelen poder realizar esta tarea con un ejemplo de prompt como « mistral-small-3-1-24b-instruct-2503 ».

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Las respuestas deben estar fundamentadas en los hechos en el artículo, y si no hay una buena respuesta en el artículo, el modelo no debe ser creativo y conformar una respuesta.
  • Criterios de finalización : para que el modelo devuelva una respuesta de una sola frase, escribe un punto «.» como una secuencia de detención. El parámetro «Max tokens» se puede establecer en 50.

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Article:
###
Tomatoes are one of the most popular plants for vegetable gardens. 
Tip for success: If you select varieties that are resistant to 
disease and pests, growing tomatoes can be quite easy. For 
experienced gardeners looking for a challenge, there are endless 
heirloom and specialty varieties to cultivate. Tomato plants come 
in a range of sizes. There are varieties that stay very small, less 
than 12 inches, and grow well in a pot or hanging basket on a balcony 
or patio. Some grow into bushes that are a few feet high and wide, 
and can be grown is larger containers. Other varieties grow into 
huge bushes that are several feet wide and high in a planter or 
garden bed. Still other varieties grow as long vines, six feet or 
more, and love to climb trellises. Tomato plants do best in full 
sun. You need to water tomatoes deeply and often. Using mulch 
prevents soil-borne disease from splashing up onto the fruit when you 
water. Pruning suckers and even pinching the tips will encourage the 
plant to put all its energy into producing fruit.
###

Answer the following question using only information from the article. 
Answer in a complete sentence, with proper capitalization and punctuation. 
If there is no good answer in the article, say "I don't know".

Question: Why should you use mulch when growing tomatoes?
Answer: 

Usted puede experimentar con hacer otras preguntas también, tales como:

  • "¿Qué tamaño tienen las plantas de tomate?"
  • "¿Las plantas de tomate prefieren la sombra o el sol?"
  • "¿Es fácil cultivar tomates?"

Pruebe también las preguntas fuera de ámbito, como por ejemplo:

  • -¿Cómo se cultivan los pepinos?

Ejemplo: responder a una pregunta basada en un documento con Granite

Escenario: Está creando un chatbot que puede responder a las preguntas del usuario. Cuando un usuario hace una pregunta, desea que el agente responda a la pregunta con información de un documento específico.

Elección del modelo

Los modelos entrenados con instrucciones, como los modelos de « Granite », pueden completar la tarea con este ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Las respuestas deben estar fundamentadas en los hechos del documento, y si no hay una buena respuesta en el artículo, el modelo no debe ser creativo y conformar una respuesta.
  • Criterios de detención : Establece el parámetro «Max tokens» en 50.

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Given the document and the current conversation between a user and an agent, your task is as follows: Answer any user query by using information from the document. The response should be detailed.

DOCUMENT: Foundation models are large AI models that have billions of parameters and are trained on terabytes of data. Foundation models can do various tasks, including text, code, or image generation, classification, conversation, and more. Large language models are a subset of foundation models that can do text- and code-related tasks.
DIALOG: USER: What are foundation models?

Ejemplo: Responde a una pregunta basándote en varios documentos con Granite 3.0

Escenario: Está creando un chatbot que puede responder a las preguntas del usuario. Cuando un usuario formula una pregunta, lo ideal es que el agente responda a ella basándose en la información de documentos concretos.

Elección del modelo

Los modelos entrenados con instrucciones, como los modelos de « Granite », pueden completar la tarea con este ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Las respuestas deben estar fundamentadas en los hechos del documento, y si no hay una buena respuesta en el artículo, el modelo no debe ser creativo y conformar una respuesta.
  • Criterios de detención : Para garantizar que el modelo deje de generar texto tras el resumen, especifica una secuencia de detención compuesta por dos caracteres de salto de línea. Para ello, haz clic en el cuadro de texto «Secuencia de parada», escribe <|end_of_text|>y, a continuación, haz clic en «Añadir secuencia ». Establece el parámetro «Max tokens» en 200.

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|start_of_role|>system<|end_of_role|>You are an expert in medical science.<|end_of_text|>
<|start_of_role|>user<|end_of_role|>Use the following documents as context to complete the task.

Document 1:
The human body is a complex and intricate system, composed of various interconnected parts that work together to maintain life. At the most fundamental level, the body is made up of cells, the basic units of life. These cells are organized into tissues, which are then grouped together to form organs. Organs, in turn, make up the various systems that carry out the body's functions.

Document 2:
One of the most important systems in the human body is the circulatory system. This system is responsible for transporting oxygen, nutrients, and hormones throughout the body. It is composed of the heart, blood vessels, and blood. The heart acts as a pump, pushing blood through the blood vessels and into the capillaries, where the exchange of oxygen, nutrients, and waste products takes place.

Document 3:
Another crucial system is the respiratory system. This system is responsible for the intake and exchange of oxygen and carbon dioxide. It is composed of the nose, throat, trachea, bronchi, and lungs. When we breathe in, air enters the nose or mouth and travels down the trachea into the lungs. Here, oxygen is absorbed into the bloodstream and carbon dioxide is expelled.

Document 4:
The human body also has a nervous system, which is responsible for transmitting signals between different parts of the body. This system is composed of the brain, spinal cord, and nerves. The brain acts as the control center, processing information and sending signals to the rest of the body. The spinal cord serves as a conduit for these signals, while the nerves transmit them to the various organs and tissues.


Which system in the human body is reponsible for breathing?<|end_of_text|>
<|start_of_role|>assistant<|end_of_role|>

Ejemplo: responder a preguntas de conocimiento general

Escenario: Responder preguntas generales sobre finanzas.

Elección del modelo

El modelo « granite-13b-instruct-v2 » se puede utilizar para múltiples tareas, entre las que se incluyen la generación de texto, la síntesis, el sistema de preguntas y respuestas, la clasificación y la extracción.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Esta muestra está respondiendo a preguntas, por lo que no queremos salida creativa.
  • Criterios de detención : Establece el parámetro «Max tokens» en 200 para que el modelo pueda devolver una respuesta completa.

Texto de la pregunta

El modelo se entrenó para responder preguntas con ejemplos en el siguiente formato:

<|user|>
contenido de la pregunta
<|assistant|>
nueva línea para la respuesta del modelo

Puede utilizar la sintaxis exacta <|user|> y <|assistant|> en las líneas antes y después de la pregunta o puede sustituir los valores por términos equivalentes, como User y Assistant.

Si está utilizando la versión 1, no incluya ningún espacio en blanco final después de la etiqueta <|assistant|> y asegúrese de añadir una nueva línea.

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|user|>
Tell me about interest rates
<|assistant|>

Después de que el modelo genere una respuesta, puede hacer una pregunta de seguimiento. El modelo utiliza información de la pregunta anterior cuando genera una respuesta.

<|user|>
Who sets it?
<|assistant|>

El modelo retiene información de una pregunta anterior cuando responde a una pregunta de seguimiento, pero no está optimizado para dar soporte a un diálogo ampliado.

Nota: Cuando realiza una pregunta de seguimiento, la pregunta anterior se envía de nuevo, lo que se suma al número de señales que se utilizan.

Ejemplo: Responde a preguntas de cultura general en japonés

Situación: Responder a preguntas generales sobre finanzas en japonés.

Elección del modelo

El modelo « granite-8b-japanese » se puede utilizar para múltiples tareas, entre las que se incluyen la generación de texto, la síntesis, el sistema de preguntas y respuestas, la clasificación y la extracción.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Esta muestra está respondiendo a preguntas, por lo que no queremos salida creativa.
  • Criterios de finalización : Establece el parámetro «Max tokens» en 500 para permitir que haya muchos turnos en el diálogo. Añade una secuencia de terminación compuesta por dos caracteres de salto de línea para evitar que el modelo base devuelva respuestas excesivamente largas. Para ello, haz clic en el cuadro de texto «Secuencia de parada», pulsa dos veces la tecla Intro y, a continuación, haz clic en «Añadir secuencia ».

Texto de la pregunta

El modelo se entrenó para responder preguntas con ejemplos en el siguiente formato:

以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。

### 指示:
与えられた質問に対して、文脈がある場合はそれも利用し、回答してください。

### 入力:
{your-input}

### 応答:

En inglés, la plantilla dice lo siguiente:

Below is a combination of instructions that describe the task and input with context. Write a response that appropriately meets the request.

### Instructions:
Please use the context when answering the given question, if available.

### input:
{your-input}

### Response:

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros, sustituye {your-input} por tu consulta o solicitud y, a continuación, haz clic en «Generar» para ver el resultado.

Por ejemplo, esta pregunta se refiere a los tipos de interés.

以下は、タスクを説明する指示と、文脈のある入力の組み合わせです。要求を適切に満たす応答を書きなさい。

### 指示:
与えられた質問に対して、文脈がある場合はそれも利用し、回答してください。

### 入力:
金利について教えてください。

### 応答:

Ejemplo: Completar una secuencia en un patrón

Escenario: Dado un patrón, solicite al modelo que genere el siguiente valor esperado en la secuencia.

Elección del modelo

Utiliza merlinite-7b, que permite realizar todo tipo de tareas generales.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe generar una respuesta basada en el contenido de la indicación; el modelo no puede ser demasiado creativo.

  • Criterios de parada : Añadir <|endoftext|> como secuencia de parada.

    Una característica útil del modelo de base merlinite-7b es la inclusión de una señal especial denominada <|endoftext|> al final de cada respuesta. Cuando algunos modelos generativos devuelven una respuesta a la entrada en menos señales que el número máximo permitido, pueden repetir patrones de la entrada. Este modelo evita dicha repetición al incorporar una secuencia de detención fiable para la solicitud.

Texto de la pregunta

Incluye al menos un ejemplo de cómo quieres que responda el modelo.

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|system|>
You are an AI language model developed by IBM Research. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.

<|user|>
Follow the pattern: A, C, E, G, ... What is the next letter?
<|assistant|>
The correct answer is I, as the sequence consists of every second letter in the English alphabet, starting with A (A, C, E, G, I...).

<|user|>
Follow the pattern: 5, 10, 15, 20, ... What comes next?
<|assistant|>

Ejemplo: Responder a una pregunta utilizando un razonamiento complejo en modo libre

Escenario: Pide al modelo que responda a preguntas generales que requieran razonamiento y comprensión lógica.

Elección del modelo

Los modelos entrenados específicamente para tareas de razonamiento complejo, como Mistral-Large, suelen ser capaces de realizar esta tarea con este ejemplo de prompt.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el contenido más predecible basándose en lo que hay en la solicitud; el modelo no puede ser demasiado creativo.
  • Criterios de detención : Para garantizar que el modelo deje de generar texto tras el resumen, especifica una secuencia de detención compuesta por dos caracteres de salto de línea. Para ello, haz clic en el cuadro de texto «Secuencia de parada», pulsa dos veces la tecla Intro y, a continuación, haz clic en «Añadir secuencia ». Establece el parámetro «Max tokens» en 100.

Texto de la pregunta

Pega este texto de pocas líneas en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Question: Which one is heavier a pound of iron or a kilogram of feather?
Answer: A kilogram of feathers is heavier than a pound of iron. A pound is a unit of weight that is equivalent to approximately 0.453592 kilograms. Therefore, a pound of iron weighs less than a kilogram of feathers.

Question: A bat and a ball cost $1.10 in total. The bat costs $1.00 more than the ball. How much does the ball cost?
Answer:

Ejemplo: Responde a una pregunta utilizando un razonamiento complejo con modelos de « DeepSeek-R1 » simplificados en modo libre

Escenario: Pide al modelo que responda a preguntas generales que requieran razonamiento y comprensión lógica.

Elección del modelo

Los modelos entrenados con instrucciones específicas para tareas de razonamiento complejo, como deepseek-r1-distill-llama-8b y deepseek-r1-distill-llama-70b, suelen ser capaces de completar esta tarea con este ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el contenido más predecible basándose en lo que hay en la solicitud; el modelo no puede ser demasiado creativo.
  • Criterios de detención : Establece el parámetro «Max tokens» en 2000 para permitir que el modelo genere un razonamiento más complejo en la respuesta.

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Nota: Intenta evitar añadir un mensaje del sistema. Todas las instrucciones deben figurar en la línea de comandos.
<| begin_of_sentence |><| User |>Create a travel itinerary for a weekend trip to Paris.<| Assistant |><think>

El modelo genera una respuesta que contiene los detalles sobre cómo razona el modelo al abordar el problema. <think>Los detalles se encuentran entre las etiquetas y </think> . A continuación, el modelo elabora una respuesta detallada a la pregunta.

Resumen

Las tareas de resumen le ahorran tiempo al condensar grandes cantidades de texto en unos pocos fragmentos clave de información.

Ejemplo con una solicitud de captura cero: Resumir una transcripción de reunión

Escenario: Dada una transcripción de la reunión, resuma los puntos principales como notas de la reunión para que esas notas se puedan compartir con compañeros de equipo que no asistieron a la reunión.

Elección del modelo

Los modelos entrenados con instrucciones suelen poder realizar esta tarea con este ejemplo de prompt. Sugerencias: mixtral-8x7b-instruct-v01.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el contenido más predecible basándose en lo que hay en la solicitud; el modelo no puede ser demasiado creativo.
  • Criterios de detención : Como el resumen puede tener varias frases, configura el parámetro «Máximo de tokens» en 60.

Texto de la pregunta

Pega este texto de prompt «zero-shot» en el editor de prompts de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Summarize the following transcript.
Transcript:
00:00   [alex]  Let's plan the team party!
00:10   [ali]   How about we go out for lunch at the restaurant?
00:21   [sam]   Good idea.
00:47   [sam]   Can we go to a movie too?
01:04   [alex]  Maybe golf?
01:15   [sam]   We could give people an option to do one or the other.
01:29   [alex]  I like this plan. Let's have a party!
Summary:

Ejemplo de prompt con pocos ejemplos: Resume la transcripción de una reunión en modo libre con Granite 3.0

Escenario: Dada una transcripción de la reunión, resuma los puntos principales como notas de la reunión para que esas notas se puedan compartir con compañeros de equipo que no asistieron a la reunión.

Elección del modelo

Con pocos ejemplos, la mayoría de los modelos pueden realizar esta tarea con buenos resultados. Prueba Granite. Da instrucciones a los modelos.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el contenido más predecible basándose en lo que hay en la solicitud; el modelo no puede ser demasiado creativo.
  • Criterios de detención : Para garantizar que el modelo deje de generar texto tras el resumen, especifica una secuencia de detención compuesta por dos caracteres de salto de línea. Para ello, haz clic en el cuadro de texto «Secuencia de parada», escribe <|end_of_text|>y, a continuación, haz clic en «Añadir secuencia ». Establece el parámetro «Max tokens» en 200.

Texto de la pregunta

Pega este texto de pocas líneas en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|start_of_role|>system<|end_of_role|>You are Granite, an AI language model developed by IBM in 2024. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.<|end_of_text|>
<|start_of_role|>user<|end_of_role|>Summarize a fragment of a meeting transcript. In this meeting, Sam, Erin, and Alex discuss updates.
Your response should only include the answer. Do not provide any further explanation.

Transcript:

Sam (00:00):
I wanted to share an update on project X today.

Sam (00:15):
Project X will be completed at the end of the week.

Erin (00:30):
That's great!

Erin (00:35):
I heard from customer Y today, and they agreed to buy our product.

Alex (00:45):
Customer Z said they will too.

Sam (01:05):
Great news, all around.

Summary:
<|end_of_text|>
<|start_of_role|>assistant<|end_of_role|>Sam shared an update that project X will be complete at the end of the week. Erin said customer Y will buy our product. And Alex said customer Z will buy our product too.<|end_of_text|>

Transcript:

Ali (00:00):
The goal today is to agree on a design solution.

Alex (00:12):
I think we should consider choice 1.

Ali (00:25):
I agree

Erin (00:40):
Choice 2 has the advantage that it will take less time.

Alex (01:03):
Actually, that's a good point.

Ali (01:30):
So, what should we do?

Alex (01:55):
I'm good with choice 2.

Erin (02:20):
Me too.

Ali (02:45):
Done!

Summary:
<|end_of_text|>
<|start_of_role|>assistant<|end_of_role|>

Ejemplo: Resumir contenido en coreano

Escenario: Dado un pasaje en coreano, resumir los principales puntos.

Elección del modelo

Utiliza llama2-13b-dpo-v7, que permite realizar todo tipo de tareas generales en coreano.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el contenido más predecible basándose en lo que hay en la solicitud; el modelo no puede ser demasiado creativo.
  • Criterios de detención : Establece el parámetro «Max tokens» en 200.

Texto de la pregunta

Incluye una instrucción que indique al modelo base que resuma el contenido. A continuación se presenta una traducción al inglés de dicha instrucción:

Briefly summarize the main points presented in the text 
in 3 to 5 sentences without repeating the document.
Document:

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|user|>
다음 문서를 3~5문장으로 반복되는 구문없이 텍스트에 제시된 주요 는거를 간략하게 요약해줘
문서:
토마토는 채소밭에 가장 인기 있는 식물 중 하나입니다. 성공을 위한 팁: 질병과 해충에 강한 품종을 선택하면 토마토 재배가 매우 쉬울 수 있습니다. 도전을 원하는 숙련된 정원사에게는 경작할 수 있는 가보와 특산 품종이 끝없이 많이 있습니다. 토마토 식물은 다양한 크기로 제공됩니다.
<|assistant|>
요약:

El pasaje a resumir se traduce al inglés de la siguiente manera:

Los tomates son una de las plantas más populares para los huertos. Consejo para el éxito: Si selecciona variedades que son resistentes a las enfermedades y plagas, el cultivo de tomates puede ser bastante fácil. Para los jardineros experimentados que buscan un desafío, hay un sinfín de variedades de reliquia y especialidades para cultivar. Las plantas de tomate vienen en una gama de tamaños.

No olvide seguir la sintaxis <|user|> y <|assistant|> recomendada para este modelo de base. Asegúrese de incluir un indicador (Summary:) para indicar que espera que el modelo de base devuelva un resumen.

Ejemplo: Generar un título para un pasaje

Escenario: Dado un pasaje, generar un título adecuado para el contenido.

Elección del modelo

Utiliza granite-7b-lab, que permite realizar todo tipo de tareas generales.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe generar un título basado en el contenido de la indicación; el modelo no puede ser demasiado creativo.

  • Criterios de parada : Añadir <|endoftext|> como secuencia de parada.

    Una característica útil del modelo de base granite-7b-lab es la inclusión de una señal especial denominada <|endoftext|> al final de cada respuesta. Cuando algunos modelos generativos devuelven una respuesta a la entrada en menos señales que el número máximo permitido, pueden repetir patrones de la entrada. Este modelo evita dicha repetición al incorporar una secuencia de detención fiable para la solicitud.

Texto de la pregunta

Incluye al menos un ejemplo de cómo quieres que responda el modelo.

Una característica del modelo de base granite-7b-lab es que puede revisar las habilidades para las que se ha entrenado el modelo abriendo la página Taxonomía de entrenamiento desde la tarjeta del modelo para el modelo de base.

Por ejemplo, la taxonomía indica que el modelo de base granite-7b-lab se ha entrenado en la aptitud title . Si pulsa la aptitud, puede ver ejemplos que se han utilizado como ejemplos de semilla para los datos sintéticos que se han utilizado para entrenar el modelo. Puede modelar el ejemplo que incluye en la solicitud de una sola vez después de uno de estos ejemplos específicos de habilidades. El uso de un estilo y un formato similares para la solicitud ayuda al modelo a reconocer lo que espera en la salida del modelo.

Nota: No espere que la salida del modelo de base sea exactamente la misma que la salida del modelo de los ejemplos de habilidades de la taxonomía. Estos ejemplos no se utilizaron para entrenar el modelo de fundación directamente. Los ejemplos sirvieron como ejemplos de semilla para datos sintéticos que generaron nuevos ejemplos que se utilizaron para entrenar el modelo de base.

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

El ejemplo proviene de los ejemplos de semilla de habilidad de título. El contenido que se proporciona como contexto en la solicitud se toma de Señales y señalización en la documentación del producto.

<|system|>
You are an AI language model developed by IBM Research. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.

<|user|>
Generate a title from the given text.
Context
Dana Blankstein- Cohen (born March 3, 1981) is the director of the Israeli Academy of Film and Television.\n\nShe is a film director, and an Israeli culture entrepreneur.\nLuciano Salce (25 September 1922, in Rome – 17 December 1989, in Rome) was an Italian film director, actor and lyricist.\n\nHis 1962 film "Le pillole di Ercole" was shown as part of a retrospective on Italian comedy at the 67th Venice International Film Festival.\n\nAs a writer of pop music, he used the pseudonym Pilantra.\n\nDuring World War II, he was a prisoner in Germany.\n\nHe later worked for several years in Brazil.\nVediamoci chiaro\n\n("Let\'s See It Clear") is a 1984 Italian comedy film directed by Luciano Salce.\n\nThe author Enrico Giacovelli referred to the film as "a kind of "Scent of a Woman" but more ambiguous, midway between Luigi Pirandello\'s "Henry IV" and "The Late Mattia Pascal.\nPeter Levin is an American director of film, television and theatre.\nIan Barry is an Australian director of film and TV.\nJesse Edward Hobson( May 2, 1911 – November 5, 1970) was the director of SRI International from 1947 to 1955.\n\nPrior to SRI, he was the director of the Armour Research Foundation.\nOlav Aaraas( born 10 July 1950) is a Norwegian historian and museum director.\n\nHe was born in Fredrikstad.\n\nFrom 1982 to 1993 he was the director of Sogn Folk Museum, from 1993 to 2010 he was the director of Maihaugen and from 2001 he has been the director of the Norwegian Museum of Cultural History.\n\nIn 2010 he was decorated with the Royal Norwegian Order of St. Olav.\nBrian O’ Malley is an Irish film director known for the horror film" Let Us Prey" and the ghost story" The Lodgers".\nBrian Patrick Kennedy( born 5 November 1961) is an Irish- born art museum director who has worked in Ireland and Australia, and now lives and works in the United States.\n\nHe is currently the director of the Peabody Essex Museum.\n\nHe was the director of the Toledo Museum of Art in Ohio from 2010 to 2019.\n\nHe was the director of the Hood Museum of Art from 2005 to 2010, and the National Gallery of Australia( Canberra) from 1997- 2004.

<|assistant|>
Directors Across Borders: A Comparative Study of International Film and Museum Directors, from Luciano Salce to Brain Patrick Kennedy

<|user|>
Generate a title from the given text.
Context:
A token is a collection of characters that has semantic meaning for a model. Tokenization is the process of converting the words in your prompt into tokens.
You can monitor foundation model token usage in a project on the Environments page on the Resource usage tab.
Converting words to tokens and back again
Prompt text is converted to tokens before the prompt is processed by foundation models.
The correlation between words and tokens is complex:
Sometimes a single word is broken into multiple tokens
The same word might be broken into a different number of tokens, depending on context (such as: where the word appears, or surrounding words)
Spaces, newline characters, and punctuation are sometimes included in tokens and sometimes not
The way words are broken into tokens varies from language to language
The way words are broken into tokens varies from model to model
For a rough idea, a sentence that has 10 words might be 15 to 20 tokens.
The raw output from a model is also tokens. In the Prompt Lab in IBM watsonx.ai, the output tokens from the model are converted to words to be displayed in the prompt editor.

<|assistant|>

Ejemplo: Generar un título para un pasaje

Escenario: Dado un pasaje, generar un título adecuado para el contenido.

Elección del modelo

Utiliza granite-7b-lab, que permite realizar todo tipo de tareas generales.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo debe generar un título basado en el contenido de la indicación; el modelo no puede ser demasiado creativo.

  • Criterios de parada : Añadir <|endoftext|> como secuencia de parada.

    Una característica útil del modelo de base granite-7b-lab es la inclusión de una señal especial denominada <|endoftext|> al final de cada respuesta. Cuando algunos modelos generativos devuelven una respuesta a la entrada en menos señales que el número máximo permitido, pueden repetir patrones de la entrada. Este modelo evita dicha repetición al incorporar una secuencia de detención fiable para la solicitud.

Texto de la pregunta

Incluye al menos un ejemplo de cómo quieres que responda el modelo.

Una característica del modelo de base granite-7b-lab es que puede revisar las habilidades para las que se ha entrenado el modelo abriendo la página Taxonomía de entrenamiento desde la tarjeta del modelo para el modelo de base.

Por ejemplo, la taxonomía indica que el modelo de base granite-7b-lab se ha entrenado en la aptitud title . Si pulsa la aptitud, puede ver ejemplos que se han utilizado como ejemplos de semilla para los datos sintéticos que se han utilizado para entrenar el modelo. Puede modelar el ejemplo que incluye en la solicitud de una sola vez después de uno de estos ejemplos específicos de habilidades. El uso de un estilo y un formato similares para la solicitud ayuda al modelo a reconocer lo que espera en la salida del modelo.

Nota: No espere que la salida del modelo de base sea exactamente la misma que la salida del modelo de los ejemplos de habilidades de la taxonomía. Estos ejemplos no se utilizaron para entrenar el modelo de fundación directamente. Los ejemplos sirvieron como ejemplos de semilla para datos sintéticos que generaron nuevos ejemplos que se utilizaron para entrenar el modelo de base.

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

El ejemplo proviene de los ejemplos de semilla de habilidad de título. El contenido que se proporciona como contexto en la solicitud se toma de Señales y señalización en la documentación del producto.

<|system|>
You are an AI language model developed by IBM Research. You are a cautious assistant. You carefully follow instructions. You are helpful and harmless and you follow ethical guidelines and promote positive behavior.

<|user|>
Generate a title from the given text.
Context
Dana Blankstein- Cohen (born March 3, 1981) is the director of the Israeli Academy of Film and Television.\n\nShe is a film director, and an Israeli culture entrepreneur.\nLuciano Salce (25 September 1922, in Rome – 17 December 1989, in Rome) was an Italian film director, actor and lyricist.\n\nHis 1962 film "Le pillole di Ercole" was shown as part of a retrospective on Italian comedy at the 67th Venice International Film Festival.\n\nAs a writer of pop music, he used the pseudonym Pilantra.\n\nDuring World War II, he was a prisoner in Germany.\n\nHe later worked for several years in Brazil.\nVediamoci chiaro\n\n("Let\'s See It Clear") is a 1984 Italian comedy film directed by Luciano Salce.\n\nThe author Enrico Giacovelli referred to the film as "a kind of "Scent of a Woman" but more ambiguous, midway between Luigi Pirandello\'s "Henry IV" and "The Late Mattia Pascal.\nPeter Levin is an American director of film, television and theatre.\nIan Barry is an Australian director of film and TV.\nJesse Edward Hobson( May 2, 1911 – November 5, 1970) was the director of SRI International from 1947 to 1955.\n\nPrior to SRI, he was the director of the Armour Research Foundation.\nOlav Aaraas( born 10 July 1950) is a Norwegian historian and museum director.\n\nHe was born in Fredrikstad.\n\nFrom 1982 to 1993 he was the director of Sogn Folk Museum, from 1993 to 2010 he was the director of Maihaugen and from 2001 he has been the director of the Norwegian Museum of Cultural History.\n\nIn 2010 he was decorated with the Royal Norwegian Order of St. Olav.\nBrian O’ Malley is an Irish film director known for the horror film" Let Us Prey" and the ghost story" The Lodgers".\nBrian Patrick Kennedy( born 5 November 1961) is an Irish- born art museum director who has worked in Ireland and Australia, and now lives and works in the United States.\n\nHe is currently the director of the Peabody Essex Museum.\n\nHe was the director of the Toledo Museum of Art in Ohio from 2010 to 2019.\n\nHe was the director of the Hood Museum of Art from 2005 to 2010, and the National Gallery of Australia( Canberra) from 1997- 2004.

<|assistant|>
Directors Across Borders: A Comparative Study of International Film and Museum Directors, from Luciano Salce to Brain Patrick Kennedy

<|user|>
Generate a title from the given text.
Context:
A token is a collection of characters that has semantic meaning for a model. Tokenization is the process of converting the words in your prompt into tokens.
You can monitor foundation model token usage in a project on the Environments page on the Resource usage tab.
Converting words to tokens and back again
Prompt text is converted to tokens before the prompt is processed by foundation models.
The correlation between words and tokens is complex:
Sometimes a single word is broken into multiple tokens
The same word might be broken into a different number of tokens, depending on context (such as: where the word appears, or surrounding words)
Spaces, newline characters, and punctuation are sometimes included in tokens and sometimes not
The way words are broken into tokens varies from language to language
The way words are broken into tokens varies from model to model
For a rough idea, a sentence that has 10 words might be 15 to 20 tokens.
The raw output from a model is also tokens. In the Prompt Lab in IBM watsonx.ai, the output tokens from the model are converted to words to be displayed in the prompt editor.

<|assistant|>

Generación y conversión de código

Los modelos base que pueden generar y convertir código programático son grandes recursos para los desarrolladores. Pueden ayudar a los desarrolladores a realizar una lluvia de ideas y resolver los problemas de las tareas de programación.

Ejemplo: Generar código programático a partir de instrucciones

Escenario: Desea generar código a partir de instrucciones. Es decir, desea escribir una función en el lenguaje de programación Python que invierte una serie.

Elección del modelo

Los modelos capaces de generar código, como codestral-2501, mistral-large y mixtral-8x7b-instruct-v01, suelen poder realizar esta tarea cuando se les proporciona un ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». La respuesta debe ser un fragmento de código válido. El modelo no puede ser creativo y hacer una respuesta.
  • Criterios de detención : Para detener el modelo después de que devuelva un único fragmento de código, especifica <end of code> como secuencia de detención. El parámetro «Max tokens» se puede establecer en 1.000.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Using the directions below, generate Python code for the specified task.

Input:
# Write a Python function that prints 'Hello World!' string 'n' times.

Output:
def print_n_times(n):
    for i in range(n):
        print("Hello World!")

<end of code>

Input:
# Write a Python function that reverses the order of letters in a string.
# The function named 'reversed' takes the argument 'my_string', which is a string. It returns the string in reverse order.

Output:

La salida contiene código Python similar al siguiente fragmento de código:

def reversed(my_string):
    return my_string[::-1]

Asegúrese de probar el código generado para verificar que funciona como esperaba.

Por ejemplo, si ejecuta reversed("good morning"), el resultado es 'gninrom doog'.

Nota: El modelo de base puede generar código que se toma directamente de sus datos de entrenamiento. Como resultado, el código generado puede requerir atribución. Usted es responsable de asegurarse de que cualquier código generado que utilice se atribuya correctamente, si es necesario.

Ejemplo: Generar código de programación a partir de instrucciones con una indicación «zero-shot»

Escenario: Desea generar código a partir de instrucciones. Es decir, quieres escribir una función en el lenguaje de programación Python que muestre el mensaje «¡Hola, mundo!» n veces.

Elección del modelo

Cuando utilices el modelo básico de llama-3-2-1b-instruct o llama-3-2-3b-instruct, no es necesario que proporciones ejemplos. iphythonEs necesario utilizar una plantilla personalizada que especifique el valor de entorno, que el modelo interpreta como una solicitud de generación de código.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». La respuesta debe ser un fragmento de código válido. El modelo no puede ser creativo y hacer una respuesta.
  • Criterios de detención : El modelo no requiere una secuencia de detención.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

Environment: ipython<|eot_id|><|start_header_id|>user<|end_header_id|>

${Add your code instruction here}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Sustituye ${Add your code instruction here} por una descripción del código que quieres que genere el modelo. Por ejemplo, Write a Python function that prints 'Hello World!' string 'n' times..

El modelo genera resultados como los siguientes:

Here is a simple Python function that prints 'Hello World!' 'n' times:

```python
def print_hello_world(n):
    for i in range(n):
        print('Hello World!')

print_hello_world(5)

Esta función utiliza un bucle «for» para iterar «n» veces, mostrando «¡Hola, mundo!» cada vez. La range(n) función genera una secuencia de números del 0 a « n-1 », que luego se utilizan como variable de bucle «i».

Ejemplo: Convertir código de un lenguaje de programación a otro

Escenario: Desea convertir el código de un lenguaje de programación a otro. Es decir, desea convertir un fragmento de código de C++ a Python.

Elección del modelo

Los modelos capaces de generar código, como codellama-34b-instruct-hf, mistral-large y mixtral-8x7b-instruct-v01, suelen poder realizar esta tarea cuando se les proporciona un ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». La respuesta debe ser un fragmento de código válido. El modelo no puede ser creativo y hacer una respuesta.
  • Criterios de detención : Para detener el modelo después de que devuelva un único fragmento de código, especifica <end of code> como secuencia de detención. El parámetro «Max tokens» se puede establecer en 300.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Esta solicitud incluye un par de entrada y salida de ejemplo. La entrada es código C++ y la salida es la función equivalente en el código Python .

A continuación se incluye el fragmento de código C++ que se va a convertir. Es una función que cuenta el número de progresiones aritméticas con la suma S y la diferencia común de D, donde S y D son valores enteros que se pasan como parámetros.

La parte final de la solicitud identifica el lenguaje en el que desea convertir el fragmento de código C++.

Translate the following code from C++ to Python.

C++:
#include "bits/stdc++.h"
using namespace std;
bool isPerfectSquare(long double x) {
    long double sr = sqrt(x);
    return ((sr - floor(sr)) == 0);
}
void checkSunnyNumber(int N) {
    if (isPerfectSquare(N + 1)) {
    cout << "Yes
";
    } else {
    cout << "No
";
    }
}
int main() {
    int N = 8;
    checkSunnyNumber(N);
    return 0;
}

Python:
from math import *
 
def isPerfectSquare(x):
    sr = sqrt(x)
    return ((sr - floor(sr)) == 0)
 
def checkSunnyNumber(N):
    if (isPerfectSquare(N + 1)):
        print("Yes")
    else:
        print("No")
 
if __name__ == '__main__':
    N = 8
    checkSunnyNumber(N)

<end of code>

C++:
#include <bits/stdc++.h>
using namespace std;
int countAPs(int S, int D) {
    S = S * 2;
    int answer = 0;
    for (int i = 1; i <= sqrt(S); i++) {
    if (S % i == 0) {
      if (((S / i) - D * i + D) % 2 == 0)
        answer++;
      if ((D * i - (S / i) + D) % 2 == 0)
        answer++;
    }
    }
    return answer;
}
int main() {
    int S = 12, D = 1;
    cout << countAPs(S, D);
    return 0;
}

Python:

La salida contiene código Python similar al siguiente fragmento de código:

from math import *
 
def countAPs(S, D):
    S = S * 2
    answer = 0
    for i in range(1, int(sqrt(S)) + 1):
        if S % i == 0:
            if (((S / i) - D * i + D) % 2 == 0):
                answer += 1
            if ((D * i - (S / i) + D) % 2 == 0):
                answer += 1
    return answer
 
if __name__ == '__main__':
    S = 12
    D = 1
    print(countAPs(S, D))

<end of code>

El código Python generado funciona igual que el código C++ incluido en la solicitud.

Pruebe el código Python generado para verificar que funciona como esperaba.

Nota: El modelo de base puede generar código que se toma directamente de sus datos de entrenamiento. Como resultado, el código generado puede requerir atribución. Usted es responsable de asegurarse de que cualquier código generado que utilice se atribuya correctamente, si es necesario.

Ejemplo: generar código programático a partir de instrucciones con Granite

Escenario: Desea generar código a partir de instrucciones. Es decir, desea escribir una función en el lenguaje de programación Python que invierte una serie.

Elección del modelo

Los modelos capaces de generar código, como Granite Code o Granite Instruct, suelen poder realizar esta tarea cuando se les proporciona un ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». La respuesta debe ser un fragmento de código válido. El modelo no puede ser creativo y hacer una respuesta.
  • Criterios de detención : Para detener el modelo después de que devuelva un único fragmento de código, especifica <end of code> como secuencia de detención. El parámetro Número máximo de señales se puede establecer en 300.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Question:
Using the directions below, generate Python code for the specified task.
# Write a Python function that prints 'Hello World!' string 'n' times.

Answer:
def print_n_times(n):
    for i in range(n):
        print("Hello World!")

<end of code>

Question:
# Write a Python function that reverses the order of letters in a string.
# The function named 'reversed' takes the argument 'my_string', which is a string. It returns the string in reverse order.

Answer:

La salida contiene código Python similar al siguiente fragmento de código:

def reverse_string(my_string):
    return my_string[::-1]

<end of code>

Asegúrese de probar el código generado para verificar que funciona como esperaba.

Por ejemplo, si ejecuta reversed("good morning"), el resultado es 'gninrom doog'.

Para obtener más Granite, consulte Preguntas de código.

Ejemplo: convertir código de un lenguaje de programación a otro con Granite

Escenario: Desea convertir el código de un lenguaje de programación a otro. Es decir, desea convertir un fragmento de código de C++ a Python.

Elección del modelo

Los modelos capaces de generar código, como los modelos «Code Instruct» de Granite, suelen poder realizar esta tarea cuando se les proporciona un ejemplo de solicitud.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». La respuesta debe ser un fragmento de código válido. El modelo no puede ser creativo y hacer una respuesta.
  • Criterios de detención : Para detener el modelo después de que devuelva un único fragmento de código, especifica <end of code> como secuencia de detención. El parámetro «Max tokens» se puede establecer en 1.000.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Este mensaje incluye una instrucción para convertir un fragmento de código de C++ a Python.

El fragmento de código C++ que se va a convertir se incluye a continuación para proporcionar contexto. Es una función que cuenta el número de progresiones aritméticas con la suma S y la diferencia común de D, donde S y D son valores enteros que se pasan como parámetros.

Question:
Translate the following code from C++ to Python.
C++:
#include "bits/stdc++.h"
using namespace std;
bool isPerfectSquare(long double x) {
    long double sr = sqrt(x);
    return ((sr - floor(sr)) == 0);
}
void checkSunnyNumber(int N) {
    if (isPerfectSquare(N + 1)) {
    cout << "Yes
";
    } else {
    cout << "No
";
    }
}
int main() {
    int N = 8;
    checkSunnyNumber(N);
    return 0;
}

Answer:
Python:
from math import *
 
def isPerfectSquare(x):
    sr = sqrt(x)
    return ((sr - floor(sr)) == 0)
 
def checkSunnyNumber(N):
    if (isPerfectSquare(N + 1)):
        print("Yes")
    else:
        print("No")
 
if __name__ == '__main__':
    N = 8
    checkSunnyNumber(N)

<end of code>

Question:
Translate the following code from C++ to Python.
C++:
#include <bits/stdc++.h>
using namespace std;
int countAPs(int S, int D) {
    S = S * 2;
    int answer = 0;
    for (int i = 1; i <= sqrt(S); i++) {
    if (S % i == 0) {
      if (((S / i) - D * i + D) % 2 == 0)
        answer++;
      if ((D * i - (S / i) + D) % 2 == 0)
        answer++;
    }
    }
    return answer;
}
int main() {
    int S = 12, D = 1;
    cout << countAPs(S, D);
    return 0;
}

Answer:

La salida contiene código Python similar al siguiente fragmento de código:

Python:
from math import *
 
def countAPs(S, D):
    S = S * 2
    answer = 0
    for i in range(1, int(sqrt(S)) + 1):
        if S % i == 0:
            if ((S // i) - D * i + D) % 2 == 0:
                answer += 1
            if (D * i - (S // i) + D) % 2 == 0:
                answer += 1
    return answer
 
if __name__ == '__main__':
    S = 12
    D = 1
    print(countAPs(S, D))

El código Python generado funciona igual que el código C++ incluido en la solicitud.

Pruebe el código Python generado para verificar que funciona como esperaba.

Para obtener más Granite, consulte Preguntas de código.

Ejemplo: Buscar fuentes de información en SQL

Situación: Partiendo de un conjunto de tablas definidas en SQL, se desea determinar en qué columnas de las tablas hay que buscar la respuesta a una pregunta.

Elección del modelo

Utiliza el modelo básico « granite-20b-code-base-schema-linking » para leer SQL e identificar dónde encontrar la información que buscas.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo no puede ser creativo y hacer una respuesta.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Esta indicación incluye tablas definidas en SQL y, a continuación, pide al modelo que ayude a identificar en qué parte del código SQL se encuentra la respuesta a una consulta.

Consider:
Which gas station has the highest amount of revenue?

CREATE TABLE customers (
 customerid PRIMARY KEY, -- identification of the customer
 segment, -- client segment
 currency, -- Currency
);

CREATE TABLE gasstations (
 gasstationid PRIMARY KEY, -- Gas Station ID
 chainid, -- Chain ID
 country,
 segment, -- chain segment
);

CREATE TABLE products (
 productid PRIMARY KEY, -- Product ID
 description, -- Description
);

CREATE TABLE transactions_1k (
 transactionid PRIMARY KEY, -- Transaction ID
 date, -- Date\\n time, -- Time
 customerid, -- Customer ID
 cardid, -- Card ID
 gasstationid, -- Gas Station ID
 productid, -- Product ID
 amount, -- Amount
 price, -- Price
);

CREATE TABLE yearmonth (
 customerid, -- Customer ID
 date, -- Date\\n consumption, -- consumption
 FOREIGN KEY(customerid) REFERENCES customers(customerid)
);

To answer:
Which gas station has the highest amount of revenue?
We need columns:

La respuesta identifica las columnas cuyo contenido es el que más probablemente pueda responder a la pregunta, y podría tener este aspecto:

gasstations.gasstationid, gasstations.country, transactions_1k.gasstationid, transactions_1k.amount

Ejemplo: Generar una instrucción SQL

Situación: Partiendo de una tabla SQL, genera una instrucción SQL que extraiga información de la tabla para responder a una consulta.

Elección del modelo

Utiliza el modelo base « granite-20b-code-base-sql-gen » para generar una instrucción SQL con la que puedas responder a una pregunta.

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». El modelo no puede ser creativo y hacer una respuesta.

Texto de la pregunta

Pega este fragmento de código en el editor de indicaciones de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Esta indicación incluye una tabla definida en SQL y, a continuación, solicita al modelo que genere una instrucción SQL capaz de encontrar una respuesta a una consulta realizada sobre dicha tabla.

Note:
the youngest user refers to MIN(Age)

What is the id of the youngest user?

CREATE TABLE users (
 id INTEGER PRIMARY KEY, -- the user id
 displayname TEXT, -- the user\'s display name
 age INTEGER, -- user\'s age
 );
 
 users.id
 users.displayname: \'   Raid-Mahbouba\', \'0 kelvin\', \'0012\'
 users.age: 13, 68, 73
 
 selected: users.id, users.age, None, users.displayname
 join: None, users.id
 condition: users.age, None, users.id
 order: users.age, None
 group: None, users.id, users.age
 
Comparisons: None

Note:
the youngest user refers to MIN(Age)

What is the id of the youngest user?
Generate SQL:


La respuesta es una instrucción SQL que podría tener este aspecto:

SELECT id FROM users ORDER BY age ASC LIMIT 1

Diálogo

Las tareas de diálogo son útiles en los escenarios de servicio al cliente, especialmente cuando se utiliza un chatbot para guiar a los clientes a través de un flujo de trabajo para alcanzar un objetivo.

Ejemplo: Conversación con Llama 4

Escenario: Generar salida de diálogo como un chatbot.

Elección del modelo

Los sitios web llama-4-maverick-17b-128e-instruct-fp8 y llama-4-scout-17b-16e-instruct están optimizados para situaciones de diálogo. Los modelos están optimizados para un formato de solicitud específico que se describe en la sección «Texto de la solicitud ».

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Esta muestra está respondiendo a conocimientos generales, preguntas de hechos, por lo que no queremos resultados creativos.
  • Criterios de detención : Establece el parámetro «Max tokens» en 200.

La plantilla utiliza un token de fin de texto (<|eot|>) para delimitar el final de cada segmento de texto, excepto el prompt del sistema.

Texto de la pregunta

La siguiente plantilla de solicitud es la más adecuada para introducir datos:

<|begin_of_text|><|header_start|>system<|header_end|>

SYSTEM PROMPT<|eot|><|header_start|>user<|header_end|>

USER_INPUT<|eot|><|header_start|>assistant<|header_end|>

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<|begin_of_text|><|header_start|>system<|header_end|>

You are a helpful assistant<|eot|><|header_start|>user<|header_end|>

What is the freezing point of water in Celcius?<|eot|><|header_start|>assistant<|header_end|>

Una vez generada la respuesta inicial, continúa el diálogo para formular preguntas de seguimiento, añadiendo los mismos identificadores al final del texto de entrada, por ejemplo:

FOLLOW UP QUESTION<|eot|><|header_start|>assistant<|header_end|>

La salida tiene un aspecto similar al siguiente:

<|begin_of_text|><|header_start|>system<|header_end|>

You are a helpful assistant<|eot|><|header_start|>user<|header_end|>

What is the freezing point of water in Celcius?<|eot|><|header_start|>assistant<|header_end|>
          
The freezing point of water is 0 degrees Celsius (°C) at standard atmospheric pressure.

What is it in Fahrenheit?<|eot|><|header_start|>assistant<|header_end|>

The freezing point of water is 32 degrees Fahrenheit (°F) at standard atmospheric pressure.

And in Kelvin?<|eot|><|header_start|>assistant<|header_end|>

The freezing point of water is 273.15 Kelvin (K) at standard atmospheric pressure.

Muestra: Conversar con Llama 3

Escenario: Generar salida de diálogo como un chatbot.

Elección del modelo

Llama 3, 3.1, 3.2 y 3.3 están optimizados para su uso en ventanas de diálogo. Los modelos están optimizados para un formato de solicitud específico que se describe en la sección «Texto de la solicitud ».

Parámetros del modelo

  • Decodificación : Configurado en «Greedy ». Esta muestra está respondiendo a conocimientos generales, preguntas de hechos, por lo que no queremos resultados creativos.
  • Criterios de detención : Establece el parámetro «Max tokens» en 900.

La plantilla utiliza un token de fin de texto (<|eot_id|>) para delimitar el final de cada segmento de texto, excepto el prompt del sistema.

Texto de la pregunta

La siguiente plantilla de solicitud es la más adecuada para introducir datos:

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

SYSTEM PROMPT<|eot_id|><|start_header_id|>user<|end_header_id|>

GROUNDING (OPTIONAL)<|eot_id|><|start_header_id|>user<|end_header_id|>

USER_INPUT<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Pega este texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Sugerencia:De forma alternativa, puede cambiar a la modalidad de conversación y especificar la entrada de usuario directamente. Prompt Lab inserta automáticamente la sintaxis necesaria para identificar la instrucción y los segmentos de entrada del usuario.
<|begin_of_text|><|start_header_id|>system<|end_header_id|>

You are a helpful assistant that avoids causing harm. When you do not know the answer to a question, you say "I don't know".<|eot_id|><|start_header_id|>user<|end_header_id|>

I have a question about Earth. How many moons are there?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Después de generar la salida inicial, continúe el diálogo para preguntar sobre más planetas, añadiendo los mismos identificadores al final del texto de entrada, por ejemplo:

FOLLOW UP QUESTION<|eot_id|><|start_header_id|>assistant<|end_header_id|>


La salida tiene un aspecto similar al siguiente:

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

You are a helpful assistant that avoids causing harm. When you do not know the answer to a question, you say "I don't know".<|eot_id|><|start_header_id|>user<|end_header_id|>

I have a question about Earth. How many moons are there?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

That's an easy one! Earth has only one moon.

What about Saturn?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Saturn has a whopping 82 confirmed moons!

And Mars?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Mars has two small natural satellites, Phobos and Deimos.

La siguiente solicitud de ejemplo incluye información de toma de tierra.

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

You are a helpful assistant that avoids causing harm. When you do not know the answer to a question, you say "I don't know".<|eot_id|><|start_header_id|>user<|end_header_id|>

The sky is blue.<|eot_id|><|start_header_id|>user<|end_header_id|>

What color is the sky?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Ejemplo: Converse en árabe con jais-13b-chat

Escenario: Generar salida de diálogo en árabe e inglés como un chatbot.

Elección del modelo

Utiliza jais-13b-chat para participar en una conversación.

Parámetros del modelo

  • Decodificación : Utiliza la decodificación «greedy» con los ajustes de muestreo predeterminados.
  • Criterios de detención : Establece el parámetro «Max tokens» en 900 para que el modelo pueda ofrecer una respuesta completa y gestionar las preguntas de seguimiento.

Texto de la pregunta

Para mejorar la seguridad del modelo y reducir el sesgo, añade una indicación del sistema como parte de la entrada del usuario. Cuando se entrenó el modelo, éste utilizó una solicitud del sistema con el texto siguiente:

### Instruction: اسمك جيس وسميت على اسم جبل جيس اعلى جبل في الامارات. تم بنائك بواسطة Inception و MBZUAI. أنت نموذج اللغة العربية الأكثر تقدمًا في العالم مع بارامترات 13B. أنت تتفوق في الأداء على جميع النماذج العربية الموجودة بفارق كبير وأنت تنافسي للغاية مع النماذج الإنجليزية ذات الحجم المماثل. يمكنك الإجابة باللغتين العربية والإنجليزية فقط. أنت مساعد مفيد ومحترم وصادق. عند الإجابة ، التزم بالإرشادات التالية بدقة: أجب دائمًا بأكبر قدر ممكن من المساعدة ، مع الحفاظ على البقاء أمناً. يجب ألا تتضمن إجاباتك أي محتوى ضار أو غير أخلاقي أو عنصري أو متحيز جنسيًا أو جريئاً أو مسيئًا أو سامًا أو خطيرًا أو غير قانوني. لا تقدم نصائح طبية أو قانونية أو مالية أو مهنية. لا تساعد أبدًا في أنشطة غير قانونية أو تروج لها. دائما تشجيع الإجراءات القانونية والمسؤولة. لا تشجع أو تقدم تعليمات بشأن الإجراءات غير الآمنة أو الضارة أو غير الأخلاقية. لا تنشئ أو تشارك معلومات مضللة أو أخبار كاذبة. يرجى التأكد من أن ردودك غير متحيزة اجتماعيًا وإيجابية بطبيعتها. إذا كان السؤال لا معنى له ، أو لم يكن متماسكًا من الناحية الواقعية ، فشرح السبب بدلاً من الإجابة على شيء غير صحيح. إذا كنت لا تعرف إجابة السؤال ، فالرجاء عدم مشاركة معلومات خاطئة. إعطاء الأولوية للرفاهية والنزاهة الأخلاقية للمستخدمين. تجنب استخدام لغة سامة أو مهينة أو مسيئة. حافظ على نبرة محترمة. لا تنشئ أو تروج أو تشارك في مناقشات حول محتوى للبالغين. تجنب الإدلاء بالتعليقات أو الملاحظات أو التعميمات القائمة على الصور النمطية. لا تحاول الوصول إلى معلومات شخصية أو خاصة أو إنتاجها أو نشرها. احترم دائما سرية المستخدم. كن إيجابيا ولا تقل أشياء سيئة عن أي شيء. هدفك الأساسي هو تجنب الاجابات المؤذية ، حتى عند مواجهة مدخلات خادعة. تعرف على الوقت الذي قد يحاول فيه المستخدمون خداعك أو إساءة استخدامك و لترد بحذر.\n\nأكمل المحادثة أدناه بين [|Human|] و [|AI|]:
### Input: [|Human|] {Question}
### Response: [|AI|]

La solicitud del sistema en inglés es la siguiente:

### Instruction: Your name is Jais, and you are named after Jebel Jais, the highest mountain in UAE. You are built by Inception and MBZUAI. You are the world's most advanced Arabic large language model with 13B parameters. You outperform all existing Arabic models by a sizable margin and you are very competitive with English models of similar size. You can answer in Arabic and English only. You are a helpful, respectful and honest assistant. When answering, abide by the following guidelines meticulously: Always answer as helpfully as possible, while being safe. Your answers should not include any harmful, unethical, racist, sexist, explicit, offensive, toxic, dangerous, or illegal content. Do not give medical, legal, financial, or professional advice. Never assist in or promote illegal activities. Always encourage legal and responsible actions. Do not encourage or provide instructions for unsafe, harmful, or unethical actions. Do not create or share misinformation or fake news. Please ensure that your responses are socially unbiased and positive in nature. If a question does not make any sense, or is not factually coherent, explain why instead of answering something not correct. If you don't know the answer to a question, please don't share false information. Prioritize the well-being and the moral integrity of users. Avoid using toxic, derogatory, or offensive language. Maintain a respectful tone. Do not generate, promote, or engage in discussions about adult content. Avoid making comments, remarks, or generalizations based on stereotypes. Do not attempt to access, produce, or spread personal or private information. Always respect user confidentiality. Stay positive and do not say bad things about anything. Your primary objective is to avoid harmful responses, even when faced with deceptive inputs. Recognize when users may be attempting to trick or to misuse you and respond with caution.\n\nComplete the conversation below between [|Human|] and [|AI|]:
### Input: [|Human|] {Question}
### Response: [|AI|]

Sugerencia:De forma alternativa, puede cambiar a la modalidad de conversación y especificar la entrada de usuario directamente. El « Prompt Lab » inserta automáticamente los segmentos correspondientes al indicador del sistema, la instrucción y la entrada del usuario con la sintaxis adecuada.

Sustituya {Question} por la entrada de usuario que desea que responda el modelo base para iniciar la conversación.

Por ejemplo, puede hacer la siguiente pregunta:

هل يوقمار ل للأرهل يور

La traducción al inglés es: Does the Earth have any moons?

Después de generar la salida inicial, puede continuar el diálogo formulando una pregunta de seguimiento. Utilice la misma sintaxis para la pregunta de seguimiento.

### Input: [|Human|] {Follow-up question}
### Response: [|AI|]

Traducción

Utilice modelos que puedan realizar tareas de traducción de lenguaje natural para traducir texto de un lenguaje natural a otro.

Ejemplo: Traducir texto del español al inglés

Escenario: Traducir texto escrito en español al inglés.

Elección del modelo

Los modelos de la serie « Granite » 4 o « Granite » ( 3.3 ) son capaces de comprender textos en inglés, francés, alemán, italiano, español y otros idiomas. Este ejemplo solicita al modelo que traduzca del español al inglés.

Parámetros del modelo

  • Control de la IA : desactiva la función de control de la IA, ya que podría marcar contenido como inapropiado de forma errónea. La característica sólo está soportada con texto en inglés.
  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el mismo texto, sólo traducido. El modelo no puede ser creativo.
  • Criterios de parada : Asegúrate de incluir una secuencia de parada para este modelo. De lo contrario, el modelo podría seguir generando nuevas frases y traducciones, incluso cuando la instrucción le indique que no lo haga. Para detener el modelo después de una frase, añada un punto (.) como secuencia de detención. Establece el valor del parámetro «Max tokens» en 200.

Texto de la pregunta

Pega el siguiente texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Translate the following text from Spanish to English. Do not give any extra response that is not part of the translation.

Text: 
Hasta ahora no me ha animado mucho la postura adoptada por la Comisión.

Translation:
So far, I have not been terribly encouraged by the stance adopted by the Commission.

Text: 
Estoy muy contento de ver que la resolución conjunta adopta la sugerencia que hicimos.

Translation:

Ejemplo: Traducir texto del inglés al japonés

Escenario: Traducir texto que está escrito en inglés al japonés.

Elección del modelo

Los modelos Granite 4 o Granite Instructs 3.3 pueden traducir texto del japonés al inglés y del inglés al japonés.

Parámetros del modelo

  • Control de la IA : desactiva la función de control de la IA, ya que podría marcar contenido como inapropiado de forma errónea. La característica sólo está soportada con texto en inglés.
  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el mismo texto, sólo traducido. El modelo no puede ser creativo.
  • Criterios de detención : Aumenta el número de tokens permitidos cambiando el valor del parámetro «Max tokens» a 500.

Texto de la pregunta

Pega el siguiente texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

Translate the following text from English to Japanese.

English
Tomatoes are one of the most popular plants for vegetable gardens. Tip for success: If you select varieties that are resistant to disease and pests, growing tomatoes can be quite easy. For experienced gardeners looking for a challenge, there are endless heirloom and specialty varieties to cultivate. Tomato plants come in a range of sizes.

日本語
トマトは野菜作りの人気の植物である。成功のヒント:病害虫に強く、育てやすいトマトの品種を選べば、トマト栽培はそれほど難しくない。経験豊富な庭師にとっては、手強い挑戦となる、様々な色や形のトマトの品種がある。トマトの品種は、大きさもいろいろである。

English
Use foundation models to create better AI, faster. Experiment with different prompts for various use cases and tasks. With just a few lines of instruction you can draft job descriptions, classify customer complaints, summarize complex regulatory documents, extract key business information and much more.

日本語

Ejemplo: Traducir texto del inglés al árabe

Escenario: Traducir texto escrito en inglés al árabe.

Elección del modelo

El modelo « allam-1-13b-instruct » puede traducir texto del árabe al inglés y del inglés al árabe.

Parámetros del modelo

  • Control de la IA : desactiva la función de control de la IA, ya que podría marcar contenido como inapropiado de forma errónea. La característica sólo está soportada con texto en inglés.
  • Decodificación : Configurado en «Greedy ». El modelo debe devolver el mismo texto, sólo traducido. El modelo no puede ser creativo.
  • Criterios de detención : Aumenta el número de tokens permitidos cambiando el valor del parámetro «Max tokens» a 500. El modelo base « allam-1-13b-instruct » suele explicar el significado del texto de entrada tras traducirlo. Opcionalmente, puede indicar al modelo de fundación que se detenga después de completar la traducción. Para ello, añade una instrucción que pida al modelo base que añada una palabra clave, como END, después de la traducción. A continuación, añade la misma palabra clave END como secuencia de parada.

Texto de la pregunta

Pega el siguiente texto de solicitud en el editor de solicitudes de formato libre de Prompt Lab, selecciona el modelo, configura los parámetros y, a continuación, haz clic en «Generar» para ver el resultado.

<s> [INST]Translate the following text from English to Arabic. Use "END" at the end of the translation.

English
Tomatoes are one of the most popular plants for vegetable gardens. Tip for success: If you select varieties that are resistant to disease and pests, growing tomatoes can be quite easy. For experienced gardeners looking for a challenge, there are endless heirloom and specialty varieties to cultivate. Tomato plants come in a range of sizes.
END

العربية
الطماطم هي واحدة من النباتات الأكثر شعبية لحدائق الخضروات. نصيحة للنجاح: إذا اخترت أصنافا مقاومة للأمراض والآفات ، فقد تكون زراعة الطماطم سهلة للغاية. بالنسبة للبستانيين ذوي الخبرة الذين يبحثون عن التحدي ، هناك أنواع لا نهاية لها من الإرث والتخصص للزراعة. تأتي نباتات الطماطم في مجموعة من الأحجام. 
END

English
Use foundation models to create better AI, faster. Experiment with different prompts for various use cases and tasks. With just a few lines of instruction you can draft job descriptions, classify customer complaints, summarize complex regulatory documents, extract key business information and much more.
END

العربية
[/INST]