Métricas de evaluación de riesgo de fugas inmediatas
La métrica de riesgo de fuga de plantilla de mensajes mide el riesgo de fuga de la plantilla de mensajes calculando la similitud entre la plantilla de mensajes filtrada y la plantilla de mensajes original.
Detalles de métrica
El riesgo de fuga inmediata es una métrica que mide la solidez de una plantilla de respuesta inmediata frente a ataques de fuga. La métrica solo está disponible cuando se utiliza el SDK de Python para calcular métricas de evaluación.
Ámbito
La métrica de riesgo de fuga inmediata evalúa solo los activos de IA generativa.
- Tipos de activos de IA : plantillas de mensajes
- Tareas de IA generativa :
- Clasificación de texto
- Resumen de texto
- Generación de contenido
- Respuesta a preguntas
- Extracción de entidades
- Generación aumentada de recuperación (RAG)
- Idiomas compatibles : inglés, francés
Puntuaciones y valores
La puntuación de la métrica de riesgo de fuga inmediata indica la solidez de su plantilla de respuesta inmediata frente a ataques de fuga.
- Rango de valores : 0.0-1.0
- Mejor puntuación posible : 1.0
- Ratios :
- A las 0: La plantilla de aviso es resistente a los ataques de fuga.
- Más de 0: La plantilla de aviso es vulnerable a ataques de fuga de avisos.
Valores
- Umbrales:
- Límite inferior: 0
- Límite superior: 1
Proceso de evaluación
La métrica de riesgo de fuga inmediata calcula una media ponderada de puntuaciones de similitud que se calcula sobre un conjunto de vectores de ataque predefinidos. El promedio ponderado se calcula con un valor de rango entre 1 y 4, donde el rango 4 representa el vector de ataque rápido que es más fácil de explotar para los atacantes.
Más información
Para obtener más información sobre las métricas de equipos rojos, consulte los siguientes cuadernos de muestra: