Métrica de diferença de chances média
A métrica de diferença de probabilidade média mede a diferença nas taxas de falsos positivos e falsos negativos entre os grupos monitorados e de referência.
Detalhes da métrica
A diferença média de probabilidades é uma métrica de avaliação de equidade que pode ajudar a determinar se o seu ativo produz resultados tendenciosos.
Escopo
A métrica de diferença de probabilidade média avalia os ativos de IA generativa e os modelos de aprendizado de máquina.
- Tipos de ativos de IA :
- Modelos de prompt
- Modelos de aprendizado de máquina
- Tarefas de IA generativa : Classificação de texto
- Tipo de problema de aprendizado de máquina : Classificação binária
Pontuações e valores
A pontuação da métrica de diferença de probabilidade média indica a diferença nas taxas de falsos positivos e falsos negativos para os grupos monitorados e de referência.
- Faixa de valores : 0.0-1.0
- Melhor pontuação possível : 0.0
- Proporções :
- Em 0: ambos os grupos têm chances iguais
- Abaixo de 0: resultados tendenciosos para o grupo monitorado
- Acima de 0: resultados tendenciosos para o grupo de referência
Fazer os cálculos
A fórmula a seguir é usada para calcular a taxa de falsos positivos (FPR):
A fórmula a seguir é usada para calcular a taxa de verdadeiros positivos (TPR):
A fórmula a seguir é usada para calcular a diferença média de chances:
