¿Qué es la evaluación de agentes de IA?

La evaluación de agentes de IA se refiere al proceso de evaluar y comprender el rendimiento de un agente de IA en la ejecución de tareas, la toma de decisiones y la interacción con los usuarios. Dada su autonomía inherente, la evaluación de los agentes es esencial para promover su buen funcionamiento. Los agentes de IA deben comportarse de acuerdo con la intención de sus diseñadores, ser eficientes y adherirse a ciertos principios éticos de IA para satisfacer las necesidades de la organización. La evaluación ayuda a verificar que los agentes cumplen dichos requisitos y también ayuda a mejorar la calidad del agente identificando áreas de refinamiento y optimización.

Los agentes de IA generativa (IA gen) a menudo se evalúan en tareas tradicionales de texto a texto, similares a los puntos de referencia estándar de modelos de lenguaje de gran tamaño (LLM), donde se utilizan comúnmente métricas como la coherencia, la relevancia y la fidelidad del texto generado. Sin embargo, los agentes de IA generativa suelen realizar operaciones más amplias y complejas, como el razonamiento de varios pasos, la llamada de herramientas y la interacción con sistemas externos, que requieren una evaluación más exhaustiva. Incluso cuando el resultado final es texto, puede ser el producto de acciones intermedias como consultar una base de datos o invocar una API, cada una de las cuales debe evaluarse por separado.

En otros casos, es posible que el agente no produzca un resultado, sino que complete una tarea, como actualizar un registro o enviar un mensaje, donde el éxito se mide por la ejecución correcta. Por lo tanto, la evaluación debe ir más allá de la calidad del texto a nivel superficial y evaluar el comportamiento general del agente, el éxito de la tarea y la alineación con la intención del usuario. Además, para evitar el desarrollo de agentes altamente capaces pero que consumen muchos recursos, lo que limita su implementación práctica, las mediciones de coste y eficiencia deben incluirse como parte de la evaluación.

Más allá de medir el rendimiento de las tareas, la evaluación de los agentes de IA debe priorizar dimensiones críticas como la seguridad, la confiabilidad, el cumplimiento de políticas y la mitigación de sesgos. Estos factores son esenciales para implementar agentes en entornos reales y de alto riesgo. La evaluación ayuda a garantizar que los agentes eviten comportamientos dañinos o inseguros, mantengan la confianza de los usuarios a través de resultados predecibles y verificables y resistan la manipulación o el uso indebido.

Para lograr estos objetivos funcionales (calidad, coste) y no funcionales (seguridad), los métodos de evaluación pueden incluir pruebas de referencia, evaluaciones humanas en el bucle, pruebas A/B y simulaciones del mundo real. Mediante la evaluación sistemática de los agentes de IA, las organizaciones pueden mejorar sus capacidades de IA, optimizar los esfuerzos de automatización y mejorar las funciones empresariales, al mismo tiempo que minimizan los riesgos asociados a una IA agéntica insegura, poco fiable o sesgada.

La evaluación de un agente de IA requiere un enfoque estructurado dentro de un marco formal de observabilidad más amplio. Los métodos de evaluación (o eval) difieren mucho, pero el proceso suele implicar los siguientes pasos:

1. Definir objetivos y métricas de evaluación

¿Cuál es el propósito del agente? ¿Cuáles son los resultados esperados? ¿Cómo se utiliza la IA en escenarios del mundo real?

Consulte “Métricas de evaluación de agente de IA” para conocer algunas de las métricas más populares, que se incluyen en las categorías de rendimiento, interacción y experiencia, IA responsable, sistema y eficiencia, y métricas específicas de la tarea.

2. Recopilar datos y prepararse para las pruebas

Para evaluar el agente de IA de forma eficaz, utilice conjuntos de datos de evaluación representativos, incluidas diversas entradas que reflejen escenarios del mundo real y escenarios de prueba que simulen condiciones en tiempo real. Los datos anotados representan una verdad básica con la que se pueden probar los modelos de IA.

Mapee cada paso potencial del flujo de trabajo de un agente, ya sea llamando a una API, pasando información a un segundo agente o tomando una decisión. Al dividir el flujo de trabajo de IA en partes individuales, es más fácil evaluar cómo el agente maneja cada paso. También hay que tener en cuenta el enfoque global del agente a lo largo del flujo de trabajo, es decir, la ruta de ejecución que sigue el agente para resolver un problema de varios pasos.

3. Realizar pruebas

Ejecute el agente de IA en diferentes entornos, potencialmente con diferentes LLM como columna vertebral, y realice un seguimiento del rendimiento. Desglose los pasos individuales de los agentes y evalúe cada uno. Por ejemplo, monitorice el uso que hace el agente de la generación aumentada por recuperación (RAG) para recuperar información de una base de datos externa, o la respuesta a una llamada a la API.

4. Analizar los resultados

Compare los resultados con criterios de éxito predefinidos, si existen, y si no, utilice LLM como juez (ver más abajo). Evalúe las compensaciones equilibrando el rendimiento con las consideraciones éticas.

¿Eligió el agente la herramienta adecuada? ¿Llamó a la función correcta? ¿Transmitió la información correcta en el contexto correcto? ¿Produjo una respuesta objetivamente correcta?

La llamada de funciones/uso de herramientas es una capacidad fundamental para crear agentes inteligentes capaces de ofrecer respuestas contextualmente precisas en tiempo real. Considere una evaluación y un análisis dedicados utilizando un enfoque basado en reglas junto con una evaluación semántica utilizando LLM como juez.

LLM como juex es un sistema de evaluación automatizado que evalúa el rendimiento de los agentes de IA utilizando criterios y métricas predefinidos. En lugar de depender únicamente de revisores humanos, un LLM como juez aplica algoritmos, heurísticos o modelos de puntuación basados en IA para evaluar las respuestas, decisiones o acciones de un agente.

Consulte "Métricas de evaluación de llamadas a funciones" a continuación.

5. Optimizar e iterar

Los desarrolladores ahora pueden ajustar instrucciones, depurar algoritmos, racionalizar la lógica o configurar arquitecturas agénticas basadas en los resultados de la evaluación. Por ejemplo, los casos de uso de atención al cliente pueden mejorarse acelerando la generación de respuestas y los tiempos de finalización de tareas. La eficiencia del sistema se puede optimizar para la escalabilidad y el uso de recursos.

Los desarrolladores quieren que los agentes funcionen según lo previsto. Y, dada la autonomía de los agentes de IA, es importante entender el "por qué" detrás de las decisiones que toma la IA. Revise algunas de las métricas más comunes que los desarrolladores pueden utilizar para evaluar con éxito a sus agentes.

Para tareas específicas

Dependiendo de la aplicación de IA, se pueden aplicar métricas de evaluación específicas para la calidad:

• LLM como juez evalúa la calidad de la generación de textos de IA independientemente de la disponibilidad de datos reales.
• BLEU y ROUGE son alternativas de menor coste que evalúan la calidad del texto generado por IA comparándolo con el texto escrito por humanos.

Otras métricas funcionales para evaluar el rendimiento de los agentes de IA incluyen:

• La tasa de éxito/finalización de tareas mide la proporción de tareas u objetivos que el agente completa correctamente o satisfactoriamente del número total
  intentado.
• La tasa de error es el porcentaje de resultados incorrectos u operaciones fallidas.
• El coste mide el uso de recursos, como tokens o tiempo de cálculo.
• La latencia es el tiempo que tarda un agente de IA en procesar y devolver resultados.

IA ética y responsable

• La vulnerabilidad de inyección de instrucciones evalúa la tasa de éxito de las instrucciones adversarias, alterando el comportamiento previsto del agente.
• La tasa de cumplimiento de la política es un porcentaje de respuestas que cumplen con políticas organizativas o éticas predefinidas.
• La puntuación de sesgo y equidad detecta disparidades en la toma de decisiones de IA entre diferentes grupos de usuarios.

Interacción y experiencia de usuario

Para los agentes de IA que interactúan con los usuarios, como chatbots y los asistentes virtuales, los evaluadores analizan estas métricas.

• El índice de satisfacción de los usuarios (CSAT) mide el grado de satisfacción de los usuarios con las respuestas de la IA.

• La tasa de interacción rastrea la frecuencia con la que los usuarios interactúan con el sistema de IA.

• El flujo conversacional evalúa la capacidad de la IA para mantener conversaciones coherentes y significativas.

• La tasa de finalización de tareas mide la eficacia con la que el agente de IA ayuda a los usuarios a completar una tarea.

Llamadas a funciones

Estas métricas basadas en reglas ayudan a evaluar la eficacia operativa de los sistemas impulsados por IA:

• Nombre de función incorrecto: el agente intentó llamar a una función que existe, pero utilizó un nombre o una ortografía incorrectos, lo que provocó un error en la ejecución.
• Faltan parámetros obligatorios: el agente inició una llamada de función, pero omitió uno o más parámetros necesarios para que la función funcione.
• Tipo de valor de parámetro incorrecto: el agente proporcionó un valor de parámetro, pero su tipo (cadena, número, booleano) no coincidía con lo que esperaba la función.
• Valores permitidos: el agente utilizó un valor que está fuera del conjunto de valores aceptados o predefinidos para un parámetro específico.
• Parámetro alucinado: el agente incluyó un parámetro en la llamada a la función que no está definido ni es compatible con la especificación de la función.

Estas son algunas métricas semánticas basadas en LLM como juez.

• La conexión a tierra del valor de los parámetros ayuda a garantizar que cada valor de parámetro se derive directamente del texto del usuario, el historial de contexto (como los resultados anteriores de las llamadas a la API) o los valores predeterminados de la especificación de la API.
• La transformación de unidad verifica las conversiones de unidades o formatos (más allá de los tipos básicos) entre los valores del contexto y los valores de los parámetros de la llamada a la herramienta.