Lea cómo la IA explicable beneficia a la IA de producción

¿Qué es la IA explicable?

Inteligencia artificial explicable (XAI) es un conjunto de procesos y métodos que permite a los usuarios humanos comprender y confiar en los resultados y la información generados por algoritmos de machine learning. La IA explicable se utiliza para describir un modelo de IA, su impacto esperado y posibles sesgos. Ayuda a caracterizar la precisión del modelo, la imparcialidad, la transparencia y los resultados en la toma de decisiones basada en IA. La IA explicable es crucial para una organización en la generación de confianza al poner en producción los modelos de IA. La explicación de la IA también ayuda a una organización a adoptar un enfoque responsable del desarrollo de la IA.

A medida que la IA se vuelve más avanzada, los humanos son desafiados a comprender y volver a rastrear cómo el algoritmo llegó a un resultado. Todo el proceso de cálculo se convierte en lo que comúnmente se conoce como una "caja negra" que es imposible de interpretar. Estos modelos de caja negra se crean directamente a partir de los datos. Y, ni siquiera los ingenieros o científicos de datos que crean el algoritmo pueden entender o explicar lo que está sucediendo exactamente dentro de ellos o cómo el algoritmo de IA llegó a un resultado específico.

Hay muchas ventajas para comprender cómo un sistema habilitado para IA ha llevado a un resultado específico. La explicabilidad puede ayudar a los desarrolladores a asegurarse de que el sistema funcione como se espera, puede que sea necesario cumplir con los estándares normativos, o puede ser importante para permitir que los afectados por una decisión puedan impugnar o cambiar esa salida¹.

Profesional trabajando en computadora portátil

¿Por qué importa la IA explicable?

Es crucial que una organización tenga una comprensión plena de los procesos de toma de decisiones de la IA con la supervisión de modelos y la rendición de cuentas de la IA y no confíe en ellos ciegamente. La IA explicable puede ayudar a los humanos a entender y explicar los algoritmos de machine learning (ML), el deep learning y las redes neuronales.

A menudo se piensa que los modelos de ML son como cajas negras que son imposibles de interpretar². Las redes neuronales utilizadas en el deep learning son algunas de las más difíciles de entender para un humano. El sesgo, a menudo basado en la raza, el sexo, la edad o la ubicación, ha sido un riesgo de larga data en el entrenamiento de los modelos de IA. Además, el rendimiento de modelos de IA puede desviarse o degradarse porque los datos de producción difieren de los datos de entrenamiento. Esto hace que sea crucial para un negocio supervisar y administrar modelos de manera continua para promover la explicabilidad de la IA mientras se mide el impacto en el negocio del uso de dichos algoritmos. La IA explicable también ayuda a promover la confianza del usuario final, la auditabilidad del modelo y el uso productivo de la IA. También mitiga los riesgos legales, de conformidad, seguridad y reputación de la IA de producción.

La IA explicable es uno de los requisitos clave para implementar la IA responsable, una metodología para la implementación a gran escala de métodos de IA en organizaciones reales con imparcialidad y explicabilidad del modelo y rendición de cuentas³. Para ayudar a adoptar la IA de manera responsable, las organizaciones necesitan incluir principios éticos en aplicaciones y procesos de IA mediante la construcción de sistemas de IA basados en la confianza y la transparencia.

Persona que mira a la gente en la reunión de video en una computadora portátil

Evaluación continua de modelos

Con IA explicable, un negocio puede resolver problemas y mejorar el rendimiento de los modelos y, al mismo tiempo, ayudar a los stakeholders a comprender los comportamientos de los modelos de IA. Investigar los comportamientos de los modelos a través del seguimiento de los conocimientos del modelo sobre el estado de implementación, la imparcialidad, la calidad y la desviación es esencial para escalar la IA. La evaluación continua de los modelos permite a las empresas comparar las predicciones de los modelos, cuantificar su riesgo y optimizar su rendimiento. Visualizar valores positivos y negativos en comportamientos de modelos con datos utilizados para generar la explicación acelera las evaluaciones de modelos. Una plataforma de datos e IA puede generar atribuciones de funcionalidades para las predicciones de modelos y empoderar a los equipos para investigar visualmente el comportamiento de modelos con gráficos interactivos y documentos exportables.

Profesional trabajando en computadora portátil

Valor de la IA explicable

De un estudio de Forrester sobre la IA explicable y la supervisión de modelos en IBM Cloud Pak for Data

Beneficios de la IA explicable

Ponga en funcionamiento la IA con confianza y seguridad

Genere confianza en la IA de producción. Lleve rápidamente sus modelos de IA a la producción. Garantice la interpretabilidad y la explicabilidad de los modelos de IA. Simplifique el proceso de evaluación de modelos, además de aumentar la transparencia y la rastreabilidad de los modelos.

Acelere la generación de resultados de IA

Supervise y gestione modelos sistemáticamente para optimizar los resultados del negocio. Evalúe de forma continua y mejore el rendimiento de los modelos. Ajuste los esfuerzos de desarrollo de modelos basándose en la evaluación continua.

Mitigue riesgos y costos de la gestión de modelos

Mantenga sus modelos de IA explicables y transparentes. Gestione los requisitos regulatorios, de conformidad, de riesgo y otros. Minimice la sobrecarga de la inspección manual y los errores costosos. Mitigue el riesgo de sesgo no intencionado.

El enfoque de IBM para la IA explicable

Durante más de 100 años, IBM se ha esforzado continuamente por la innovación capaz de aportar beneficios a todos y no sólo a unos pocos. Esta filosofía también se aplica a la IA: nuestro objetivo es crear y ofrecer una tecnología confiable que pueda aumentar, no sustituir, el proceso humano de la toma de decisiones.

Si bien la IA tiene la promesa de ofrecer conocimientos y patrones valiosos a través de una multitud de aplicaciones, la adopción amplia de sistemas de IA dependerá en gran medida de la capacidad de las personas para confiar en los resultados de la IA. La confianza humana en la tecnología se basa en nuestra comprensión de cómo funciona y nuestra evaluación de su seguridad y confiabilidad. Esto hace que la IA explicable sea crucial. El enfoque de IBM para la IA explicable es hacer que la IA sea confiable y justa, para que sea capaz de ser justificada, y para ayudar a asegurar que no cause ningún daño.

En el centro de nuestra innovación, IBM Research está desarrollando diversos enfoques para lograr la imparcialidad, la robustez, la explicabilidad, la rendición de cuentas y la alineación del valor, y cómo integrarlos a lo largo de todo el ciclo de vida de una aplicación de IA. Las estructuras y los conjuntos de herramientas de la IA explicable de IBM Research se integran en la plataforma IBM Cloud Pak for Data para que las empresas puedan aprovechar nuestra más reciente tecnología de IA de una forma gestionada, segura y escalable.

Persona que ve un teléfono celular mientras está de pie frente a una ventana de oficina

Cinco consideraciones para la IA explicable

Cinco consideraciones para la IA explicable

Para obtener los resultados deseados con la IA explicable, tenga en cuenta lo siguiente.

Imparcialidad y eliminación de sesgos: gestione y supervise la imparcialidad. Examine su implementación para detectar posibles sesgos. 

Mitigación de la desviación de modelos: analice su modelo y realice recomendaciones basadas en el resultado más lógico. Alerte cuando los modelos se desvían de los resultados previstos.

Gestión de riesgos de modelos: cuantifique y mitigue el riesgo de los modelos. Reciba alertas cuando un modelo no se ejecute correctamente. Comprenda lo que sucedió cuando persisten las desviaciones.

Automatización del ciclo de vida: cree, ejecute y gestione modelos como parte de los servicios integrados de datos e IA. Unifique las herramientas y los procesos en una plataforma para supervisar los modelos y compartir los resultados. Explique las dependencias de los modelos de machine learning.

Listo para la multinube: implemente proyectos de IA entre nubes híbridas, incluyendo nubes públicas, nubes privadas y en las instalaciones. Promueva la confianza con la IA explicable.

Acercamiento del edificio de moderno con fachada de vidrio

Mejore la explicabilidad de IA con IBM Cloud Pak for Data

La plataforma IBM Cloud Pak® for Data proporciona datos y servicios de IA en un entorno unificado para que un negocio pueda evaluar el impacto y las relaciones de datos y modelos para mejorar la explicabilidad de la IA. También ayuda a un negocio a obtener información sobre las implementaciones, la imparcialidad, la calidad y el riesgo. La solución ayuda a explicar las transacciones de IA, los modelos categóricos, los modelos de imágenes y los modelos de texto no estructurado con herramientas como explicaciones que se pueden contrastar y las Explicaciones de Modelos Independientes Locales Interpretables (DIME). Hacer que la IA sea explicable y transparente mediante la automatización del ciclo de vida de la IA en una arquitectura de información moderna es vital para el éxito de la IA de producción.

Profundice en la IA explicable

¿Cómo funciona la IA explicable?

Con la IA explicable, así como machine learning interpretable, las organizaciones pueden obtener acceso a la toma de decisiones subyacente de la tecnología de IA y son capaces de realizar ajustes. La IA explicable puede mejorar la experiencia del usuario de un producto o servicio ayudando al usuario final a confiar en que la IA está tomando buenas decisiones. ¿Cuándo los sistemas de IA dan suficiente confianza en la decisión para que pueda confiar en ella, y cómo puede el sistema de IA corregir errores que surgen⁴?

A medida que la IA se vuelve más avanzada, es necesario comprender y controlar los procesos de ML para asegurar que los resultados de los modelos de IA sean precisos. Veamos la diferencia entre IA y XAI, los métodos y técnicas utilizados para convertir la IA en XAI, y la diferencia entre interpretar y explicar los procesos de IA.

Comparación entre IA y XAI

¿Cuál es exactamente la diferencia entre la IA "normal" y la IA explicable? XAI implementa técnicas y métodos específicos para asegurar que cada decisión tomada durante el proceso de ML se pueda rastrear y explicar. La IA, por otro lado, a menudo llega a un resultado utilizando un algoritmo de ML, pero los arquitectos de los sistemas de IA no entienden completamente cómo el algoritmo logró ese resultado. Esto hace que sea difícil comprobar la exactitud y conduce a la pérdida de control, responsabilidad y auditabilidad.

Técnicas de la IA explicable

La configuración de las técnicas de XAI consta de tres métodos principales. La precisión de las predicciones y la rastreabilidad abordan los requisitos tecnológicos, mientras que la comprensión de las decisiones aborda las necesidades humanas. La IA explicable, especialmente machine learning explicable, será esencial para que los futuros combatientes comprendan, confíen adecuadamente, y gestionen de forma efectiva una generación emergente de equipos de máquinas artificialmente inteligentes⁵.

Precisión de las predicciones
La precisión es un componente clave para el éxito del uso de la IA en las operaciones diarias. Mediante la ejecución de simulaciones y la comparación de la salida de XAI con los resultados en el conjunto de datos de entrenamiento, se puede determinar la precisión de una predicción. La técnica más popular utilizada para ello es Explicaciones de Modelos Independientes Locales Interpretables (LIME), que explica la predicción de clasificadores por el algoritmo de ML.

Rastreabilidad
La rastreabilidad es otra técnica clave para lograr XAI. Esto se consigue, por ejemplo, limitando la forma en que se pueden tomar las decisiones y estableciendo un ámbito más estrecho para las normas y funcionalidades de ML. Un ejemplo de una técnica de rastreabilidad de XAI es DeepLIFT (Deep Learning Important FeaTures), que compara la activación de cada neurona con su neurona de referencia y muestra un enlace rastreable entre cada neurona activada e incluso muestra dependencias entre ellas.

Comprensión de las decisiones
Este es el factor humano. Muchas personas desconfían de la IA, sin embargo, para trabajar con ella de manera eficiente, necesitan aprender a confiar en ella. Esto se logra capacitando al equipo que trabaja con la IA para que pueda entender cómo y por qué la IA toma decisiones.

Explicabilidad frente a interpretabilidad en IA

La interpretación es el grado en que un observador puede entender la causa de una decisión. Es la tasa de éxito que los humanos pueden predecir para el resultado de una salida de IA, mientras que la explicabilidad va un paso más allá y observa cómo la IA llegó al resultado.

¿Cómo se relaciona la IA explicable con la IA responsable?

La IA explicable y la IA responsable tienen objetivos similares, pero diferentes enfoques. Estas son las principales diferencias entre la IA explicable y responsable:

  • La IA explicable analiza los resultados de la IA después de que se calculan los resultados.
  • La IA responsable contempla la IA durante las etapas de planificación para hacer responsable al algoritmo de IA antes de que se calculen los resultados.
  • La IA explicable y responsable pueden trabajar juntas para mejorar la IA.

Para obtener más información sobre la IA explicable, regístrese para obtener un IBMid e inicie su versión de prueba de IBM Cloud Pak for Data hoy mismo.

¿Cómo implementar la IA explicable?

Utilice estos recursos para obtener más información sobre cómo implementar la IA explicable.

Seminario en línea: Cómo gestionar y supervisar modelos
Descubra lo que puede hacer cuando sus modelos no funcionan.
Vea el webinar (enlace externo a IBM) →

Ruta de aprendizaje: Gestionar la IA con confianza
Aprenda a rastrear y medir los resultados de la IA a lo largo de su ciclo de vida, además de adaptar y gestionar la IA de acuerdo con las cambiantes condiciones de negocio.
Vea el tutorial →

Laboratorio práctico: Supervisar modelos de machine learning
Explore los procesos paso a paso para evaluar la imparcialidad, la precisión y la explicabilidad de los modelos. 
Vea el laboratorio →

Casos de uso de la IA explicable

Cuidado de la salud

Acercamiento de 3 cirujanos que operan

Acelere los diagnósticos, el análisis de imágenes, la optimización de recursos y el diagnóstico médico. Mejore la transparencia y la rastreabilidad en la toma de decisiones para la atención al paciente. Agilice el proceso de aprobación farmacéutica con IA explicable.

Servicios financieros

Persona sosteniendo una tarjeta de crédito mientras trabaja en una computadora portátil

Mejore las experiencias del cliente con un proceso de aprobación de crédito y préstamo transparente. Agilice las evaluaciones de riesgo de crédito, gestión patrimonial y riesgo de delitos financieros. Acelere la resolución de posibles reclamaciones y problemas. Aumente la confianza en los precios, las recomendaciones de productos y los servicios de inversión.

Justicia penal

Policía frente a un área marcada con cinta de escena del crimen

Optimice los procesos de predicción y evaluación de riesgos. Acelere las resoluciones utilizando IA explicable en análisis de ADN, análisis de población carcelaria y previsión de delitos. Detecte posibles sesgos en los datos y algoritmos de entrenamiento.

Notas al pie de página

¹ "Explainable AI", The Royal Society, 28 de noviembre de 2019. (enlace externo a IBM)
² "Explainable Artificial Intelligence", Jaime Zornoza, 15 de abril de 2020. (enlace externo a IBM)
³ "Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI", ScienceDirect, junio de 2020. (enlace externo a IBM)
⁴ "Understanding Explainable AI", Ron Schmelzer, colaborador de Forbes, 23 de julio de 2019. (enlace externo a IBM)
⁵ "Explainable Artificial Intelligence (XAI)", Dr. Matt Turek, The U.S. Defense Advanced Research Projects Agency (DARPA). (enlace externo a IBM)