IA explicable

Es crucial que una organización tenga una comprensión plena de los procesos de toma de decisiones de la IA con la supervisión de modelos y la rendición de cuentas de la IA y no confíe en ellos ciegamente. La IA explicable puede ayudar a los humanos a entender y explicar los algoritmos de machine learning (ML), el deep learning y las redes neuronales.

A menudo se piensa que los modelos de ML son como cajas negras que son imposibles de interpretar². Las redes neuronales utilizadas en el deep learning son algunas de las más difíciles de entender para un humano. El sesgo, a menudo basado en la raza, el sexo, la edad o la ubicación, ha sido un riesgo de larga data en el entrenamiento de los modelos de IA. Además, el rendimiento de modelos de IA puede desviarse o degradarse porque los datos de producción difieren de los datos de entrenamiento. Esto hace que sea crucial para un negocio supervisar y administrar modelos de manera continua para promover la explicabilidad de la IA mientras se mide el impacto en el negocio del uso de dichos algoritmos. La IA explicable también ayuda a promover la confianza del usuario final, la auditabilidad del modelo y el uso productivo de la IA. También mitiga los riesgos legales, de conformidad, seguridad y reputación de la IA de producción.

La IA explicable es uno de los requisitos clave para implementar la IA responsable, una metodología para la implementación a gran escala de métodos de IA en organizaciones reales con imparcialidad y explicabilidad del modelo y rendición de cuentas³. Para ayudar a adoptar la IA de manera responsable, las organizaciones necesitan incluir principios éticos en aplicaciones y procesos de IA mediante la construcción de sistemas de IA basados en la confianza y la transparencia.

Evaluación continua de modelos

Con IA explicable, un negocio puede resolver problemas y mejorar el rendimiento de los modelos y, al mismo tiempo, ayudar a los stakeholders a comprender los comportamientos de los modelos de IA. Investigar los comportamientos de los modelos a través del seguimiento de los conocimientos del modelo sobre el estado de implementación, la imparcialidad, la calidad y la desviación es esencial para escalar la IA. La evaluación continua de los modelos permite a las empresas comparar las predicciones de los modelos, cuantificar su riesgo y optimizar su rendimiento. Visualizar valores positivos y negativos en comportamientos de modelos con datos utilizados para generar la explicación acelera las evaluaciones de modelos. Una plataforma de datos e IA puede generar atribuciones de funcionalidades para las predicciones de modelos y empoderar a los equipos para investigar visualmente el comportamiento de modelos con gráficos interactivos y documentos exportables.

Durante más de 100 años, IBM se ha esforzado continuamente por la innovación capaz de aportar beneficios a todos y no sólo a unos pocos. Esta filosofía también se aplica a la IA: nuestro objetivo es crear y ofrecer una tecnología confiable que pueda aumentar, no sustituir, el proceso humano de la toma de decisiones.

Si bien la IA tiene la promesa de ofrecer conocimientos y patrones valiosos a través de una multitud de aplicaciones, la adopción amplia de sistemas de IA dependerá en gran medida de la capacidad de las personas para confiar en los resultados de la IA. La confianza humana en la tecnología se basa en nuestra comprensión de cómo funciona y nuestra evaluación de su seguridad y confiabilidad. Esto hace que la IA explicable sea crucial. El enfoque de IBM para la IA explicable es hacer que la IA sea confiable y justa, para que sea capaz de ser justificada, y para ayudar a asegurar que no cause ningún daño.

En el centro de nuestra innovación, IBM Research está desarrollando diversos enfoques para lograr la imparcialidad, la robustez, la explicabilidad, la rendición de cuentas y la alineación del valor, y cómo integrarlos a lo largo de todo el ciclo de vida de una aplicación de IA. Las estructuras y los conjuntos de herramientas de la IA explicable de IBM Research se integran en la plataforma IBM Cloud Pak for Data para que las empresas puedan aprovechar nuestra más reciente tecnología de IA de una forma gestionada, segura y escalable.