Los riesgos y limitaciones de la IA en los seguros

La inteligencia artificial (IA) se está polarizando. Ilusiona a los futuristas y genera inquietud entre los conservadores. En mi post anterior, describí las capacidades tanto de la IA discriminativa como de la IA generativa, y esbocé un mundo de oportunidades en el que la IA cambia la forma en que las aseguradoras y los asegurados interactúan. Este blog continúa el debate y analiza los riesgos que conlleva la adopción de la IA, proponiendo medidas para dar una respuesta segura y prudente a dicha adopción.

El riesgo asociado a la adopción de la IA en los seguros puede dividirse a grandes rasgos en dos categorías: tecnológico y de uso.

Riesgo tecnológico: confidencialidad de los datos

El principal riesgo tecnológico es la cuestión de la confidencialidad de los datos. El desarrollo de la IA ha permitido recopilar, almacenar y procesar información a una escala sin precedentes, lo que ha facilitado enormemente la identificación, el análisis y la utilización de datos personales a bajo coste y sin el consentimiento de los afectados. El riesgo de fuga de la privacidad por la interacción con las tecnologías de IA es una fuente importante de preocupación y desconfianza de los consumidores.

La llegada de la IA generativa, que manipula sus datos para crear contenido nuevo, supone un riesgo adicional para la confidencialidad de los datos corporativos. Por ejemplo, alimentar un sistema de IA generativa, como Chat GPT, con datos corporativos para producir un resumen de investigaciones confidenciales de la empresa significaría dejar una huella de datos indeleble en el servidor externo en la nube de la IA, accesible para las consultas de la competencia.

Riesgo tecnológico: seguridad

Los algoritmos de IA son los parámetros que optimizan los datos de entrenamiento que le dan a la IA su capacidad para aportar conocimientos. Si se filtran los parámetros de un algoritmo, un tercero podría copiar el modelo, causando pérdidas económicas y de propiedad intelectual al propietario del modelo. Además, si un ciberatacante modifica ilegalmente los parámetros del modelo de algoritmos de IA, esto provocará un deterioro del rendimiento del modelo de IA y tendrá consecuencias no deseadas.

Riesgo tecnológico: transparencia

La característica de caja negra de los sistemas de IA, especialmente de la IA generativa, hace que el proceso de decisión de los algoritmos de IA sea difícil de comprender. Es fundamental destacar que el sector de los seguros está regulado financieramente y que la transparencia, la explicabilidad y la auditabilidad de los algoritmos son aspectos clave para el regulador.

Riesgo de uso: imprecisión

El rendimiento de un sistema de IA depende en gran medida de los datos de los que aprende. Si un sistema de IA se entrena con datos inexactos, sesgados o plagiados, proporcionará resultados indeseables aunque esté técnicamente bien diseñado.

Riesgo de uso: abuso

Aunque un sistema de IA funcione correctamente en su análisis, toma de decisiones, coordinación y otras actividades, sigue existiendo el riesgo de abuso. El propósito, el método y el rango de uso del operador podrían desvirtuarse o desviarse con la intención de causar efectos adversos. Un ejemplo de ello es el uso del reconocimiento facial para rastrear ilegalmente los movimientos de las personas.

Riesgo de uso: dependencia excesiva

La dependencia excesiva de la IA ocurre cuando los usuarios empiezan a aceptar recomendaciones incorrectas de IA, cometiendo errores de comisión. Los usuarios tienen dificultades para determinar los niveles adecuados de confianza porque desconocen lo que la IA puede hacer, su rendimiento o su funcionamiento. Una consecuencia de este riesgo es el debilitamiento del desarrollo de habilidades del usuario de IA. Por ejemplo, un perito de seguros cuya capacidad para manejar situaciones nuevas o considerar múltiples perspectivas se ve limitada a los casos a los que también tiene acceso la IA.

Los riesgos que plantea la adopción de la IA ponen de manifiesto la necesidad de desarrollar un enfoque de gobierno para mitigar el riesgo técnico y de uso que conlleva la adopción de la IA.

Gobierno centrado en el ser humano

Para mitigar el riesgo de uso, se propone un enfoque triple:

1. Comience con un programa de formación para crear conciencia entre el personal involucrado en el desarrollo, la selección o el uso de herramientas de IA y garantizar así que se alineen con las expectativas.
2. A continuación, ponga en marcha un programa de evaluación de proveedores para valorar la solidez de sus controles y garantizar la transparencia adecuada reflejada en los contratos.
3. Por último, establezca medidas de aplicación de políticas para establecer las normas, roles y responsabilidades, procesos de aprobación y directrices de mantenimiento a lo largo de los ciclos de vida del desarrollo de la IA.

Gobierno centrado en la tecnología

Para mitigar el riesgo tecnológico, el gobierno de TI debería ampliarse para tener en cuenta lo siguiente:

1. Una taxonomía ampliada de datos y sistemas. Esto es para garantizar que el modelo de IA capture las entradas de datos y los patrones de uso, las validaciones y los ciclos de prueba necesarios, y los outputs esperados. Debe alojar el modelo en servidores internos.
2. Un registro de riesgos, para cuantificar la magnitud del impacto, el nivel de vulnerabilidad y el alcance de los protocolos de vigilancia.
3. Una estrategia ampliada de análisis y pruebas para ejecutar las pruebas de forma regular y monitorizar los problemas de riesgo relacionados con las entradas, los outputs y los componentes del modelo del sistema de IA.

La promesa y el potencial de la IA en el sector de los seguros reside en su capacidad para extraer nuevos conocimientos a partir de conjuntos de datos cada vez mayores y más complejos. Estos conjuntos de datos, combinados con datos conductuales y ecológicos, crean el potencial para que los sistemas de IA que consultan bases de datos extraigan inferencias erróneas de datos, lo que augura consecuencias reales para los seguros.

Una IA eficiente y precisa requiere una ciencia de datos meticulosa. Requiere una cuidadosa selección de las representaciones del conocimiento en la base de datos, la descomposición de las matrices de datos para reducir la dimensionalidad y el preprocesamiento de los conjuntos de datos para mitigar los efectos confusos de los datos faltantes, redundantes y atípicos. Los usuarios de IA en el sector de los seguros deben ser conscientes de que las limitaciones en la calidad de los datos de entrada tienen implicaciones para el sector, ya que pueden reducir la precisión de los modelos analíticos actuariales. 

A medida que las tecnologías de IA continúan madurando y los casos de uso se expanden, las aseguradoras no deben rehuir la tecnología. Pero las aseguradoras deberían aportar su experiencia en el ámbito de los seguros al desarrollo de las tecnologías de IA. Su capacidad para informar sobre la procedencia de los datos de entrada y garantizar la calidad de los datos contribuirá a una aplicación segura y controlada de la IA en el sector de los seguros.

A medida que se embarca en su viaje hacia la IA en el sector de los seguros, explore y cree casos de uso. Por encima de todo, implante un programa sólido de gobierno de la IA.