¿Qué es la gestión del riesgo de modelo?

Autores

Rina Diane Caballar

Staff Writer

IBM Think

Cole Stryker

Staff Editor, AI Models

IBM Think

¿Qué es la gestión del riesgo de modelo?

La gestión del riesgo de modelo es el proceso de identificar, calibrar y controlar el riesgo de modelo. El riesgo de modelo se produce cuando se utiliza un modelo para medir y predecir información cuantitativa, pero el modelo funciona de forma inadecuada. Un mal funcionamiento del modelo puede tener consecuencias perjudiciales, incluidas pérdidas financieras significativas.

Un modelo es cualquier planteamiento, método o sistema cuantitativo que procesa datos de entrada y produce estimaciones cuantitativas1. Los modelos suelen aplicarse al tomar decisiones empresariales, determinar oportunidades y riesgos empresariales, diseñar estrategias empresariales y gestionar operaciones empresariales.

Las instituciones financieras, por ejemplo, se basan en una serie de modelos para fijar precios, valorar y detectar y prevenir el fraude y el blanqueo de dinero, entre otros servicios financieros. El uso de modelos a menudo plantea riesgos, lo que hace que la gestión del riesgo de modelo (MRM) sea una consideración crucial para las empresas.

La crisis financiera mundial de 2007 a 2008, por ejemplo, se achacó en parte a modelos de valor en riesgo (VaR, por sus siglas en inglés) defectuosos, que estimaban las pérdidas futuras que podrían sufrir las inversiones2. En 2012, la debacle de la "London Whale" de JPMorgan Chase se saldó con 6000 millones de dólares en pérdidas y casi 1000 millones en multas3. Esto se debió en parte a un error de cálculo en la hoja de cálculo, que subestimó el riesgo4

En 2021, la empresa de mercados inmobiliarios Zillow realizó una depreciación de inventario de 304 millones de dólares y planeó recortar una cuarta parte de su personal tras el fracaso de su empresa de compra de viviendas, provocado en parte por la incapacidad de su modelo de valoración del precio de la vivienda para predecir con exactitud los precios de las casas.5

Las últimas novedades sobre tecnología, respaldadas por conocimientos de expertos

Manténgase al día sobre las tendencias más importantes e intrigantes del sector en materia de IA, automatización, datos y mucho más con el boletín Think. Consulte la Declaración de privacidad de IBM.

¡Gracias! Se ha suscrito.

Su suscripción se enviará en inglés. Encontrará un enlace para darse de baja en cada boletín. Puede gestionar sus suscripciones o darse de baja aquí. Consulte nuestra Declaración de privacidad de IBM para obtener más información.

Fuentes de riesgo de modelo

El riesgo de modelo puede deberse a varias causas:

Datos

Los datos de entrada de un modelo pueden ser erróneos, incompletos, obsoletos o sesgados. Si se utilizan datos obsoletos para un modelo de mercado, por ejemplo, entonces podría proyectar tendencias sesgadas en relación con el rendimiento del mercado o los precios de mercado.

Además, si los conjuntos de datos de entrenamiento para modelos de inteligencia artificial (IA) no se evalúan para detectar la presencia de sesgos, estos modelos de IA pueden producir resultados que reflejen y perpetúen el sesgo intrínseco de los datos. Por ejemplo, los sistemas de selección de candidatos a un puesto de trabajo pueden favorecer a los hombres o a los candidatos más jóvenes, mientras que el software de predicción sanitaria puede mostrar un sesgo racial a la hora de priorizar a los pacientes que necesitan atención inmediata.

Supuestos y variables

Los supuestos pueden ser erróneos o poco realistas. Las variables irrelevantes, erróneas, omitidas o pasadas por alto, o la calibración incorrecta de las variables pueden afectar a los resultados del modelo.

Por ejemplo, un modelo de fijación de precios que no tenga en cuenta la volatilidad del mercado puede producir estimaciones inexactas, mientras que los modelos de previsión de la demanda de productos que no tengan en cuenta los comportamientos de compra estacionales o las condiciones económicas actuales, como los retrasos en los envíos o la disminución del gasto, pueden dar lugar a niveles de inventario mal gestionados.

Mientras tanto, un modelo de predicción de la atención al paciente que dé más peso a una variable como el gasto sanitario podría dar lugar a que el modelo discriminara a quienes tienen menos ingresos y, por tanto, gastan menos en atención sanitaria pero tienen una mayor necesidad de acceder a ella.

Metodología

La metodología elegida puede tener errores inherentes, por lo que los creadores de modelos deben conocer el modelo y ser conscientes de sus limitaciones. Por ejemplo, métodos estadísticos como los modelos de regresión pueden tener errores de muestreo y errores estándar.

Aquí también entra en juego la selección del modelo adecuado. Por ejemplo, aunque la IA generativa sea la última tecnología, puede que no sea la más adecuada para la previsión financiera, ya que otros modelos bien establecidos pueden hacerlo con menos trabajo y menor coste.

Implementación del modelo

Un desarrollo incompleto o incorrecto del modelo puede dar lugar a resultados inexactos o a errores en el modelo. Lo mismo ocurre con los errores de programación, los errores en las aproximaciones o los cálculos y otros errores técnicos. La aplicación de atajos o simplificaciones como consecuencia de la incertidumbre y complejidad del modelo también podría afectar al resultado.

Por ejemplo, unos plazos ajustados para implementar un modelo de análisis predictivo del rendimiento de las ventas pueden llevar a utilizar datos en tiempo real de las cifras de ventas. Sin embargo, debido a esta decisión, el modelo podría fallar con frecuencia o funcionar con lentitud. En este caso, cambiar a una instantánea de datos diaria o semanal podría mejorar la velocidad y estabilidad del modelo.

Unas pruebas rigurosas también pueden ayudar a detectar errores durante la implantación, como el uso accidental de un formato de fecha diferente para un modelo de evaluación de reclamaciones de seguros u otra unidad de medida para un modelo de diagnóstico sanitario, o la modificación inadvertida de la divisa para un modelo de fijación de precios.

Interpretación de los resultados

Una interpretación errónea de las salidas de un modelo puede conducir a una toma de decisiones equivocada y a la adopción de medidas erróneas. Es aquí donde se necesita un análisis experto, con expertos en la materia que evalúen la solidez de los resultados de un modelo. La explicabilidad y la transparencia también son cruciales para determinar cómo ha llegado un modelo a sus conclusiones.

Uso del modelo

Los modelos pueden utilizarse mal o puede aplicarse el modelo equivocado a un determinado escenario. También es posible que el diseño y las especificaciones de un modelo no se ajusten a un caso empresarial concreto.

Por ejemplo, un modelo que ayuda a los hospitales a clasificar más rápidamente a los pacientes en un determinado estado o región puede no ser adecuado para un estado o región vecinos debido a las diferencias demográficas. Por otro lado, los modelos que identifican una afección pulmonar en niños a partir de sus escáneres torácicos podrían no ser capaces de detectar la misma afección en adultos.

Gestión del riesgo de modelo

Si no se gestiona, el riesgo de modelo puede causar estragos en las finanzas, las operaciones y la reputación de una organización. Una gestión eficaz del riesgo de modelo requiere un marco que tenga en cuenta el riesgo en cada etapa del ciclo de vida de un modelo.

La gestión del riesgo de modelo también implica seguir las directrices reglamentarias. En EE. UU., por ejemplo, la Reserva Federal y la Oficina del Contralor de la Moneda (OCC) publicaron una guía de supervisión sobre la gestión del riesgo de modelo, que sirve como punto de referencia para un marco de MRM.

A continuación se detallan seis pasos comunes hacia un marco eficaz de gestión del riesgo de modelo:

1. Identificación del riesgo de modelo

Identificar los riesgos es el primer paso en la gestión del riesgo de modelo. Esto implica realizar un inventario de modelos y definir los riesgos asociados a cada modelo.

2. Evaluación del riesgo de modelo

El siguiente paso es medir y evaluar el riesgo de modelo. Las empresas pueden idear un sistema de clasificación que ordene los riesgos de modelo en función de la prioridad, la probabilidad de que se produzcan y la gravedad de sus efectos, entre otras métricas.

Además de la medición del riesgo de modelo individual, las empresas también pueden considerar el riesgo de modelo agregado. El riesgo de modelo agregado se refiere a los riesgos planteados por las dependencias e interacciones entre diferentes tipos de modelos. Por ejemplo, los resultados de un modelo de diagnóstico sanitario pueden alimentar un modelo de predicción de la atención al paciente. Si el modelo de diagnóstico presenta sesgos, esos sesgos podrían trasladarse al modelo de predicción, lo que afectaría a quién podría recibir atención urgente.

3. Mitigación del riesgo de modelo

Para mitigar el riesgo hay que abordar sus fuentes y causas. A continuación se presentan algunas estrategias de mitigación de riesgos que pueden integrarse en un marco de gestión del riesgo de modelo:

  • Auditorías y revisiones: las empresas pueden realizar sus propias auditorías internas de sus modelos o contratar a expertos externos para que lleven a cabo revisiones independientes.

  • Estándares: crear normas para el proceso de modelado puede ayudar a minimizar el riesgo. Pueden elaborarse normas para la recogida de datos, el proceso de diseño y el desarrollo de modelos, las pruebas, la documentación y el uso de modelos.

No todos los riesgos pueden mitigarse, por lo que las empresas pueden seguir expuestas a cierto grado de riesgo. Por lo tanto, las organizaciones pueden encontrar útil establecer su apetito de riesgo, que es el nivel de riesgo que una empresa está dispuesta y preparada para tolerar y puede asumir cuando se trata de su uso de modelos.

4. Validación del modelo

El proceso de validación actúa como un desafío efectivo de un modelo para comprobar su calidad y verificar sus resultados. La validación del modelo se realiza después de su aplicación y antes de ponerlo a disposición de los usuarios. Abarca enfoques tanto cuantitativos como cualitativos.

La validación cuantitativa del modelo incluye estas estrategias:

  • El backtesting es una forma de análisis de resultados que utiliza datos históricos del mundo real para probar un modelo, evaluando así su precisión y eficacia.

  • Los modelos retadores son modelos alternativos desarrollados para desafiar a un modelo "campeón". Ambos modelos utilizan los mismos datos y sus resultados se comparan para revelar riesgos potenciales u ocultos.

  • El análisis de sensibilidad examina cómo la alteración de una variable específica en determinadas condiciones afecta a otras variables.

  • Las pruebas de estrés aplican simulaciones basadas en escenarios especulativos o teóricos para ver cómo responde un modelo.

Por su parte, la validación cualitativa de modelos tiene en cuenta factores como la idoneidad de un modelo para su propósito y si un modelo se ajusta a las normas o cumple la normativa.

5. Monitorización de modelos

La monitorización de modelos examina continuamente los modelos para comprobar si siguen funcionando según lo previsto y continúan rindiendo como se esperaba. Señala cualquier riesgo adicional que pueda surgir o las actualizaciones necesarias como consecuencia de cambios en los datos, los procesos y la normativa.

La validación de los modelos suele formar parte del proceso de seguimiento continuo. En esta fase se elaboran informes de seguimiento y validación que son revisados por las partes interesadas para recomendar las medidas necesarias.

6. Gobierno de modelos

El gobierno del modelo permite supervisar todo el proceso de modelado. Establece un sistema de propiedad y control mediante políticas y procedimientos. Un buen gobierno del riesgo de modelo requiere un equipo variado de responsables de la toma de decisiones y stakeholders, desde el consejo de administración y la alta dirección hasta los propietarios, desarrolladores y usuarios de los modelos.

AI Academy

El auge de la IA generativa para empresas

Conozca el auge histórico de la IA generativa y lo que significa para las empresas.

IA para la gestión del riesgo de modelo

Muchos de los modelos actuales emplean IA y machine learning de alguna forma, en particular al generar y probar modelos.

Por ejemplo, la IA se aplica habitualmente en el sector financiero para modelizar el riesgo de crédito, el riesgo de mercado y el riesgo operativo. La tecnología puede ayudar a evaluar el riesgo de crédito y préstamo, crear modelos de mercado y ayudar a detectar el fraude financiero y el blanqueo de dinero.

La IA y el aprendizaje automático también pueden aplicarse a la gestión del riesgo de modelo, especialmente durante la validación de modelos (como las pruebas de estrés de los modelos de mercado) y la supervisión de modelos en tiempo real. Estos son algunos de los algoritmos y métodos de aprendizaje automático más utilizados en la gestión del riesgo de modelo:

  • El clustering puede aplicarse al análisis de sensibilidad para descubrir anomalías que puedan indicar riesgo cuando se modifican las variables o cuando se simulan escenarios específicos.

  • Los árboles de decisión pueden combinarse con redes neuronales para monitorizar los modelos de negociación, por ejemplo, alertando a los operadores de cambios en los patrones subyacentes durante la negociación.

  • Tanto el deep learning como el aprendizaje por refuerzo pueden utilizarse para la supervisión de modelos en tiempo real, la detección de problemas y la recomendación automática de resoluciones.

  • Las redes neuronales pueden contribuir a las pruebas de resistencia, ayudando a los bancos a modelar su liquidez en condiciones económicas difíciles, como una recesión.

Software de gestión de riesgos de modelo

El software de gestión del riesgo de modelo puede ayudar a las organizaciones a gestionar el riesgo de modelo con mayor eficacia. Ofrece características avanzadas, como inventario de modelos y seguimiento y asignación de métricas, modelos y políticas a múltiples requisitos normativos. Otras herramientas de gestión del riesgo de modelo también permiten la gestión de modelos mediante IA y machine learning, con capacidades que incluyen la automatización de la monitorización y la validación de modelos.

Soluciones relacionadas
Soluciones para operaciones comerciales

Fomente la resiliencia de su empresa a través de la implementación de soluciones con IA para la cadena de suministro y la gestión inteligente de los activos.

Explore las soluciones operativas
Servicios de consultoría de operaciones empresariales

Transforme sus operaciones comerciales con IBM mediante el uso de datos enriquecidos y potentes tecnologías de IA que le permitan integrar procesos de optimización.

Explore los servicios de operaciones empresariales
Cloud Pak for Business Automation

IBM Cloud Pak for Business Automation es un conjunto modular de componentes de software integrados para la gestión y automatización de operaciones.

Explore Business Automation
Dé el siguiente paso

Transforme sus operaciones empresariales con las soluciones líderes del sector de IBM. Mejore la productividad, la agilidad y la innovación mediante flujos de trabajo inteligentes y tecnologías de automatización.

 

Explore las soluciones operativas Explore los servicios de inteligencia artificial
Notas a pie de página

1 “SR 11-7: Guidance on Model Risk Management”. Federal Reserve. 4 de abril de 2011.

2 “Structural causes of the global financial crisis: a critical assessment of the ‘new financial architecture’”. Cambridge Journal of Economics. 1 de julio de 2009.

3 “JPMorgan fined USD 920 million in ‘London Whale’ trading loss”. BBC. 19 de septiembre de 2013.

4 “Model risk – daring to open up the black box”. British Actuarial Journal. Diciembre de 2015.

5 “Zillow’s home-buying debacle shows how hard it is to use AI to value real estate”. CNN. 9 de noviembre de 2021.