Les risques et les limites de l’IA dans l’assurance

L'intelligence artificielle (IA) est un sujet polémique. Cela excite les futuristes et suscite de l'inquiétude chez les conservateurs. Dans mon article précédent, j'ai décrit les différentes capacités de l'IA discriminante et de l'IA générative, et j'ai esquissé un monde d'opportunités où l'IA change la façon dont les assureurs et les assurés interagissent. Ce blog poursuit la discussion. Il étudie actuellement les risques liés à l'adoption de l'IA et propose des mesures pour apporter une réponse sûre et judicieuse à l'adoption de l'IA.

Le risque associé à l’adoption de l’IA dans l’assurance peut être largement divisé en deux catégories : technologique et d’utilisation.

Risque technologique — confidentialité des données

Le principal risque technologique concerne la confidentialité des données. Le développement de l’IA a permis la collecte, le stockage et le traitement d’informations à une échelle sans précédent, rendant ainsi extrêmement facile d’identifier, d’analyser et d’utiliser des données personnelles à faible coût sans le consentement d’autrui. Le risque de fuite de confidentialité lié à l'interaction avec les technologies d'IA est une source majeure d'inquiétude et de méfiance des consommateurs.

L'avènement de l'IA générative, où l'IA manipule vos données pour créer un nouveau contenu, présente un risque supplémentaire pour la confidentialité des données de l'entreprise. Par exemple, alimenter un système d'IA générative tel que Chat GPT avec des données d'entreprise pour produire un résumé de recherche confidentielle d'entreprise signifierait qu'une empreinte serait laissée de manière indélébile sur le serveur cloud de l'IA et accessible aux requêtes des concurrents.

Risque technologique : sécurité

Les algorithmes d'IA sont les paramètres qui optimisent les données d'entraînement et permettent à l'IA de donner des informations. En cas de fuite des paramètres d'un algorithme, un tiers peut être en mesure de copier le modèle, ce qui entraîne des pertes économiques et de propriété intellectuelle pour le propriétaire du modèle. De plus, si les paramètres du modèle d'algorithme d'IA venaient à être modifiés illégalement par un cyberattaquant, cela entraînerait une détérioration des performances des modèles IA et aurait des conséquences indésirables.

Risque technologique – transparence

La caractéristique boîte noire des systèmes d'IA, en particulier de l'IA générative, rend le processus de décision des algorithmes d'IA difficile à comprendre. Le secteur de l'assurance est un secteur financièrement réglementé où la transparence, l'explicabilité et l'auditabilité des algorithmes sont d'une importance capitale pour le régulateur.

Risque d’utilisation — inexactitude

Les performances d'un système d'IA dépendent largement des données à partir desquelles il apprend. Si un système d'IA est formé sur des données inexactes, biaisées ou plagiées, il fournira des résultats indésirables même s'il est techniquement bien conçu.

Risque d’utilisation — abus

Bien qu'un système d'IA puisse fonctionner correctement dans ses activités d'analyse, de prise de décision, de coordination et autres, il présente toujours un risque d'abus. L'objectif de l'utilisation de l'opérateur, la méthode d'utilisation, le domaine d'utilisation, etc. peuvent être pervertis ou déviés et avoir des effets néfastes. La reconnaissance faciale utilisée pour suivre illégalement les déplacements des personnes en est un exemple.

Risques liés à l’utilisation : dépendance excessive

La dépendance excessive à l’égard de l’IA se produit lorsque les utilisateurs commencent à accepter des recommandations d’IA incorrectes, ce qui constitue des erreurs de commission. Les utilisateurs ont du mal à déterminer les niveaux de confiance appropriés parce qu'ils ne savent pas ce que peut faire l'IA, ses performances ou son fonctionnement. Le corollaire de ce risque est l'affaiblissement du développement des compétences des utilisateurs de l'IA. Par exemple, un expert en sinistres dont la capacité à gérer de nouvelles situations ou à prendre en compte des perspectives multiples est détériorée ou limitée aux seuls cas auxquels l'IA a également accès.

Les risques posés par l'adoption de l'IA soulignent la nécessité de développer une approche de gouvernance pour atténuer les risques techniques et d'utilisation qui découlent de l'adoption de l'IA.

Une gouvernance centrée sur l'humain

Pour atténuer le risque d’utilisation, une approche à trois volets est proposée :

1. Commencez par un programme de formation pour créer une sensibilisation obligatoire pour le personnel impliqué dans le développement, la sélection ou l'utilisation d'outils d'IA afin de garantir l'alignement sur les attentes.
2. Ensuite, mettez en place un système d'évaluation des fournisseurs pour évaluer la robustesse des contrôles des fournisseurs et garantir une transparence appropriée codifiée dans les contrats.
3. Enfin, établissez des mesures d'application des politiques pour définir les normes, les rôles et les responsabilités, les processus d'approbation et les lignes directrices en matière de maintenance tout au long des cycles de développement de l'IA.

Gouvernance centrée sur la technologie

Pour atténuer le risque technologique, la gouvernance informatique doit être étendue pour tenir compte des éléments suivants :

1. Une taxonomie étendue des données et des systèmes. Cela permet de s'assurer que les modèles IA capturent les entrées et les modèles d'utilisation, les validations et les cycles de test requis, ainsi que les productions attendues. Vous devriez héberger le modèle sur des serveurs internes.
2. Un registre des risques, pour quantifier l'ampleur de l'impact, le niveau de vulnérabilité et l'étendue des protocoles de surveillance.
3. Une Stratégie élargie d'analytique et de test pour effectuer des tests régulièrement afin de surveiller les problèmes de risque liés aux entrées, aux productions et aux composants du système d'IA.

La promesse et le potentiel de l'IA dans le domaine de l'assurance résident dans sa capacité à tirer de nouveaux enseignements d'ensembles de données actuarielles et de sinistres de plus en plus vastes et complexes. Ces jeux de données, combinés à des données comportementales et écologiques, créent le risque que des systèmes d'IA interrogeant des bases de données en tirent des conclusions erronées, ce qui pourrait avoir des conséquences réelles en matière d'assurance.

Une IA efficace et précise nécessite une science des données minutieuse. Ils nécessitent une organisation minutieuse des représentations de connaissances dans les bases de données, la décomposition des matrices de données pour réduire la dimensionnalité et un pré-traitement des jeux de données pour atténuer les effets déroutants des données manquantes, redondantes et aberrantes. Les utilisateurs de l'IA dans le secteur de l'assurance doivent être conscients que les limites de qualité des données d'entrée ont des implications en matière d'assurance, ce qui peut réduire la précision des modèles analytiques actuariels. 

Alors que les technologies de l'IA continuent de mûrir et que les cas d'utilisation se multiplient, les assureurs ne devraient pas hésiter à utiliser cette technologie. Mais les assureurs devraient mettre leur expertise du domaine de l’assurance au service du développement des technologies d’IA. Leur capacité à informer la provenance des données d'entrée et garantir la qualité des données contribuera à une application sûre et contrôlée de l'IA dans le secteur de l'assurance.

Lorsque vous faites vos premiers pas avec l'IA dans le secteur de l'assurance, découvrez et créez des cas d'assurance. Et surtout, mettez en place un solide programme de gouvernance de l'IA.