IA et éthique : Le grand défi de notre génération

By and Pavel Abdur-Rahman | 14 minute read | 4 mai 2021

Élaborer une feuille de route sur les données et l’IA sécurisées pour les services financiers

Qu’ont en commun la prolifération nucléaire, le changement climatique et l’intelligence artificielle (IA)? Tous les trois, s’ils ne sont pas contrôlés, ont le pouvoir d’avoir des effets négatifs sur le monde tel que nous le connaissons.

L’émergence rapide de l’IA fait qu’elle devient un outil important pour résoudre les défis de l’humanité, mais elle n’est pas sans risques. Les gens sont de plus en plus inquiets à l’idée de permettre aux machines intelligentes et autonomes d’accéder à leurs données personnelles pour prendre des décisions. Cela a suscité une demande croissante pour une IA conforme à l’éthique qui crée une relation de confiance et protège la vie privée, repousse les cyberattaques potentielles et empêche les biais.

Je pense que les données sécurisées et l’IA sécurisée conforme à l’éthique sont l’un des « grands défis » de notre génération. L’élaboration et l’application de normes, d’une éthique et d’une gouvernance relatives à l’utilisation et au développement de systèmes d’IA fiables sont devenues des priorités urgentes.

« Comme toute technologie disruptive, l’intelligence artificielle offre à la fois de grandes promesses et un risque de grand péril; et la sophistication croissante de l’IA a légitimement suscité des débats animés sur la façon de trouver un juste milieu. À mesure que les systèmes d’IA deviendront de plus en plus omniprésents, la confiance dans ces systèmes sera essentielle et les organisations devront démontrer qu’elles ont réfléchi aux risques uniques inhérents à l’IA et ont apporté des réponses qui sont cohérentes avec leurs valeurs d’entreprise et correspondent aux attentes des clients, des employés et de la société. »
William Stewart, responsable de l’utilisation des données et de la gestion des produits, Données et analytique, Banque Royale du Canada (RBC)

L’Union européenne (UE) a dévoilé un règlement horizontal strict et une politique unique en son genre le 21 avril 2021 afin de régir l’utilisation de l’IA. Le projet de proposition aurait une incidence sur des cas d’utilisation tels que les voitures autonomes, les décisions de recrutement, les prêts bancaires, les sélections dans le cadre des inscriptions aux écoles, la notation des examens, etc. Cela aurait également une incidence sur l’utilisation de l’IA par les forces de l’ordre et les tribunaux, des domaines considérés comme « à haut risque », car ils pourraient menacer la sécurité des personnes ou les droits fondamentaux. Les entreprises qui ne respectent pas le nouveau règlement encourront des amendes pouvant s’élever jusqu’à six pour cent de leur chiffre d’affaires mondial.

Les chefs de file du secteur privé et des services financiers (SF) à travers le monde considèrent que l’IA conforme à l’éthique fait partie intégrante des activités d’une entreprise, le conseil d’administration jouant un rôle essentiel dans l’établissement et la supervision de son adoption et de sa mise en œuvre. Les spécialistes estiment que d’ici 2023, le règlement sur l’IA pour les SF sera en vigueur dans des pays et régions comme Singapour, l’Europe, le Royaume-Uni, le Canada et l’Australie.

De toute évidence, la question n’est plus de savoir si l’IA sera réglementée, mais quand elle le sera. Alors, quelles sont les prochaines étapes vers une IA conforme à l’éthique dans les services financiers pour se préparer à ces réglementations?

Miser sur les données et l’IA sécurisées

Dans l’environnement concurrentiel d’aujourd’hui, les institutions de SF utilisent les données – y compris les données des clients, des entreprises et des tiers – pour proposer des alternatives innovantes aux solutions bancaires traditionnelles. Les données ouvertes et sécurisées étant la principale monnaie d’échange, les plateformes ouvertes fournissent des services basés sur les relations, qui tirent parti de l’interaction avec les clients et de l’expérience client et, ce faisant, permettent aux banques et aux entreprises de technologie financière émergentes d’exploiter leurs forces complémentaires au lieu de se concurrencer.

Reposant sur des relations numériques de confiance entre les banques et les clients, ce nouveau modèle de gestion s’appuie sur l’IA et crée de la valeur même en cas de confinement lié à une pandémie.

Toutefois, de nombreux clients sont légitimement préoccupés par l’utilisation de leurs données personnelles. La confiance dans les systèmes d’IA grandira uniquement lorsque les clients seront convaincus que leurs données et leurs renseignements personnels sont protégés et non exploités à des fins commerciales sans leur autorisation.

« L’éthique des données n’est pas un coût nécessaire pour faire des affaires, mais un investissement dans de bonnes affaires. Nous avons la responsabilité d’établir des normes éthiques qui garantissent la transparence, réduisent les biais et encouragent la responsabilité. »
Terry Hickey, vice-président principal et responsable des technologies de l’information, Données d’entreprise, CIBC

Les clients et les investisseurs afflueront vers les marques les plus fiables dans le domaine de l’IA, et les institutions financières qui occupent un rôle de chef de file en tireront le plus grand bénéfice dans l’économie de plateforme. Plusieurs points sont à prendre en compte :

  • Selon un récent sondage réalisé par l’Institut de recherche en valeur commerciale IBM, plus de 68 % des consommateurs sont disposés à communiquer des données et des renseignements personnels à leur banque ou à une autre institution de services financiers. Près de 91 % des personnes qui communiquent des données personnelles à leur banque lui font confiance pour protéger leurs données et renseignements personnels, au moins de façon modérée, juste après leur employeur.
  • L’hyperpersonnalisation de l’IA augmente les chances pour une entreprise d’attirer, de fidéliser et de satisfaire des clients grâce à des offres de produits, des services et une disponibilité permanente.
  • Les données et l’IA fournissent également de nouveaux outils de lutte contre la fraude. Lorsqu’ils sont utilisés efficacement, ces outils améliorent la détection des fraudes, réduisent les créances irrécouvrables et permettent des vérifications réglementaires fondées sur la connaissance du client.
  • À l’avenir, la relation entre une banque et son client sera probablement beaucoup plus profonde et beaucoup plus interactive. Mais pour cela, il faut une transformation radicale des modèles de gestion et d’exploitation, ainsi que des changements dans la façon dont les ressources, les processus commerciaux et les technologies sont assemblés pour créer de la valeur.

 Création du Guide de l’IEEE pour le secteur des services financiers

Même si la plupart des organisations de SF s’accordent à dire qu’une IA conforme à l’éthique est une nécessité, elles ne disposent pas des ressources nécessaires pour créer, exécuter et mettre à l’échelle des applications de données et d’IA sécurisées de manière isolée. La construction de bases solides pour une IA sécurisée n’est possible que si le gouvernement, l’industrie et les organismes de normalisation travaillent ensemble.

Pour répondre à ce défi, IBM a uni ses forces avec un écosystème mondial de partenaires en 2019 pour créer un guide de normes sur IA, axé sur l’IA conforme à l’éthique pour les services financiers. Nous avons travaillé en collaboration avec toutes les grandes banques canadiennes, les fonds de retraite, ainsi que les leaders d’opinion de l’IEEE, la plus grande organisation professionnelle technique au monde consacrée à l’avancement de la technologie pour l’humanité, et les créateurs du document mondialement reconnu intitulé Ethically Aligned Design (EAD).

En nous appuyant sur les principes de l’EAD, nous avons créé le Guide de l’IEEE pour le secteur des services financiers v1.0 : Données sécurisées et systèmes d’IA (SIA) sécurisée pour les services financiers, qui rassemble les idées de pointe de dizaines d’experts en IA dans les services financiers. Il s’agit d’une étape importante dans l’élaboration de normes et de certifications pour les SF, tout en favorisant les écosystèmes d’entreprises de technologie financière et les alliances d’entreprises hyperscalaires.

J’ai le privilège de présider le Comité directeur exécutif de l’industrie qui a supervisé la création du guide, le sondage (fournissant des recherches pour les futures itérations du guide) et continue d’organiser des ateliers à l’intention des cadres supérieurs et d’autres activités. Pour ce travail, nous avons pu organiser la mise en œuvre des meilleures pratiques et des feuilles de route du secteur des services financiers, des universités, des ONG et des organismes de normalisation. Les six grandes banques canadiennes, ainsi que les coopératives de crédit, les fonds de retraite et les entreprises de technologie financière ont participé à cette initiative.

« Notre secteur repose sur la confiance. L’un des principaux objectifs des organisations de services financiers est d’utiliser les données des clients/membres pour générer de nouveaux produits et services qui créent de la valeur. Les conseils de premier ordre recueillis auprès des experts du secteur dans le Guide de l’IEEE pour le secteur des services financiers traitent des risques émergents tels que les biais, l’équité, l’explicabilité et la confidentialité dans nos données et algorithmes pour permettre des décisions commerciales plus intelligentes et maintenir cette confiance. »
Sami Ahmed, vice-président principal, Données et analytique évoluée, OMERS

Les cinq principaux points à retenir du Guide de l’IEEE pour le secteur des services financiers sont les suivants :

  1. Une première étape dans la mise en œuvre réussie d’une IA sécurisée consiste à élaborer des normes et des certifications, une gouvernance et des rapports tout en favorisant les écosystèmes et les alliances d’entreprises de technologie financière.
  2. Les meilleures pratiques en matière d’IA conforme à l’éthique, qui émergent à l’échelle mondiale, sont utiles pour élaborer une feuille de route fiable qui mobilise le groupe de chefs opérationnels de tous les secteurs d’activité.
  3. Vingt cas d’utilisation d’IA de grande valeur qui démontrent comment les données et l’IA sécurisées peuvent se traduire en valeur commerciale dans des domaines tels que l’interaction avec les clients, l’augmentation de la part de portefeuille, l’acquisition de clients, la réduction des créances irrécouvrables et l’amélioration de la rentabilité.
  4. Un cadre indispensable pour développer une communauté mondiale des services financiers avec des sondages réguliers et des points de vue à jour.
  5. Des ressources clés recommandées pour aider à développer les trois éléments de base critiques des données et de l’IA sécurisées (personnes, processus, technologie) qui permettent aux organisations de répondre aux besoins mis en évidence dans les cas d’utilisation de l’IA à haute valeur ajoutée.

Feuille de route pour une IA sécurisée

Nous nous dirigeons inévitablement vers la réglementation de l’IA. Un engagement pour une IA conforme à l’éthique rassure les clients, les partenaires et les employés sur le fait que leur vie privée est protégée et que leurs données sont utilisées de manière responsable.

« Nous sommes à un carrefour critique de l’échelle industrielle de l’adoption et de l’accélération de l’IA. Ce Guide de l’IEEE pour le secteur des services financiers est un jalon important et a fourni une feuille de route pratique indispensable aux organisations du monde entier pour développer leurs données sécurisées et systèmes d’IA sécurisée conforme à l’éthique. »
Amy Shi-Nash, responsable mondiale de l’analytique et de la science des données, HSBC

IBM est résolue à montrer la voie pour résoudre les problèmes majeurs liés aux données fiables et à l’IA conforme à l’éthique. Depuis plus d’un siècle, nous créons des solutions qui renforcent la collaboration et la confiance entre les personnes, les entreprises et les machines qu’elles utilisent. Nos trois principes de confiance et de transparence pour l’IA sont au cœur de tout ce que nous faisons.

IBM Canada occupe un rôle de chef de file auprès de l’IEEE en créant une communauté et en établissant des relations avec des experts et des acheteurs ciblés, en s’appuyant sur le fait que le Canada est reconnu dans le monde entier pour sa recherche et son leadership en matière de développement de l’IA et de réglementation des services financiers.

Votre entreprise peut bénéficier de sa transition vers une IA conforme à l’éthique en :

  • façonnant les normes mondiales de réglementation de l’IA en participant et en apportant son leadership éclairé au Guide de l’IEEE pour le secteur des services financiers et au sondage. Téléchargez le guide ici pour savoir comment participer.
  • construisant une marque de confiance. Les clients sont moins susceptibles d’utiliser une application ou une offre bancaire s’ils ne font pas confiance aux données ou aux systèmes d’IA.
  • attirant les meilleurs talents, en particulier la génération Y et les plus jeunes, qui sont attirés par les entreprises qui utilisent des données dans lesquelles l’IA est conçue et mise en œuvre de manière éthique.
  • attirant les investisseurs en soulignant votre contribution aux objectifs de développement durable de l’ONU, en particulier les principes directeurs des opérations bancaires ouvertes et de la transformation ESG.

« Dans les services financiers, le déploiement des technologies d’IA est à la fois une opportunité et une responsabilité. Il permet de transformer positivement l’expérience des clients et des employés et d’augmenter les capacités de base des organisations. Nous avons également un rôle clé à jouer dans le déploiement des technologies d’IA de manière responsable et éthique, afin de maintenir la confiance des clients et des autres intervenants. L’IEEE a réussi à rassembler tous les acteurs de l’écosystème pour aborder des questions importantes, ce qui est un élément essentiel pour aider le secteur financier à poursuivre sa transformation en établissant des normes exemplaires pour une IA responsable et éthique. »
Mathieu Avon, vice-président, Gestion des risques intégrée, Banque Nationale du Canada

Faites-nous part de vos commentaires et participez

Participez à la conversation! Nous vous invitons à profiter de l’écosystème du Guide de l’IEEE pour le secteur des services financiers. Prenez part aux discussions sur l’établissement de normes, façonnez les politiques du secteur et influencez la valeur de la marque du secteur des services financiers et la confiance dans celui-ci à l’échelle mondiale.

Étapes suivantes suggérées :

  1. Téléchargez le guide ici. Utilisez-le comme ressource interne ou comme moyen d’amorcer des discussions avec le groupe de chefs opérationnels sur l’IA conforme à l’éthique.
  2. Participez au sondage complémentaire de 20 minutes sur l’état de préparation des données sécurisées et des SIA et recevez une évaluation de l’état de préparation des données sécurisées et des SIA de votre organisation, ainsi que des conseils sur la meilleure façon d’utiliser le guide.
  3. Nous sommes à votre disposition. Communiquez avec les experts d’IBM et nos clients pour participer à une séance d’information ou un atelier à l’intention des cadres supérieurs, copublier un point de vue ou faire partie d’un panel de conférenciers.
  4. Envoyez-moi un courriel pour me faire part de vos commentaires : pavel@ca.ibm.com

Lectures complémentaires suggérées

Conseils essentiels pour repenser le mode de fonctionnement des banques après la pandémie (en anglais seulement)

Miser sur l’économie de plateforme (en anglais seulement)

Faire progresser l’éthique de l’IA au-delà de la conformité (en anglais seulement)

 

Par Pavel Abdur-Rahman
Associé et responsable des données et de l’IA sécurisées
Services IBM, Canada

Twitter: https://twitter.com/pavelrahman
LinkedIn: https://www.linkedin.com/in/pavelrahman