Se préparer à la loi sur l’IA de l’UE : Une gouvernance efficace

Le règlement européen sur l’intelligence artificielle introduit de nouveaux niveaux de surveillance humaine et de conformité réglementaire pour l’intelligence artificielle (IA) au sein de l’Union européenne. À l’instar du RGPD pour la protection des données personnelles, le règlement européen sur l’IA pourrait définir un cadre de référence pour les futures réglementations mondiales en matière d’IA.

Début 2024, le Parlement européen, représentant 27 États membres, a approuvé à l’unanimité le règlement européen sur l’IA. Le texte est en train de franchir les dernières phases de la procédure et devrait être déployé par étapes au cours du second semestre 2024. Comprendre les dispositions du règlement européen sur l’IA et se préparer à s’y conformer est essentiel pour toute organisation qui développe, déploie ou utilise l’IA, ou envisage de le faire

Le règlement sur l’IA vise à « renforcer la position de l’Europe en tant que pôle mondial d’excellence en matière d’IA, du laboratoire au marché, à garantir que l’IA en Europe respecte les valeurs et les règles établies, et à exploiter le potentiel de l’IA à des fins industrielles. »

- Actualités du Parlement européen

L’objectif principal du règlement européen sur l’IA est de renforcer la conformité réglementaire dans les domaines de la gestion des risques, de la protection des données, des systèmes de gestion de la qualité, de la transparence, de la supervision humaine, de la précision, de la robustesse et de la cybersécurité. Il vise à favoriser la transparence et la responsabilité dans la manière dont les systèmes d’IA sont développés et déployés, en contribuant à garantir que les produits d’IA mis sur le marché peuvent être utilisés en toute sécurité par les individus.

Le règlement européen sur l’IA vise à surmonter les défis que représentent le développement et le déploiement de l’IA de manière responsable dans tous les secteurs, y compris ceux fortement réglementés comme les soins de santé, la finance et l’énergie. Pour les secteurs fournissant des services essentiels aux clients, tels que l’assurance, la banque et le commerce de détail, le règlement impose de recourir à une évaluation de l’impact sur les droits fondamentaux décrivant en détail la manière dont l’utilisation de l’IA affectera les droits des clients.

Le règlement européen sur l’IA exige que les modèles d’IA à usage général, y compris les systèmes d’IA générative tels que les grands modèles de langage (LLM) et les modèles de fondation, respectent un système de classification basé sur des niveaux de risque systématiques. Les niveaux de risque les plus élevés comportent des exigences accrues de transparence, notamment en matière d’évaluation des modèles, de documentation et de reporting. Ils impliquent également l’évaluation et l’atténuation des risques liés aux systèmes, le signalement des incidents graves et la mise en place de mesures de protection dans le cadre de la cybersécurité. En outre, ces exigences de transparence comprennent la mise à jour régulière de la documentation technique, la fourniture d’un résumé du contenu utilisé pour l’entraînement des modèles et le respect des lois européennes en matière de droits d’auteur.

Le règlement européen sur l’IA adopte une approche basée sur le risque, classifiant les systèmes d’IA selon trois niveaux de risque pour la santé, la sécurité ou les droits fondamentaux des individus. Les trois niveaux sont les suivants :

• Les systèmes à faible risque, tels que les filtres anti-spam ou les jeux vidéo, sont soumis à des obligations limitées, principalement de transparence. 

• Les systèmes d’IA à haut risque, tels que les véhicules autonomes, les dispositifs médicaux et les infrastructures critiques (eau, gaz, électricité, etc.), imposent des obligations réglementaires particulières aux développeurs et utilisateurs :
  • Mettre en place une gestion des risques, garantir la précision, la robustesse et un cadre de responsabilisation prévoyant une surveillance humaine
  • Respecter les obligations de transparence à l’égard des utilisateurs, ainsi que les exigences de tenue de registres et de documentation technique

• Les systèmes prohibés, à quelques exceptions près, sont des systèmes présentant un risque inacceptable, tels que le scoring social, la reconnaissance faciale, la reconnaissance des émotions et les systèmes d’identification biométrique à distance dans les espaces publics.

Le règlement européen sur l’IA impose également des règles concernant l’information des clients lorsqu’un chatbot ou un système de reconnaissance des émotions est utilisé. Des exigences supplémentaires s’appliquent à l’étiquetage des « deep fakes » et à l’identification des contenus issus de l’IA générative dans les médias.

Le non-respect du règlement européen sur l’IA peut s’avérer coûteux :

7,5 millions d’euros ou 1,5 % du chiffre d’affaires annuel mondial total de l’entreprise (le montant le plus élevé étant retenu) en cas de présentation d’informations incorrectes. 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial total de l’entreprise (le montant le plus élevé étant retenu) en cas de violation des obligations prévues par le règlement européen sur l’IA.

 VentureBeat

Le règlement européen sur l’IA constitue actuellement le cadre juridique le plus complet en matière de réglementation de l’intelligence artificielle. Les gouvernements du monde entier en prennent note et discutent activement des moyens de réguler cette technologie afin de s’assurer que leurs citoyens, leurs entreprises et leurs agences gouvernementales sont protégés contre les risques potentiels. De plus, les parties prenantes, des conseils d’administration aux consommateurs, accordent désormais la priorité à la confiance, la transparence, l’équité et la responsabilité en ce qui concerne l’IA.

IBM watsonx.governance vous permet d’accélérer la mise en place de workflows d’IA responsables, transparents et explicables

IBM watsonx.governance vous permet d’améliorer la gouvernance de l’IA en accélérant la direction, la gestion et la surveillance des activités d’IA au sein de votre organisation. Grâce à l’automatisation logicielle, il renforce votre capacité à atténuer les risques, à gérer les exigences des politiques et à régir le cycle de vie des modèles d’IA générative et de machine learning (ML) prédictif.

Watsonx.governance contribue à la transparence, à l’explicabilité et à la documentation des modèles dans trois domaines clés :

• Conformité : aide à gérer la transparence de l’IA et à se conformer aux politiques et aux normes. Connectez les données aux principaux contrôles des risques et utilisez des fiches techniques pour automatiser la capture et le reporting des métadonnées des modèles afin de faciliter les enquêtes et les audits.

• Gestion des risques : des seuils de risque prédéfinis permettent de détecter et d’atténuer proactivement les risques liés aux modèles d’IA. Surveillez l’équité, la dérive, les biais, les performances par rapport aux indicateurs d’évaluation, les cas de langage toxique et la protection des informations personnelles identifiables (PII). Accédez à des informations détaillées sur les risques organisationnels grâce à des tableaux de bord et des rapports personnalisés.

• Gouvernance du cycle de vie : aide à gérer les modèles d’IA générative et de machine learning prédictif tout au long de leur cycle de vie à l’aide de workflows et d’approbations intégrées. Surveillez l’état des cas d’utilisation, des demandes de modification en cours, des défis, des problèmes et des tâches attribuées.

Il incombe au client de respecter les lois et réglementations qui lui sont applicables. IBM ne fournit pas de conseils juridiques et ne déclare ni ne garantit que ses services ou produits assureront la conformité du client avec la législation ou la réglementation en vigueur.