Quels indicateurs clés pour mesurer la gouvernance de l’IA ?

Quelqu’un m’a récemment posé cette question : Comment mesurer le succès de mes engagements en matière d’éthique et de gouvernance de l’IA ? Pour ma part, je mesure ce succès en m’assurant que les principes éthiques de l’IA sont intégrés à la stratégie, aux workflows et à la prise de décision, et pas simplement formulés dans un document. Si les équipes sont en mesure de poser des questions, que les communautés concernées sont incluses et que les modèles sont élaborés en toute responsabilité à chaque étape, vous êtes sur la bonne voie.

Tout d’abord, l’échec le plus profond est de ne pas prendre en compte le comportement humain et l’expérience d’une personne interagissant avec l’IA dont l’intelligence est censée être « augmentée ». Je pense qu’il est important de savoir comment on mesure le comportement des gens. L’un des principes de base de la psychologie humaine est que l’on obtient beaucoup plus des comportements humains que vous mesurez.

Quels comportements humains mesurons-nous en ce qui concerne l’utilisation de l’IA ? Quels comportements humains nos clients souhaitent-ils voir davantage dans l’utilisation de l’IA ?

Pour commencer, voici une histoire à propos de l’un de mes clients de longue date, un grand service de police. Ce client se distinguait par sa culture de tous les autres clients rencontrés précédemment. Lorsque nous avons commencé à travailler avec les membres du comité de gouvernance de l’IA du service de police, nombre d’entre eux se demandaient pourquoi ils étaient là.  

S’ils possédaient tous une vaste expertise du maintien de l’ordre, ils ne connaissaient pas grand chose en matière d’intelligence artificielle (IA) ou de machine learning (ML). « Pourquoi avez-vous besoin de moi au sein de ce comité de gouvernance ? », demandaient-ils.

Nous avons donc commencé par expliquer pourquoi ils étaient là et combien leur avis et leur expertise étaient importants dans le domaine concerné. Mais nous ne nous sommes pas arrêtés là, nous avons dû expliquer pourquoi ils étaient nécessaires. Ils devaient comprendre que ce qu’ils apportaient à ces solutions d’IA était essentiel pour que l’IA suive le bon chemin. Pour que la mise en œuvre de l’IA soit une réussite, il est impératif de mettre l’humain au premier plan.

Nous avons établi le lien avec eux en leur démontrant précisément que le plus difficile pour réussir dans l’IA n’était pas d’ordre technique, et que leur expertise des forces de police était un atout inestimable. Ces personnes comprennent les données, le contexte dans lequel elles ont été collectées et les relations entre les points de données, ce qui permet de créer, de maintenir et de gouverner la bonne IA de manière responsable. 

Certaines des tactiques que nous avons utilisées étaient des exercices de design thinking issus du guide de conception de l’IA d’IBM. Ces exercices de design thinking abordent des questions telles que :

• Avons-nous les bonnes personnes parmi nous ?

• Quel est le principal problème que nous tentons de résoudre ?

• Disposons-nous des données adéquates et d’une compréhension de ces dernières suffisante, au sens des experts, pour concrétiser ce projet d’IA ?

• Quels principes d’IA tactiques doivent être reflétés dans nos systèmes d’IA pour gagner la confiance du public ? Et comment définir les exigences fonctionnelles et non fonctionnelles nécessaires à la mise en œuvre de ces principes ?

• Quels sont les effets imprévus de ces modèles d’IA  ? 

• Comment aborderiez-vous l’atténuation des risques de manière intentionnelle ? 

• Pour quels profils élaborons-nous ce projet ?

• Quelles informations devons-nous communiquer sur l’utilisation prévue et non prévue de cette IA ?

Ce travail introspectif doit être réalisé dans un environnement qui privilégie l’humilité et l’inclusivité, la sécurité psychologique et qui inclut des personnes ayant des expériences de vie variées. Le résultat de ce travail est que les équipes disposent enfin du langage dont elles ont besoin depuis longtemps. Cela leur permet de communiquer clairement aux concepteurs ou acheteurs ce qui doit être développé ou acquis pour organiser de manière responsable des solutions d’IA.

Encore une fois, vous obtenez les comportements humains que vous mesurez. Quels sont donc les comportements humains que nous devons mesurer pour déterminer le succès d’un projet de gouvernance ?

La question courante à poser est la suivante :

• Quels comportements humains sont mesurés ? Quels sont les comportements humains mis en avant dans les efforts de communication et sont-ils les mêmes que les comportements liés à la gouvernance qui sont mesurés ?

Souvent, les employés sont à la fois encouragés à utiliser l’IA sur le lieu de travail (au risque d’être licenciés) et, parallèlement, on leur dit qu’ils sont responsables de la qualité des résultats. Mais ils sont souvent strictement évalués sur la rapidité avec laquelle ils accomplissent leur travail et leur productivité, sans être évalués du tout sur les résultats eux-mêmes.

Il existe plusieurs cas documentés où l’expert du domaine savait que l’IA était en erreur et où il lui a été expressément demandé de faire preuve de discernement. Pourtant, au lieu de contredire l’IA, ils n’ont rien fait parce que, là encore, leurs performances étaient évaluées selon des indicateurs totalement différents. Certaines personnes sont en effet pénalisées lorsqu’elles contredisent une IA au travail. 

Lorsque nous reviendrons à la question de savoir quels comportements nous mesurons, examinons comment nous pouvons mesurer si l’IA améliore l’intelligence d’une personne. Nous devons également nous demander si cette personne s’engage activement en tant que consommateur critique de l’IA. Ces personnes devraient être incitées de manière mesurable à contribuer à l’entraînement de l’IA, ou au moins à alerter d’autres personnes, afin d’obtenir des résultats plus responsables.

Pour ce faire, nous devons déterminer si les employés qui utilisent l’IA comprennent vraiment les risques qui y sont liés, à savoir la nature réelle des données, des biais et de l’impact disparate. Sont-ils conscients de ce que signifie être responsable ? Sont-ils évalués de manière à encourager cette responsabilité ?

Ces comportements de leadership ne sont que quelques exemples parmi d’autres des éléments à prendre en compte lorsque nous réfléchissons à la mise en place d’une culture organisationnelle appropriée.

Pour savoir si vous avez réussi dans votre projet de gouvernance de l’IA, il est essentiel de savoir si vous avez gagné la confiance des gens. Sachez à nouveau qu’il n’y a rien de facile dans le développement d’une IA d’une manière qui suscite la confiance. Les dirigeants dont je parle sont en mesure de montrer leur travail.

Ce que j’aimerais que vous reteniez de cet article, c’est que vous avez votre place dans cette discussion, même si vous ne le pensez pas. Vous n’avez pas besoin d’un diplôme en science des données ou d’un doctorat en IA, je vous assure. Le fait que vous apportiez une expérience vécue différente signifie que vous avez votre place dans ce débat sur l’IA.

Ce n’est pas seulement parce que l’IA a été popularisée et est susceptible de se manifester dans votre lieu de travail que cette conversation est importante. Vous voudrez savoir que les modèles d’IA utilisés, même par vos enfants, sont à l’abri des adversaires et fondés sur la vérité. Ils doivent être équitables, éviter de formuler soudainement des discours haineux et toxiques ou de dérailler, et protéger les données personnelles grâce à des garanties solides en matière de respect de la vie privée.

Soyons honnêtes : cette transition vers l’IA est difficile. Pour diriger à l’ère de l’IA, il faut être à l’aise avec l’ambiguïté. Cela signifie qu’il faut choisir de faire ce qui est juste, et pas seulement ce qui est facile ou rentable à court terme. Cela nécessite de mieux comprendre les technologies d’IA, comment elles fonctionnent, ce qu’elles peuvent accomplir, les risques qu’elles comportent. Et cela nécessite de transmettre ces connaissances et cette compréhension à l’ensemble du personnel. Cela signifie investir dans la maîtrise de l’IA, dans la gouvernance de l’IA et dans un leader compétent en matière de gouvernance de l’IA.

Les dirigeants qui s’engagent aujourd’hui, qui posent des questions courageuses, mettent en place les systèmes adéquats et centrés sur les valeurs humaines, évitent non seulement les pièges, mais façonnent activement un avenir de l’IA plus responsable. Ils gagnent la confiance qui devient un avantage concurrentiel durable. Ce moment de leadership est le vôtre. Faites en sorte que cela compte. Faites en sorte que cela compte.