Ce dont une entreprise a besoin pour organiser l’IA de manière responsable

Disons le franchement : de nombreuses entreprises utilisent l’intelligence artificielle (IA), qu’elles en aient conscience ou non. La question est de savoir comment. En effet, comment les entreprises utilisent-elles l’IA et comment savent-elles qu’elles le font de manière responsable ?

Phaedra Boinodiris, responsable mondiale pour une IA digne de confiance chez IBM® Consulting, affirme que gagner la confiance dans l’IA est un défi socio-technique, dont la partie la plus difficile est l’aspect humain. L’approche globale peut être divisée en trois volets : les collaborateurs, les processus et les outils, ainsi que quelques principes clés.

En ce qui concerne les collaborateurs, il convient de définir la culture organisationnelle appropriée permettant d’organiser l’IA de manière responsable. Des processus de gouvernance de l’IA sont nécessaires pour recueillir des informations et des métadonnées appropriées, évaluer les risques, etc. Les organisations doivent également disposer de cadres d’ingénierie de l’IA équipés des outils adéquats, et les utiliser tout au long du cycle de vie de l’IA, afin de garantir que ces modèles reflètent bien l’intention initiale.

P. Boinodiris souligne que parmi ces trois volets, les collaborateurs sont l’élément qui donne le plus de fil à retordre pour parvenir à une IA responsable au sein de l’entreprise.  

« Mettre en place la bonne culture organisationnelle n’est pas une mince affaire. Et lorsque l’on réfléchit à la culture organisationnelle nécessaire pour organiser l’IA de manière responsable, certains principes fondamentaux s’imposent », explique P. Boinodiris.

Le premier principe consiste à aborder le sujet avec une « grande humilité », car les membres d’une entreprise ont beaucoup à apprendre et à désapprendre. Par « désapprendre », P. Boinodiris entend reconsidérer qui a sa place à la table des discussions. Le débat sur l’IA doit inclure des personnes issues de diverses disciplines et ayant des parcours variés afin de concevoir l’IA de manière holistique.

Cela signifie qu’il est essentiel d’adopter un état d’esprit axé sur la croissance en vue de favoriser la mise en place d’une IA responsable. P. Boinodiris ajoute que les entreprises doivent offrir à leurs collaborateurs un espace sûr, notamment sur le plan psychologique, pour mener des conversations pouvant être difficiles à propos de l’IA.

Le deuxième principe consiste à reconnaître que les individus ont des expériences du monde différentes et que tous les points de vue comptent. Les entreprises doivent reconnaître la diversité de leur main-d’œuvre et des personnes qui élaborent et gèrent les modèles d’IA. Il ne s’agit pas seulement de leur sexe, de leur race, de leur origine ethnique ou de leur orientation sexuelle. Il s’agit de leur point de vue et de leur expérience du monde.

« Ce que je veux dire, c’est que les personnes qui ont vécu des expériences différentes doivent être présentes lorsque l’on se pose des questions telles que : Est-ce approprié ? Cela va-t-il résoudre le problème ? S’agit-il des bonnes données ? Qu’est-ce qui pourrait mal tourner ? Quelles pourraient être les conséquences négatives ? », précise P. Boinodiris.

Enfin, les collaborateurs ou les équipes chargées de créer et de gérer ces modèles d’IA au sein de l’entreprise doivent être multidisciplinaires. Concrètement, cela signifie qu’une équipe composée d’individus issus de différents horizons, tels que des sociologues, des anthropologues et des experts juridiques, est essentielle pour créer une IA de manière responsable.

Selon P. Boinodiris, l’un des mythes courants autour de l’IA est que 100 % du travail consiste à coder. Elle affirme que c’est totalement faux.

« Nous savons très bien que plus de 70 % du travail consiste simplement à déterminer si les données utilisées sont les bonnes. Ce qui est fascinant avec les données, selon ma définition préférée, c’est qu’elles sont le fruit de l’expérience humaine », ajoute-t-elle.

Ce sont les humains qui génèrent les données et fabriquent les machines qui les produisent, mais il faut reconnaître que tout le monde a des biais ; 188 pour être exact, selon P. Boinodiris. Les humains possèdent ces biais depuis la nuit des temps, et pour une bonne raison. 

P. Boinodiris compare l’IA à un miroir qui renvoie à une personne ses propres biais. En fin de compte, il s’agit d’avoir le courage de se regarder dans ce miroir et de décider si le reflet correspond aux valeurs de l’entreprise.

Les entreprises responsables de ces modèles d’IA doivent expliquer en toute transparence pourquoi elles ont pris une décision particulière concernant les données ou pourquoi elles ont choisi une certaine approche. Ou pourquoi elles ont préféré une méthodologie plutôt qu’une autre. Les collaborateurs sont tenus de créer une fiche d’information sur leurs solutions d’IA qui détaille les informations importantes relatives au modèle.

Par exemple, l’utilisation prévue, la provenance des données, la méthodologie, les responsables, la date et la fréquence des audits du modèle, l’objet de l’audit, les résultats de l’audit, etc.

Par ailleurs, les gens doivent être suffisamment informés pour se rendre compte que cette réflexion ne correspond pas à leurs valeurs ; si ce n’est pas le cas, ils doivent changer d’approche.

« Ainsi, lorsque vous entendez quelqu’un dire que son modèle d’IA ne comporte aucun biais, gardez simplement à l’esprit que toutes les données sont biaisées. L’important est de faire preuve de transparence sur les raisons pour lesquelles vous avez estimé que ces données étaient les plus importantes à inclure dans votre modèle », clarifie P. Boinodiris. Et rappelez-vous de rester critique envers vous-même en permanence, car nos points de vue et notre éthique évoluent au fil du temps.

La confiance en l’IA se gagne, elle ne se donne pas. Cela passe par des conversations difficiles avec les membres de votre équipe concernant les origines éventuelles de leurs biais et par reconnaître que la création d’un modèle d’IA responsable et fiable n’est pas linéaire et nécessite beaucoup de travail.