05 : L’éthique de l’IA et de l’automatisation

L’IA générative, une technologie relativement nouvelle, a réussi à placer l’IA à un moment critique et historique, qui devrait redéfinir la nature même de l’entreprise. Alors que les investissements en IA s’accélèrent et se répandent, en particulier compte tenu des possibilités offertes par l’IA et les modèles de fondation, l’éthique de l’IA est un impératif absolu pour assurer la longévité, la conformité et la validité de ces investissements. Nous pensons que la confiance commence par une culture de l’éthique au sein de l’entreprise, mais lorsqu’il s’agit d’une IA évolutive, la gouvernance est nécessaire de bout en bout. Les décisions que les entreprises prennent aujourd’hui pour savoir où et comment intégrer l’IA auront des conséquences pour les années à venir.

L’éthique et la gouvernance de l’IA doivent dominer les discussions organisationnelles au niveau du conseil d’administration, car il existe une distinction importante entre ce que vous pouvez faire et ce que vous devez faire. Il s’agit donc de réfléchir à la manière dont l’IA est utilisée en interne, en évaluant l’impact potentiel sur les travailleurs, et en externe, en évaluant l’impact sur les clients et le reste du monde.

« L’une des choses les plus importantes qu’une entreprise puisse faire avant de commencer le déploiement de l’IA est de mettre en place des garde-fous pour savoir où et quand l’IA doit être utilisée, et notamment pour évaluer l’impact de l’IA sur les postes, du niveau le plus bas au niveau le plus élevé. » —Melissa Long Dolson

La santé du modèle de fondation, la protection de la vie privée des employés et des clients, le maintien de la propriété intellectuelle, la gestion des risques et la conformité réglementaire sont autant d’éléments qui doivent faire partie de ces garde-fous. Vous devez également avoir une vision claire des protections et couches de responsabilité qui seront mises en place. Par exemple, IBM applique trois principes  en matière d’IA responsable :


• L'objectif de l'IA est d'enrichir l'intelligence humaine
• Les données et les analyses appartiennent à leur créateur
• Les nouvelles technologies, notamment les systèmes d’IA, doivent être transparentes et explicables

Vous devez également envisager de nouveaux rôles pour gérer efficacement l’IA et l’automatisation informatique. Par exemple, devriez-vous embaucher un responsable de l’éthique de l’IA ? Aurez-vous également besoin d’un éthicien de l’IA ou d’un conseil d’éthique de l’IA ? Ou peut-être avez-vous besoin des trois. De nouveaux rôles émergent également rapidement en dehors de ces postes dédiés à la surveillance, notamment les spécialistes en prompt engineering d’IA, les ingénieurs en apprentissage profond, les développeurs de chatbots d’IA, les concepteurs d’IA et les auditeurs d’IA, pour n’en citer que quelques-uns. Ces rôles auront tous besoin de lignes directrices claires encadrant des méthodes de travail responsables.

On ne peut apporter de réponses simples à ces conversations complexes, mais les discussions doivent avoir lieu maintenant. L’IA entraîne des bouleversements majeurs : d’après les prévisions du Forum économique mondial, d’ici 2025, ces nouvelles technologies auront perturbé 85 millions d’emplois dans le monde. Cependant, le Forum estime également que 97 millions de nouveaux postes seront créés.¹ Ce personnel émergent est une main-d’œuvre au sein de laquelle les humains, renforcés par l’IA, devront être guidés par des règles basées sur un sens strict de l’éthique.

Pour approfondir ce sujet, nous vous invitons à découvrir la partie IA responsable et éthique du guide d’IBM sur l’IA générative.