Préparer l’entreprise à la mise à l’échelle d’une IA agentique responsable

En matière de gouvernance de l’IA, vous ne pouvez pas gouverner ce que vous ne pouvez pas voir. Cependant, la visibilité seule n’est pas utile à moins que vous ne compreniez également les risques liés à vos modèles et systèmes IA.

C’est particulièrement vrai pour les technologies émergentes telles que l’IA agentique. Les agents IA peuvent améliorer leur efficacité et leur productivité, mais il est plus difficile de comprendre l’ensemble des risques qu’ils présentent. « Les risques pour l’IA générative et le machine learning peuvent être importants dès le départ, surtout dans certains cas d’utilisation », écrivent Manish Bhide, Heather Gentile et Jordan Byrd d’IBM. « Ajoutez des agents IA, et les risques sont encore amplifiés. »  

Notre livre blanc, « Agents IA : opportunités, risques et mesures d’atténuation » , présente une étude approfondie des risques liés à l’IA agentique, explorant à la fois l’amplification des risques déjà connus liés à l’IA et l’émergence de nouveaux défis uniques.

S’appuyant sur nos travaux antérieurs d’identification des risques et des atténuations pour les modèles de fondation, cet article dote les praticiens des connaissances fondamentales nécessaires pour comprendre, identifier et atténuer les risques. Il s’agit d’un premier pas important vers une mise à l’échelle responsable de l’IA agentique.

Les agents IA sont très autonomes, accomplissant diverses tâches sans surveillance humaine continue. Ils possèdent également 4 caractéristiques qui peuvent présenter des risques :

·      Opacité : une visibilité limitée sur le fonctionnement interne et les interactions d’un agent d’IA peut nuire à la compréhension des actions.

·      Ouverture : les agents IA peuvent sélectionner eux-mêmes des ressources, des outils et même d’autres agents IA pour accomplir leurs tâches, ce qui augmente le risque d’actions inattendues.  

·      Complexité : au fur et à mesure que les agents IA apprennent et s’adaptent, leur fonctionnement interne devient plus complexe, ce qui rend l’analyse de plus en plus difficile.

·      Non-réversibilité : agissant sans surveillance humaine permanente, les agents IA ont plus de chances de prendre des mesures irréversibles avec des conséquences tangibles dans les domaines numérique et physique.

L’autonomie et les caractéristiques des agents IA présentent des risques, des défis et des impacts sociétaux potentiels que les praticiens doivent comprendre pour développer l’IA agentique de manière responsable.

L’IA agentique introduit de nouveaux risques et défis dans l’environnement (informatique) des risques liés à l’IA, risques que les praticiens sont moins susceptibles d’avoir pris en compte lors de la conception, du développement, de l’adoption ou de la gouvernance des systèmes d’IA précédents.

Par exemple, un des nouveaux risques émergents concerne le biais des données : un agent IA peut modifier un jeu de données ou une base de données d’une manière qui introduit un biais. Dans ce cas, l’agent IA entreprend une action qui a un impact potentiel et qui pourrait être irréversible si le biais introduit n’est pas détecté.

L’IA agentique amplifie également plusieurs domaines de risque connus, notamment l’évaluation des systèmes et la possibilité d’actions inexplicables ou non traçables.

Les praticiens doivent réévaluer ces domaines lorsqu’ils travaillent avec des agents IA. Par exemple, un agent IA disposant d’un accès illimité aux ressources, bases de données ou outils amplifie le risque de partager des informations sensibles ou confidentielles avec les utilisateurs. Sans garde-fous appropriés, un tel agent pourrait stocker et partager de manière inappropriée des informations personnelles, des éléments de propriété intellectuelle ou d’autres données confidentielles avec les utilisateurs du système. Le livre blanc détaille ces risques et défis, en expliquant leurs origines et leurs impacts potentiels.

Pour faire face aux risques et aux défis uniques de l’IA agentique, il faut une approche de bout en bout de l’atténuation des risques, mise en œuvre par le biais d’une gouvernance holistique de l’IA. Cependant, comme l’ont récemment expliqué Phaedra Boinodiris et Jon Parker d’IBM, « l’IA agentique progresse si rapidement que les organisations pourraient avoir du mal à trouver des précédents ou des bonnes pratiques pour limiter les préjudices. »

Heureusement, de nombreuses stratégies qui peuvent aider à atténuer les risques pour d’autres types d’IA, tels que l’IA générative et le machine learning, peuvent également contribuer à atténuer les risques liés à l’IA agentique. Par exemple, intégrer un humain dans la boucle est une bonne pratique pour une IA responsable de tous types. La validation humaine et les commentaires sur les actions entreprises par les agents IA peuvent contribuer à garantir l’exactitude et la pertinence et à maintenir l’alignement sur les valeurs de l’organisation.  

Comprendre les risques uniques de l’IA agentique est une première étape cruciale pour la faire évoluer de manière responsable à l’échelle de l’entreprise et réaliser le retour sur investissement (ROI) de l’IA responsable. « Agents IA : opportunités, risques et atténuations » peut vous aider à conceptualiser plus clairement l’environnement (informatique) des risques de l’IA agentique et à réfléchir à la manière dont votre organisation peut capitaliser de manière responsable sur les immenses opportunités offertes par les agents IA.

Lire Agent IA : opportunités, risques et atténuations

En savoir plus sur l'approche d'IBM en matière d'IA responsable