Faire évoluer de manière responsable une IA générative prête à l'emploi

Imaginez les possibilités de fournir des requêtes textuelles et d’ouvrir un monde de connaissances pour améliorer l’apprentissage et la productivité. Les possibilités se multiplient, parmi lesquelles une aide à la rédaction d’articles, d’essais ou d’e-mails ; l’accès à un résumé des recherches ; générer des idées et les mettre en forme ; la recherche dynamique avec recommandations personnalisées pour la vente au détail et les voyages ; et l'explication de sujets complexes pour la formation et l'entraînement. Avec l’IA générative, la recherche devient radicalement différente. Au lieu de fournir des liens vers plusieurs articles, l’utilisateur recevra des réponses directes synthétisées à partir d’une myriade de données. C’est comme avoir une conversation avec une machine très intelligente.

L'IA générative utilise une forme avancée d’algorithmes de machine learning qui accepte les prompts des utilisateurs et utilise le traitement automatique du langage naturel (NLP) pour générer des réponses à presque toutes les questions posées. Elle utilise de grandes quantités de données Internet, un pré-entraînement à grande échelle et un apprentissage renforcé pour permettre des transactions étonnamment proches de celles effectuées par des humains. L’apprentissage par renforcement basé sur les commentaires humains (RLHF) est utilisé, s’adaptant aux différents contextes et situations, devenant ainsi plus précis et naturel au fil du temps. L’IA générative est analysée pour divers cas d’utilisation, notamment le marketing, le service client, la vente au détail et la formation.

ChatGPT utilise une architecture d’apprentissage profond appelée Transformer et représente une avancée significative dans le domaine du NLP. Bien qu'OpenAI ait pris les devants, la concurrence s'intensifie. Selon la recherche, le marché mondial de l'IA générative était évalué à 10,79 millions de dollars en 2022, et devrait atteindre environ 118,06 milliards de dollars d'ici 2032, avec un TCAC de 27,02 % entre 2023 et 2032. Ces chiffres sont très impressionnants, mais il convient de les considérer avec prudence.

L’utilisation de modèles génératifs pré-créés pose quelques problèmes fondamentaux. Chaque entreprise doit trouver un équilibre entre les opportunités de création de valeur et les risques associés. En fonction de l’activité et du cas d’utilisation, si la tolérance au risque est faible, les organisations constateront que le développement en interne ou la collaboration avec un partenaire de confiance donneront de meilleurs résultats.

Voici quelques préoccupations à prendre en compte en ce qui concerne les modèles d’IA générative prêts à l’emploi :

Les données Internet ne sont pas toujours exactes et précises

Au cœur de la plupart des IA génératives actuelles se trouvent d'énormes quantités de données provenant de sources telles que Wikipédia, des sites web, des articles, des fichiers image ou audio, etc. Les modèles génératifs font correspondre les modèles dans les données sous-jacentes pour créer du contenu et, sans contrôle, il peut y avoir des intentions malveillantes visant à propager la désinformation, les préjugés et le harcèlement en ligne. Cette technologie étant très récente, il existe parfois un manque de responsabilité, une exposition accrue aux risques réglementaires et de réputation liés à des questions telles que les droits d'auteur et les redevances.

Il peut y avoir un décalage entre les développeurs de modèles et l'ensemble des cas d'utilisation des modèles.

Les développeurs de modèles génératifs en aval ne voient pas toujours dans quelle mesure le modèle sera utilisé et adapté à d'autres fins. Cela peut entraîner des hypothèses et des résultats erronés qui ne sont pas critiques lorsque les erreurs concernent des décisions moins importantes, telles que le choix d'un produit ou d'un service, mais qui sont importantes lorsqu'elles affectent une décision cruciale pour l'entreprise qui peut exposer l'organisation à des accusations de comportement contraire à l'éthique, y compris de partialité, ou à des problèmes de conformité réglementaire pouvant entraîner des audits ou des amendes.

Les litiges et la réglementation ont une incidence sur l'utilisation

Les préoccupations concernant les litiges et les réglementations limiteront dans un premier temps la manière dont les grandes entreprises utilisent l’IA générative. C’est particulièrement vrai dans les secteurs hautement réglementés tels que les services financiers et les soins de santé, où la tolérance est très faible pour les décisions contraires à l’éthique, biaisées et fondées sur des données incomplètes ou inexactes et où les modèles peuvent avoir des répercussions préjudiciables.

À terme, le cadre réglementaire applicable aux modèles génératifs sera mis à jour, mais les entreprises devront faire preuve de proactivité pour s'y conformer afin d'éviter toute violation des règles, atteinte à leur réputation, audits et amendes.

À mesure que les résultats des analyses basées sur l'IA deviennent plus critiques pour l'entreprise et que les choix technologiques continuent de se multiplier, il est essentiel de s'assurer que vos modèles fonctionnent de manière responsable, avec des processus transparents et des résultats explicables. Les organisations qui intègrent de manière proactive la gouvernance dans leurs initiatives d'IA sont mieux à même de détecter et d'atténuer les risques liés aux modèles, tout en renforçant leur capacité à respecter les principes éthiques et les réglementations gouvernementales.

Il est de la plus haute importance de s'aligner sur les technologies de confiance et les capacités d'entreprise. Vous pouvezwatsonx.governance commencer par en savoir plus sur les progrès réalisés par IBM dans les nouveaux modèles d’IA générative avec watsonx.ai et mettre en place watsonx.governance de manière proactive pour favoriser des workflows d’IA responsables, transparents et explicables, aujourd’hui et demain.

watsonx.governance fournit un puissant ensemble d’outils de gouvernance, de risque et de conformité (GRC) conçu pour opérationnaliser les workflows du cycle de vie de l’IA, détecter et atténuer les risques de manière proactive et pour améliorer la conformité aux exigences légales, éthiques et réglementaires en constante évolution. Les rapports personnalisables, les tableaux de bord et les outils collaboratifs connectent les équipes distribuées, améliorant ainsi l’efficacité, la productivité et la responsabilité des parties prenantes. La collecte automatique des métadonnées et des faits relatifs aux modèles permet d’étayer les audits tout en générant des résultats transparents et explicables.

Accélérez la gouvernance et simplifiez la gestion des risques dans l’ensemble de votre entreprise avec IBM OpenPages, une solution unifiée de gouvernance, de risque et de conformité (GRC) qui vous permet de gérer, de surveiller et de rendre compte des risques et de la conformité. En savoir plus sur la façon dont watsonx.governance favorise des flux de travail d’IA responsables, transparents et explicables, ainsi que les améliorations à venir.