Étude des risques de ChatGPT et de ses alternatives : ouvrir la voie à une IA digne de confiance

Vous préparez un smoothie pour vos amis. Vous avez déjà mélangé divers fruits et du yaourt, lorsque votre ami Raoul arrive avec une pomme mûre et vous la tend pour compléter votre délicieuse création. Maintenant que la boisson est prête, vous pouvez presque sentir le parfum de la pomme lorsque vous la versez dans un verre. Avant que vous ne preniez votre première gorgée, Raoul vous dit : « J’ai changé d’avis, je dois partir et je voudrais récupérer ma pomme. » Vous répondez : « Ah, je m’excuse, mais ce n’est pas possible. » Nous reviendrons sur cette histoire dans un instant et expliquerons en quoi elle est liée à ChatGPT et à une IA digne de confiance.

À mesure que le monde de l’intelligence artificielle (IA) évolue, de nouveaux outils tels que ChatGPT d’OpenAI ont attiré l’attention pour leurs capacités conversationnelles. Néanmoins, je comprends également combien il est crucial d’évaluer les risques inhérents avant de se lancer dans son adoption directe au sein des entreprises. Dans cette discussion, j’explore les risques et les défis associés à ChatGPT dans un contexte entrepreneurial, qui nécessitent une approche prudente de sa mise en œuvre. De plus, je soulignerai l’importance d’adopter IBM watsonx afin de garantir des solutions d’IA dignes de confiance. En cas de doute, je vous recommande d’utiliser le même bon sens que vous avez toujours utilisé lorsque vous employez de nouveaux services Internet.

ChatGPT exploite l’immense puissance de GPT-3 (lien externe à ibm.com) et GPT-4, qui appartiennent à une nouvelle classe de grands modèles de langage « gargantuesques » et très populaires utilisés dans diverses applications d’IA. Avec ChatGPT, les utilisateurs peuvent poser des questions, générer du texte, rédiger des e-mail, discuter de code dans différents langages de programmation, traduire du langage naturel en code, et bien plus encore. Il se distingue comme un chatbot conversationnel de haute qualité qui vise à fournir des réponses cohérentes et adaptées au contexte.

ChatGPT est un excellent outil pour s’adonner à l’écriture créative, générer des idées et interagir avec l’IA. Il est gratuit pour tout le monde, avec une version plus avancée disponible pour les abonnés à ChatGPT Plus. La capacité du chatbot à se souvenir des conversations précédentes ajoute à son expérience interactive et engageante.

Bien que ChatGPT ait suscité beaucoup d’intérêt et gagné en popularité, il est confronté à la concurrence d’autres chatbots alimentés par l’IA et de systèmes de traitement automatique du langage naturel (TALN). Google, par exemple, a développé Bard, son chatbot d’IA, qui est alimenté par son propre moteur linguistique appelé PaLM 2. De même, Meta a récemment lancé son impressionnant modèle LLaMA2. À mesure que le domaine des chatbots d’IA continue d’évoluer, la concurrence est appelée à s’intensifier et de nouveaux acteurs feront sans doute leur apparition. Il est essentiel de se tenir au courant des avancées dans ce domaine afin d’explorer les meilleures solutions pour les besoins en entreprise.

L’utilisation directe de ChatGPT en entreprise présente des risques et des difficultés.. Cela concerne notamment la sécurité et la fuite de données, les questions de confidentialité et de responsabilité, les complexités liées à la propriété intellectuelle, le respect des licences open source, les limites au développement de l’IA, et l’incertitude de la confidentialité et du respect des lois internationales. Je présente ici ces risques et partage des exemples qui montrent comment ils peuvent se manifester dans les activités quotidiennes de votre entreprise.

Je commencerai par examiner les solutions alternatives qui visent à atténuer les risques liés à l’utilisation directe de ChatGPT, notamment IBM watsonx, que je recommande pour une utilisation en entreprise, car il répond aux préoccupations en matière de propriété et de confidentialité des données grâce à une édition (ou curation) et une gouvernance rigoureuses. Je conclurai cette conversation en revenant à l’histoire du smoothie, je vous le promets, mais lorsque je mentionnerai « vos données » ci-dessous, n’hésitez pas à remplacer cette expression par « votre pomme ».

Avant de découvrir d’autres solutions, il est essentiel que les entreprises soient conscientes des risques et des défis potentiels liés à l’utilisation directe de ChatGPT. Pour rappel, l’histoire d’Internet a montré l’émergence et l’évolution de nouveaux services (recherche Google, réseaux sociaux, etc.), ce qui souligne l’importance de la propriété et de la confidentialité des données au sein de l’entreprise. Dans cette optique, voici les principaux facteurs à prendre en considération :

Sécurité et fuite de données

Si des informations sensibles provenant de tiers ou internes à l’entreprise sont saisies dans ChatGPT, elles sont intégrées au modèle de données du chatbot et peuvent être partagées avec d’autres personnes qui posent des questions pertinentes. Cela pourrait entraîner une fuite de données et enfreindre les politiques de sécurité de l’entreprise.

Exemple : les plans relatifs à un nouveau produit d’un client que votre équipe aide à lancer, notamment les spécifications confidentielles et les stratégies marketing, ne doivent pas être partagés avec ChatGPT afin d’éviter tout risque de fuite de données et de violation potentielle de la sécurité.

Confidentialité et vie privée

Comme pour le point précédent, le partage d’informations confidentielles sur les clients ou les partenaires peut constituer une violation des accords contractuels et des exigences légales en matière de protection de ces informations. Si la sécurité de ChatGPT est compromise, des contenus confidentiels peuvent être divulgués, ce qui peut avoir un impact sur la réputation de l’entreprise et l’exposer à des responsabilités.

Exemple : supposons qu’un établissement de santé utilise ChatGPT pour répondre aux demandes des patients. Si des informations confidentielles sur les patients, telles que des dossiers ou des données de santé, sont partagées avec ChatGPT, cela pourrait constituer une violation des obligations légales ainsi que des droits à la vie privée des patients en vertu de lois telles que HIPAA (Health Insurance Portability and Accountability Act) (lien externe à ibm.com) aux États-Unis.

Problèmes liés à la propriété intellectuelle

La question de la propriété du code ou du texte généré par ChatGPT peut être complexe. Les conditions d’utilisation stipulent que le résultat appartient au fournisseur de l’entrée, mais des problèmes peuvent se poser lorsque le résultat comprend des données légalement protégées provenant d’autres entrées. Des problèmes liés aux droits d’auteur peut également se poser si ChatGPT est utilisé pour générer du matériel écrit à partir d’une propriété protégée par des droits d’auteur.

Exemple : la génération de documents écrits à des fins de marketing dont le contenu comprend des éléments protégés par le droit d’auteur provenant de sources externes sans attribution ou autorisation appropriée pourrait potentiellement enfreindre les droits de propriété intellectuelle des créateurs du contenu original. Cela peut entraîner des conséquences juridiques et nuire à la réputation de l’entreprise.

Conformité aux licences open source

Si ChatGPT utilise des bibliothèques open source et intègre ce code dans ses produits, cela pourrait potentiellement enfreindre les licences de logiciels open source (OSS) (par exemple GPL), entraînant des complications juridiques pour l’entreprise.

Exemple : si une entreprise utilise ChatGPT pour générer du code pour un produit logiciel et que l’origine des données utilisées pour entraîner GPT n’est pas claire, il existe un risque de violation potentielle des conditions des licences open source associées à ce code. Cela peut entraîner des complications juridiques, notamment des plaintes pour violation de licence et des poursuites judiciaires potentielles de la part de la communauté open source.

Limitations du développement de l’IA

Les conditions d’utilisation de ChatGPT précisent qu’il ne peut pas servir à développer d’autres systèmes d’IA. L’utilisation de ChatGPT de cette manière peut entraver les futurs plans de développement de l’IA si l’entreprise opère dans ce domaine.

Exemple : une entreprise spécialisée dans la technologie de reconnaissance vocale prévoit d’améliorer son système existant en intégrant les capacités de traitement automatique du langage naturel de ChatGPT. Cependant, les conditions d’utilisation de ce dernier stipulent explicitement qu’il ne peut pas être utilisé dans le développement d’autres systèmes d’IA.

Pour revenir à notre histoire de smoothie, ChatGPT utilise vos données pour améliorer son réseau de neurones, tout comme la pomme ajoute de la saveur au smoothie. Une fois que vos données sont entrées dans ChatGPT, tout comme la pomme mélangée, vous n’avez plus aucun contrôle ni aucune connaissance sur la manière dont elles sont utilisées. Il est donc crucial de s’assurer que l’on dispose de tous les droits pour incorporer sa pomme et que celle-ci ne contient pas de données sensibles, pour ainsi dire.

Afin de répondre à ces préoccupations, IBM watsonx propose des données et des modèles édités et transparents, offrant ainsi un meilleur contrôle et une plus grande confiance dans la création et l’utilisation de votre smoothie. En termes simples, si Raoul demandait à récupérer sa pomme, watsonx pourrait accéder à sa demande. Et voilà… l’analogie et l’histoire sont terminées.

IBM watsonx introduit trois grandes fonctionnalités –watsonx.data, watsonx.ai, et watsonx.governance – qui collaborent pour établir une IA digne de confiance d’une manière inédite dans les modèles OpenAI. Ces fonctionnalités effectuent l’édition et l’étiquetage des données et des modèles d’IA, garantissant la transparence des informations relatives à l’origine et à la propriété. Elles régissent également les modèles et les données, répondant ainsi aux préoccupations actuelles en matière de dérive et de biais. Cette approche rigoureuse atténue efficacement les préoccupations relatives à la propriété et à la confidentialité des données évoquées dans cet article.

IBM a conclu un partenariat avec Hugging Face, une société open source, afin de créer un écosystème de modèles. Les deux sociétés exploitent les fonctionnalités de watsonx.ai dans le but d’éditer et de promouvoir des modèles en fonction de leur fonctionnalité et de leur fiabilité.

L’utilisation directe de chatbots d’IA tels que ChatGPT au sein d’une entreprise présente de nombreux risques : sécurité, fuite de données, confidentialité, responsabilité, propriété intellectuelle, conformité, limitations du développement de l’IA et confidentialité. Or, ces risques peuvent avoir des conséquences néfastes pour les entreprises, notamment une atteinte à leur réputation et des complications juridiques coûteuses.

Pour les atténuer et mettre en place une IA digne de confiance, IBM watsonx apparaît comme la solution la plus recommandée. Elle propose des données et des modèles d’IA édités et étiquetés, garantissant ainsi la transparence en matière de propriété et d’origine. Elle répond aux préoccupations liées aux biais et aux dérives, offrant ainsi un niveau de confiance supplémentaire. IBM watsonx établit un équilibre entre innovation et utilisation responsable de l’IA. De plus, la collaboration entre IBM et Hugging Face renforce l’écosystème des modèles.

Même si watsonx offre une confiance et une rigueur accrues, rare sont les modèles qui peuvent actuellement égaler le large éventail d’utilisations générales de ChatGPT et de la gamme de modèles GPT. Le domaine des modèles IA continuant d’évoluer, on peut s’attendre à des améliorations constantes. Pour garantir des résultats optimaux, il est crucial de comprendre comment les modèles sont évalués et entraînés. Cette connaissance permet aux entreprises de prendre des décisions éclairées et de sélectionner des modèles qui correspondent le mieux à leurs besoins et à leurs standards de qualité.

En adoptant watsonx, les entreprises peuvent exploiter le potentiel de l’IA tout en gardant le contrôle sur leurs données et en veillant à respecter les normes éthiques et juridiques. Elles peuvent protéger leurs données et leur propriété intellectuelle et instaurer la confiance avec les parties prenantes, tout en profitant de modèles organisés et d’une transparence accrue. À l’heure où les entreprises naviguent dans le domaine de l’IA, il est essentiel de procéder avec prudence, en explorant les solutions et en privilégiant une IA digne de confiance.