Superintelligence de l’IA : mythe ou réalité ?

Sam Altman, PDG d'OpenAI, a relancé l'un des débats préférés du monde de la technologie : l'avènement ou non d'une IA superintelligente. Dans un récent article de blog, il a écrit qu'un tel système, surpassant les capacités cognitives humaines, pourrait émerger dans « quelques milliers de jours », inaugurant ainsi une révolution dans le progrès mondial.

Les réflexions de Sam sur les systèmes d'intelligence artificielle très avancés ont suscité de nombreuses réactions de la part des chercheurs et des observateurs du secteur. Alors que la capacité de l'IA à surpasser les humains dans divers domaines devient un sujet sensible, la communauté technologique se pose une question importante : dans combien de temps ce changement pourrait-il se produire, et quelles pourraient en être les conséquences pour l'humanité ?

À la fois provocateur et spéculatif, le message de M. Altman sert de test de Rorschach pour les espoirs et les préoccupations de l'industrie concernant le développement de l'IA.

Si personne ne nie que l'IA se développe rapidement, certains observateurs estiment que nous sommes loin de la superintelligence.

« C'est totalement exagéré », a déclaré Brent Smolinski, vice-président et responsable mondial de la technologie et de la stratégie des données d'IBM. « Je ne pense pas que nous soyons même dans la bonne direction pour atteindre la superintelligence. »

Selon M. Smolinski, malgré des avancées impressionnantes dans certains domaines, l'IA manque encore d'éléments fondamentaux propres à l'intelligence humaine. « Il manque fondamentalement quelque chose qui nous permettra d’accéder à la superintelligence », explique-t-il.

L'un des principaux problèmes est l'écart d'efficacité entre l'apprentissage humain et le machine learning. M. Smolinski compare l'IA aux processus d'apprentissage humains : « Pour que ces grands modèles de langage apprennent à dialoguer, il est nécessaire de leur fournir l'intégralité du corpus Internet afin d'atteindre un niveau où l'interaction devient possible. Les êtres humains n'ont besoin que d'une infime partie. »

L'IA est également loin d'atteindre le niveau de polyvalence dont font preuve les humains lorsqu'ils acquièrent diverses compétences, qu'il s'agisse de langues ou de tâches physiques telles que jouer au golf ou conduire une voiture. Cette polyvalence représente une différence fondamentale entre l’intelligence humaine et les capacités actuelles de l’IA.

M. Smolinski décrit plusieurs éléments caractéristiques d'une véritable superintelligence : capacités de raisonnement inductif et déductif, créativité, représentation des connaissances à travers des modèles mentaux, apprentissage et adaptation en temps réel, et conscience.

Dans le domaine de l'IA, l'informatique quantique pourrait résoudre certaines contraintes informatiques, ce qui pourrait « repousser les limites de ce que l'IA est capable de faire », explique M. Smolinski. Cependant, l'impact de l'informatique quantique sur la réalisation d'une véritable superintelligence reste incertain.

Il a également souligné la nécessité d'une définition claire et concertée de la superintelligence. « Si vous réunissez six informaticiens dans une pièce et que vous leur demandez ce que signifie la superintelligence, vous obtiendrez douze réponses différentes », explique-t-il.

M. Altman n'est pas le seul à formuler des prédictions sur la superintelligence. Roman V. Yampolskiy, professeur d’informatique et d’ingénierie à l’Université de Louisville, a déclaré que l’intelligence artificielle générale, souvent décrite comme une informatique similaire à l’intelligence humaine, progresse rapidement   et que la superintelligence verra le jour d'ici trois à quatre ans »?

Il met en garde contre le fait qu'une fois que l'intelligence artificielle aura dépassé le niveau d'intelligence humaine, il pourrait devenir pratiquement impossible de garder le contrôle sur un tel système. Cette IA superintelligente pourrait fonctionner de manière fondamentalement imprévisible et dépasser notre capacité à la gérer ou à la contrôler. Ce manque de contrôle, combiné à la possibilité qu'un système superintelligent ne partage pas ou ne donne pas la priorité aux valeurs humaines, pourrait conduire à des scénarios qui menacent l'existence de l'humanité, selon le chercheur.

« En comparaison, toutes les préoccupations immédiates telles que les préjugés, le chômage, les deepfakes et la désinformation sont insignifiantes par rapport à [cet] impact négatif », affirme-t-il.

La conscience est un point particulièrement délicat dans les discussions sur la superintelligence : les machines superintelligentes devraient-elles être conscientes pour nous surpasser intellectuellement ? Selon M. Smolinski, une véritable superintelligence nécessiterait non seulement une puissance de calcul, mais aussi une certaine forme de conscience ou de conscience de soi, des caractéristiques qui font défaut aux systèmes d'IA actuels.

Les modèles d'IA actuels excellent dans la créativité combinatoire, en associant des idées existantes de manière novatrice. Cependant, ils ont besoin d'aide pour réaliser des avancées véritablement révolutionnaires. M. Smolinski émet l'hypothèse que ce type de créativité révolutionnaire pourrait être lié à la conscience d'une manière encore méconnue.

Par conséquent, il estime que les craintes exagérées concernant l'IA sont préoccupantes.

« Ce qui m'inquiète, c'est que cela alimente quelque peu cette attitude alarmiste, qui conduit à des réactions telles que : « Oh, nous devons réglementer l'IA » », explique M. Smolinski. Bien que la réglementation soit importante, elle pourrait protéger les acteurs établis tout en dressant des obstacles aux nouveaux entrants, ce qui pourrait entraver le progrès.

Il conclut en soulignant l'importance de conserver une perspective équilibrée sur le développement de l'IA : « L'IA est un outil puissant qui peut nous aider à résoudre des problèmes complexes. Cependant, nous devons aborder son développement de manière réfléchie, en comprenant clairement ses limites actuelles et ses possibilités futures. »