Alan Turing, souvent considéré comme le père de l'informatique moderne, a jeté les bases du discours contemporain sur la singularité technologique. Dans son article clé de 1950, « Computing Machinery and Intelligence », il introduit l'idée qu'une machine pourrait présenter un comportement intelligent équivalent ou indiscernable de celui d'un être humain. Au cœur de ce concept se trouve le célèbre test de Turing, qui suggère que si une machine peut converser avec un humain sans que ce dernier ne se rende compte qu'il interagit avec une machine, elle peut être considérée comme « intelligente ». Ce concept a inspiré de nombreuses recherches approfondies sur les capacités de l'IA, nous rapprochant potentiellement de la réalité d'une singularité.

Stanislaw Ulam, connu pour ses travaux en mathématiques et sur les réactions thermonucléaires, a également contribué de manière significative aux technologies informatiques qui sous-tendent les discussions sur la singularité technologique. Bien que ses travaux ne soient pas directement liés à l'IA, ses recherches sur les automates cellulaires et les systèmes itératifs fournissent des informations essentielles sur les systèmes complexes capables de s'améliorer eux-mêmes, qui sont au cœur des théories sur la singularité. Sa collaboration avec John von Neumann sur les automates cellulaires, des systèmes informatiques abstraits et discrets capables de simuler divers comportements complexes, est fondamentale dans le domaine de la vie artificielle et alimente les discussions actuelles sur la capacité des machines à reproduire et à surpasser de manière autonome l'intelligence humaine.

Le concept de singularité technologique a considérablement évolué au fil des années, ses racines remontant au milieu du XXe siècle. John von Neumann est crédité de l'une des premières mentions de la singularité, en spéculant sur une « singularité » où le progrès technologique deviendrait si rapide et complexe qu'il entraînerait une transformation que l'humanité serait incapable d'anticiper ou de comprendre pleinement.

Cette idée a été popularisée par des personnalités comme Ray Kurzweil, qui a établi un lien entre la singularité et l'accélération du progrès technologique, en citant souvent la loi de Moore comme exemple. La loi de Moore observe que le nombre de transistors sur une puce électronique double environ tous les deux ans, tandis que le coût des ordinateurs est divisé par deux, ce qui suggère une croissance rapide de la puissance de calcul susceptible de conduire au développement d'une intelligence artificielle surpassant l'intelligence humaine.

L'hypothèse sous-jacente à l'argument selon lequel la singularité se produira, si elle est possible, repose sur l'évolution technologique, qui est généralement irréversible et tend à s'accélérer. Cette perspective est influencée par un paradigme évolutionniste plus large, qui suggère que, lorsqu'une nouvelle capacité puissante apparaît, comme la cognition chez l'humain, elle finit par être utilisée à son plein potentiel.

M. Kurzweil prédit qu'une fois qu'une IA sera capable de s'améliorer, cette croissance deviendra exponentielle. Une autre voix importante dans ce débat est celle de Vernor Vinge, professeur de mathématiques à la retraite, informaticien et auteur de science-fiction, qui a suggéré que la création d'une intelligence surhumaine représenterait une sorte de « singularité » dans l'histoire de la planète, marquant un point au-delà duquel les affaires humaines, telles qu'elles sont comprises actuellement, pourraient continuer de manière radicalement différente. M. Vinge a déclaré que si l'IA avancée ne rencontrait pas d'obstacles insurmontables, elle mènerait inévitablement à une singularité.

Les discussions sur la singularité se concentrent souvent sur l'idée qu'aucune loi physique ne semble empêcher le développement de systèmes informatiques capables de dépasser les capacités humaines dans tous les domaines d'intérêt. Cela inclut l'amélioration des capacités propres de l'IA, ce qui comprendrait probablement sa capacité à perfectionner encore davantage sa conception, voire à concevoir des formes d'intelligence entièrement nouvelles.

Roman Yampolskiy a mis en lumière les risques potentiels associés à la singularité, notamment la difficulté de contrôler ou de prédire les actions des IA superintelligentes. Ces entités pourraient non seulement fonctionner à des vitesses défiant la compréhension humaine, mais également prendre des décisions qui ne seraient pas alignées sur les valeurs humaines ou la sécurité.

La date à laquelle nous atteindrons la singularité technologique est un sujet de débat intense parmi les experts, avec des prévisions qui varient considérablement en fonction des hypothèses et des modèles de croissance technologique adoptés. Ray Kurzweil, l'un des partisans les plus fervents de la singularité, a prédit qu'elle était imminente et se produirait d'ici 2045. Sa prédiction repose sur des tendances telles que la loi de Moore et l'accélération des avancées technologiques dans des domaines comme l'informatique, l'IA et la biotechnologie.

D'autres experts se montrent plus sceptiques ou proposent des échéances différentes. Certains suggèrent que l'IA continuera de progresser, mais que la complexité et les défis imprévus pour atteindre la superintelligence pourraient retarder la singularité au-delà de ce siècle, si tant est qu'elle se réalise. Les défis technologiques, éthiques et réglementaires pourraient tous contribuer à ralentir le rythme du développement de l'IA.

De plus, des spécialistes comme Roman Yampolskiy avertissent qu'il est extrêmement difficile de prévoir une chronologie précise, en raison de la nature sans précédent de la singularité elle-même. Les développements qui mènent à la singularité impliquent de nombreuses variables, y compris des percées dans les algorithmes d'IA, les capacités matérielles et des facteurs sociétaux, qu'il est difficile d'anticiper avec précision.

Eamonn Healy, professeur à la St. Edward's University, a participé à des discussions sur l'évolution technologique, notamment dans le film Waking Life, où il réfléchit à des concepts proches de la singularité technologique et de l'évolution télescopique. Ce concept repose sur l'idée d'une accélération des taux d'évolution, en particulier dans le contexte de la technologie et des capacités humaines. Healy estime que l'évolution, en particulier à travers le prisme du progrès technologique et intellectuel, s'accélère à un rythme toujours plus rapide, compressant ce qui prenait autrefois des millénaires en siècles, voire en périodes encore plus courtes.

Les réflexions de Healy portent généralement sur l'accélération des avancées technologiques et leurs implications potentielles pour l'humanité, s'alignant sur les théories plus larges de la singularité, qui suggèrent des changements rapides et transformateurs dans la société en raison des progrès de l'IA et des technologies. Ce concept fait écho aux idées de futurologues tels que Ray Kurzweil, qui prédisent que ces changements pourraient se produire vers le milieu du XXIe siècle.

L'intelligence artificielle et son pendant plus avancé, l'intelligence artificielle générale (AGI), jouent un rôle essentiel dans la trajectoire menant à la singularité technologique. L'IA, qui désigne des systèmes conçus pour accomplir des tâches spécifiques avec des capacités imitant l'intelligence humaine, et l'AGI, dont l'objectif est d'égaler voire de dépasser les capacités cognitives humaines dans une large gamme de tâches, contribuent à l'accélération de la croissance technologique qui pourrait conduire à la singularité.

Les technologies de l'IA, telles que l'apprentissage profond et les réseaux neuronaux, ont démontré des capacités remarquables dans des domaines comme la reconnaissance des formes, la prise de décision et la résolution de problèmes dans des contextes bien définis. Ces technologies évoluent rapidement, réduisant le temps nécessaire aux systèmes d'IA pour apprendre et s'adapter. Cette amélioration progressive des capacités de l'IA nous rapproche du développement de l'AGI, qui aurait la capacité de comprendre, d'apprendre et d'appliquer des connaissances de manière autonome et intelligente, à l'image d'un être humain.

La théorie de la singularité postule que l'émergence de l'AGI pourrait aboutir à un scénario où ces systèmes seraient capables de s'auto-améliorer. Cette amélioration récursive pourrait déclencher une explosion d'intelligence, donnant naissance à la première machine ultra-intelligente, une machine dont le rendement intellectuel dépasserait largement les capacités humaines. Une telle explosion pourrait entraîner des changements imprévisibles dans la technologie, la société et même l'identité humaine, car les machines commenceraient à développer des technologies avancées que les humains ne pourraient pas concevoir seuls.

De plus, le potentiel d'innovation et d'optimisation autonomes de l'AGI pourrait mener au déploiement rapide de nouvelles technologies dans divers secteurs, créant ainsi un cycle de progrès technologique continu sans intervention humaine. Ce cycle pourrait considérablement raccourcir le temps entre les étapes technologiques majeures, transformant fondamentalement les dynamiques économiques, sociales et culturelles à l'échelle mondiale.

Plusieurs technologies actuelles agissent comme des précurseurs de la singularité technologique, chacune représentant des avancées dans des domaines clés pour le développement d'une IA superintelligente.

Voici quelques technologies clés :

• Réseaux neuronaux artificiels et apprentissage profond : ces technologies constituent l'épine dorsale de la recherche et du développement actuels en matière d'IA. Elles imitent, dans une certaine mesure, la structure et le fonctionnement du cerveau humain et ont permis des avancées significatives dans le domaine du machine learning. Les réseaux neuronaux sont particulièrement importants pour des tâches telles que la reconnaissance vocale, la reconnaissance d'images et la navigation autonome des véhicules.
• Informatique quantique : bien qu'encore à ses débuts, l'informatique quantique promet d'accroître de manière exponentielle la puissance et l'efficacité des ordinateurs dans un avenir proche, ce qui pourrait accélérer les capacités de l'IA au-delà des limites actuelles. Cette technologie pourrait permettre des percées dans la résolution, par l'IA, de problèmes complexes beaucoup plus rapidement que les ordinateurs traditionnels.
• Traitement automatique du langage naturel (NLP) : les avancées en NLP, illustrées par des technologies telles que les modèles ChatGPT (Generative Pre-trained Transformer), sont cruciales pour développer une IA capable de comprendre et de générer des textes proches du langage humain. Cette capacité est essentielle pour permettre à l'IA d'accomplir des tâches plus complexes qui nécessitent de comprendre le contexte et les nuances du langage.
• Robotique et automatisation : les innovations dans le domaine de la robotique permettent aux machines d'exécuter des tâches qui requièrent une dextérité et des capacités de prise de décision autrefois considérées comme exclusivement humaines. Ces progrès permettent non seulement d'automatiser des tâches physiques, mais aussi d'intégrer l'IA afin de créer des systèmes de plus en plus autonomes.
• Cloud computing et big data : la production massive de données et la capacité à les stocker et à les traiter dans le cloud sont essentielles pour former des systèmes d'IA plus puissants. L'analyse des big data et l'infrastructure cloud qui la prend en charge permettent de construire les modèles complexes de machine learning nécessaires au développement avancé de l'IA.
• Biotechnologie et interfaces cerveau-ordinateur (BCI) : les avancées dans la compréhension du cerveau humain et l'imitation de ses fonctions sont essentielles pour créer une IA qui pourrait potentiellement penser et apprendre comme un être humain. De plus, les interfaces cerveau-ordinateur, qui connectent directement les cerveaux humains aux ordinateurs, représentent une étape vers la fusion de l'intelligence biologique et de l'intelligence artificielle, un concept souvent évoqué dans les scénarios de singularité.

Les nanotechnologies, science de l'ingénierie des matériaux et des dispositifs à l'échelle des atomes et des molécules, sont sur le point de devenir une pierre angulaire de l'évolution vers la singularité technologique. Ce domaine offre la possibilité d'améliorer considérablement diverses technologies, allant de la médecine à l'électronique, en passant par les systèmes énergétiques et la biotechnologie, en créant des matériaux et des mécanismes aux propriétés et capacités radicalement améliorées.

À la base, les nanotechnologies impliquent la construction de dispositifs et de matériaux à partir d'atomes et de molécules individuels. Ce niveau de contrôle précis peut permettre la création de machines et de systèmes extrêmement efficaces, surpassant la technologie conventionnelle dans presque tous les domaines. Par exemple, les nanomatériaux peuvent être plus résistants, plus légers, plus réactifs, plus durables et de meilleurs conducteurs électriques que leurs équivalents à l'échelle macro.

Les nanotechnologies pourraient révolutionner la robotique et le matériel d'intelligence artificielle. Les nano-robots, ou nanobots, qui fonctionneraient à l'échelle microscopique, pourraient accomplir des tâches aujourd'hui impossibles, telles que cibler précisément des cellules cancéreuses pour un traitement ou réparer des cellules individuelles, prolongeant ainsi la santé et la longévité humaines. Ces capacités seraient vitales dans un scénario de singularité, où des humains améliorés et des machines avancées pourraient coexister et coopérer.

De plus, le potentiel des nanotechnologies à créer des systèmes autoréplicatifs est particulièrement pertinent dans les discussions sur la singularité. Si les nanorobots étaient conçus pour se reproduire de manière autonome, cela pourrait entraîner une croissance exponentielle des capacités de fabrication et des avancées technologiques rapides.

Au-delà des nanotechnologies, le domaine plus large de la science des matériaux pourrait jouer un rôle crucial dans l'évolution vers la singularité. Les innovations en matière de matériaux capables de changer de propriétés à la demande ou de conduire l'électricité avec une perte minimale pourraient révolutionner la manière dont les machines fonctionnent et interagissent avec leur environnement. Des matériaux tels que le graphène et les métamatériaux pourraient permettre la création de dispositifs entièrement nouveaux, contribuant à l'accélération des capacités technologiques.

Avec l'augmentation des besoins en puissance de l'IA et d'autres technologies, les progrès en matière de stockage et de production d'énergie seront essentiels. Des technologies de batteries améliorées, telles que les batteries à l'état solide ou les percées dans le domaine de la fusion nucléaire, pourraient fournir les grandes quantités d'énergie propre nécessaires pour alimenter les systèmes informatiques avancés et d'autres technologies habilitant la singularité.

Au-delà des interfaces cerveau-ordinateur, des biotechnologies avancées telles que l'édition de gènes (CRISPR), la biologie synthétique et la régénération d'organes pourraient prolonger l'espérance de vie humaine, modifier fondamentalement la santé humaine et potentiellement altérer les capacités humaines. Ces technologies pourraient également fusionner avec les avancées en IA pour créer des systèmes biohybrides, mêlant des éléments biologiques et mécaniques.

Des techniques comme l'impression 3D et la fabrication additive révolutionnent les processus de production. Ces technologies permettent un prototypage rapide ainsi que la création de structures complexes impossibles à réaliser avec des méthodes traditionnelles. Au fur et à mesure que ces technologies progressent, elles pourraient conduire à une plus grande autonomie dans les processus de fabrication, élément essentiel pour les systèmes autoréplicatifs souvent évoqués dans les scénarios de singularité.

L'expansion et l'amélioration des réseaux de communication mondiaux, y compris l'infrastructure internet de nouvelle génération, comme la 6G et au-delà, pourraient faciliter le partage instantané d'informations et la coordination des systèmes d'IA à travers le monde. Cela pourrait accélérer la diffusion des innovations induites par l'IA et renforcer l'interconnexion des économies et des sociétés mondiales, créant ainsi un monde plus interdépendant, propice à la diffusion rapide des technologies liées à la singularité.

Bien que la notion de singularité technologique évoque un avenir de progrès et de transformations sans précédent, tous les experts ne partagent pas cet optimisme. De nombreux critiques soutiennent qu'il existe des obstacles majeurs, voire insurmontables, sur la voie de la singularité.

Certains affirment que les ordinateurs n'ont pas la capacité fondamentale de comprendre ou de reproduire l'intelligence humaine. Prenons par exemple l'argument de la chambre chinoise, une expérience de pensée qui imagine une personne enfermée dans une pièce avec un livre de règles géant, contenant des instructions pour manipuler des symboles chinois, ainsi qu'un panier rempli de ces symboles. Les personnes à l'extérieur de la pièce envoient des messages, et bien que la personne à l'intérieur ne comprenne pas ces messages, elle peut, à l'aide du livre de règles, trouver le symbole correspondant et renvoyer une réponse en se basant sur ces règles. La personne à l'extérieur de la pièce peut raisonnablement supposer que celle à l'intérieur comprend le chinois, alors qu'en réalité, ce n'est pas le cas.

D'autres philosophes contestent l'idée que les machines puissent réellement atteindre ou même s'approcher de l'intelligence humaine, car cette dernière n'est pas entièrement comprise. Certains pensent qu'il n'y a aucune raison valable de croire en l'avènement d'une singularité, en citant des exemples de prédictions futuristes échouées, comme les jetpacks personnels et les voitures volantes du passé. Bien que les prédictions passées ne se soient pas toujours réalisées, les avancées technologiques peuvent être surprenantes et imprévisibles. Toutefois, les sceptiques affirment que la simple puissance de calcul ne suffit pas à résoudre tous les problèmes et qu'elle ne contrecarre pas les propriétés apparemment magiques de l'IA avancée.

Une autre théorie évoque le « paradoxe technologique », un obstacle potentiel où l'automatisation des emplois de routine pourrait entraîner un chômage de masse et une récession économique, freinant les investissements technologiques nécessaires pour atteindre la singularité. Les sceptiques observent également une baisse du taux d'innovation technologique, ce qui contredit la croissance exponentielle attendue dans les scénarios de singularité. Ils soulignent que des problèmes, tels que la dissipation thermique dans les puces informatiques, ralentissent les progrès, remettant en question la possibilité d'augmenter constamment les vitesses de calcul.

Le problème de la chaleur est exacerbé par la tendance à intégrer un nombre croissant de transistors dans des espaces de plus en plus réduits, conformément à la loi de Moore. Cette densité accrue génère davantage de chaleur dans un espace confiné, ce qui se traduit par une température plus élevée. Des températures élevées peuvent dégrader les performances d'un processeur, réduire sa durée de vie et provoquer des pannes s'il n'est pas correctement géré.

Un autre obstacle majeur à la singularité technologique est l'immense consommation d'énergie requise pour former les technologies avancées d'IA. La formation de grands modèles de langage, tels que ceux qui sont à la base du développement de l'AGI, demande des quantités considérables d'énergie électrique, équivalentes à la consommation annuelle de centaines de foyers. À mesure que la complexité et la taille de ces modèles augmentent, leur empreinte énergétique s'accroît également, ce qui pourrait rendre la quête d'une IA plus avancée prohibitive et insoutenable sur le plan environnemental.

Ce défi énergétique ajoute une dimension importante de complexité à la réalisation de la singularité, car il impose la nécessité de trouver un équilibre entre les avancées technologiques et l'utilisation durable de l'énergie. Sans percées dans le domaine de l'efficacité énergétique ou une adoption à grande échelle des sources d'énergie renouvelables, les besoins énergétiques liés à l'entraînement et au fonctionnement de l'IA avancée pourraient freiner les progrès vers la singularité.