Le laboratoire de superintelligence de Meta transforme la spécification en ingénierie

Meta investit des milliards dans un nouveau laboratoire de recherche pour développer une IA qui, selon elle, pourrait rivaliser ou dépasser les capacités humaines dans toutes les disciplines, en s’appuyant sur un centre de données à l’échelle de Manhattan et sur une campagne de recrutement mondiale de meilleurs scientifiques.

La superintelligence, autrefois principalement discutée dans les milieux universitaires, fait désormais partie de la stratégie d’entreprise. Les investissements de Meta dans les infrastructures, le financement et les équipes de recherche suggèrent qu’elle aborde cette forme avancée d’IA comme un objectif concret, à l’instar des initiatives en cours dans des entreprises telles qu’OpenAI et Anthropic.

La superintelligence désigne une IA qui surpasse les humains dans tous les domaines, de la créativité scientifique à la compréhension émotionnelle. Kunal Sawarkar, ingénieur distingué et data scientist en chef chez IBM, a déclaré à Think dans une interview que la superintelligence serait « plus intelligente que les humains dans tous les domaines, pas seulement la mémoire ou les mathématiques, mais aussi le raisonnement, la créativité, l’intelligence émotionnelle et même la manipulation sociale. » C'est ce niveau de capacité que Meta et d'autres géants de la technologie s'efforcent aujourd'hui d'atteindre en investissant des ressources dans des programmes de recherche visant à transformer ce qui était autrefois de la science-fiction en réalité technique.

L’infrastructure d’IA prévue par Meta pour renforcer les efforts de superintelligence comprend des centres de données « supercluster » de plusieurs gigawatts, dont l’un couvrira une zone comparable à la majeure partie de Manhattan. Ces installations, dont les noms de code sont Prometheus et Hyperion, sont conçues pour permettre l'entraînement de modèles à grande échelle.

Le recrutement pour cette initiative a attiré les meilleurs talents de Google DeepMind, OpenAI et d'autres instituts de recherche. Meta a également fait appel à Alexandr Wang, fondateur de Scale AI, pour diriger une partie de l’effort. L'entreprise offrirait des rémunérations substantielles, dépassant dans certains cas 100 millions de dollars en valeur totale, pour s'attacher les services de chercheurs expérimentés en IA.

Le PDG Mark Zuckerberg a décrit cet objectif comme la construction d’une « superintelligence personnelle », une IA intégrée à des appareils, tels que les lunettes intelligentes, capable de gérer l’information, d’anticiper les besoins et d’aider à atteindre ses objectifs personnels et professionnels.

Selon M. Sawarkar, il sera beaucoup plus difficile et coûteux de parvenir à la superintelligence que les progrès réalisés par les systèmes d'IA actuels. Les modèles actuels tels que ChatGPT, Claude et Gemini ont fait des progrès notables dans la génération de textes, d'images et de codes. Il note pourtant que l'arrivée d'une véritable superintelligence n'est peut-être pas le résultat d'une seule avancée, mais d'une série de développements, tels que des modèles résolvant des problèmes considérés auparavant comme insolubles ou la production de nouveaux cadres des exigences, des jalons qui exigeront d'énormes Ressources techniques, financières et organisationnelles, comme Meta essaie aujourd'hui de mobiliser.

« Pour atteindre ce niveau, des avancées significatives sont nécessaires en termes d'efficacité informatique, d'algorithmes d'apprentissage et d'utilisation durable de l'énergie », a déclaré M. Sawarkar. La formation des plus grands modèles coûte déjà des millions de dollars par exécution, et le maintien de ce niveau de développement nécessite une optimisation minutieuse du matériel et des logiciels. Les chercheurs explorent des architectures hybrides combinant de grands modèles de langage (LLM) avec le raisonnement symbolique et la génération augmentée de récupération, visant des systèmes capables de gérer de manière fiable des tâches de raisonnement plus complexes.

« La mémoire à long terme et la rétention du contexte sont également des défis majeurs », a déclaré M. Sawarkar. Les modèles actuels fonctionnent sur des entrées session par session et n’ont pas de visibilité persistante au fil du temps. Les chercheurs étudient les modules de mémoire et les systèmes d’apprentissage continu pour s'adresser à cette limitation.

L'investissement de Meta la place dans un petit groupe de sociétés poursuivant des objectifs tout aussi ambitieux. OpenAI a annoncé son programme « Safe SuperIntelligence », décrit comme une voie dédiée à la construction de systèmes plus puissants avec des mesures de sécurité intégrées dès le départ.

Roman Yampolskiy, professeur associé d’informatique et d’ingénierie à l’Université de Louisville et étudiant la sécurité de l’IA, considère l’adoption publique de la superintelligence par M. Zuckerberg comme un changement notable dans la rhétorique des secteurs. « Ce qui était autrefois considéré comme hypothétique est aujourd'hui normalisé par les dirigeants de la technologie traditionnelle », a-t-il déclaré à IBM Think lors d'un entretien.

Il estime que les grandes plateformes de technologie accélèrent déjà le progrès. « Avec suffisamment de capitaux, de données et de désalignement des incitations, la progression vers la superintelligence n'est pas une aspiration, elle est inévitable ». Des experts, dont M. Yampolskiy, ont averti que sans garde-fous, les systèmes super-intelligents pourraient devenir incontrôlables et causer des dommages à grande échelle. « La question n’est pas de savoir s’ils le peuvent, mais s’ils le devraient, et cette question n’est pas posée assez fort. »

Bien que le calendrier de réalisation de la superintelligence reste flou, M. Sawarkar reste optimiste quant à ses perspectives à long terme. « La superintelligence n'est pas de la science-fiction », a-t-il déclaré. « C’est une question de design. »