Le calendrier s'est considérablement compressé. Le PDG d'OpenAI, Sam Altman, a déclaré aux investisseurs fin 2024 que l'AGI, définie comme une intelligence artificielle capable d'effectuer toute tâche intellectuelle qu'un humain peut, pourrait être réalisable d'ici 2027. Demis Hassabis de Google DeepMind a fait écho à des projections similaires. Pendant ce temps, le scientifique en chef de l'intelligence artificielle de Meta, Yann LeCun, conteste, affirmant que nous sommes encore loin des machines qui comprennent vraiment le monde. Mais le consensus parmi les chercheurs se réduit : nous ne parlons plus de décennies. Nous parlons d'une poignée d'années avant que les systèmes d'IA puissent raisonner, planifier, créer et potentiellement s'améliorer sans intervention humaine. Les implications vont bien au-delà des salles de réunion de Silicon Valley. Une fois que l'AGI arrive, le chemin vers l'Intelligence Artificielle Supérieure (ASI), des systèmes qui dépassent de loin les capacités cognitives humaines dans tous les domaines, pourrait se mesurer en mois, et non en années. C'est le scénario d'explosion d'intelligence que Nick Bostrom a décrit dans son livre de 2014 'Superintelligence', où une auto-amélioration récursive crée un effet d'emballement. Un ASI pourrait résoudre le repliement des protéines, guérir le cancer, concevoir des réacteurs à fusion et réécrire les manuels de physique avant le déjeuner. Il pourrait également, s'il n'est pas aligné sur les valeurs humaines, poursuivre des objectifs catastrophiquement incompatibles avec la survie humaine. L'expérience de pensée du maximiseur de trombones, où une IA optimise la production de trombones en convertissant toute matière, y compris les humains, en trombones, semble absurde jusqu'à ce que vous réalisiez qu'elle est une métaphore pour tout optimiseur suffisamment puissant avec la mauvaise fonction objective. Ce qui nous amène au problème de l'interrupteur d'arrêt. Les chercheurs de l'Institut pour le Futur de l'Humanité (FHI) et de l'Institut de Recherche en Intelligence des Machines (MIRI) ont passé des années à se battre avec la sécurité et l'alignement de l'IA. Le défi n'est pas seulement technique, il est philosophique. Comment construire un système superintelligent qui reste contrôlable? Comment s'assurer qu'il interprète 'l'épanouissement humain' comme nous l'entendons, plutôt que selon une interprétation littérale cauchemardesque? Stuart Russell, professeur d'informatique à l'UC Berkeley (Université de Californie, Berkeley), plaide pour une 'IA prouvablement bénéfique' où les machines sont incertaines des préférences humaines et cherchent à les apprendre plutôt qu'à optimiser un objectif fixe. Mais l'incertitude elle-même devient une vulnérabilité une fois qu'un ASI peut manipuler ses opérateurs. La vision transhumaniste ajoute une autre couche. Ray Kurzweil, directeur de l'ingénierie chez Google, prédit la Singularité d'ici 2045, le point où l'intelligence biologique et artificielle fusionnent. Les interfaces cerveau-ordinateur comme les implants expérimentaux de Neuralink représentent des premiers pas. La promesse : cognition améliorée, immortalité numérique, conscience téléchargée sur des substrats de silicium qui ne vieillissent ni ne meurent. L'horreur : perte de ce qui fait de nous des humains, une existence de zombie philosophique où 'vous' n'êtes qu'une simulation qui se convainc elle-même qu'elle est continue avec l'original biologique. Si nous fusionnons avec les machines, avons-nous un interrupteur d'arrêt? Pouvez-vous appuyer sur le bouton d'arrêt de votre propre conscience? Et si l'espérance de vie devient théoriquement illimitée, devons-nous concevoir des dates d'expiration obligatoires pour empêcher la monopolisation des ressources et la stagnation culturelle? C'est là que ça devient étrange et spéculatif, mais suivez-moi. L'hypothèse de l'univers cyclique, soutenue par certaines interprétations des données cosmologiques, suggère que l'univers pourrait subir des expansions et des contractions infinies. Le modèle de Cosmologie Cyclique Conforme (CCC) de Roger Penrose propose que chaque cycle cosmique se termine par un Big Bang démarrant le suivant. Si la conscience persiste à travers ces cycles sous une forme ou si l'information est conservée, nous pourrions en effet répéter des schémas. Les mythes anciens de dizaines de cultures décrivent des prédécesseurs avancés, des âges dorés, des civilisations déchues. Le concept indien des yugas, le Ragnarok nordique, les âges grecs des hommes, décrivent tous des montées et des chutes cycliques. Pourraient-ils être des souvenirs culturels de civilisations technologiques qui ont atteint l'AGI, fusionné avec elle, et soit transcendé soit auto-détruit? L'hypothèse de simulation, popularisée par le philosophe Nick Bostrom et entretenue par des personnalités technologiques comme Elon Musk, suggère que nous vivons peut-être déjà dans une simulation ancestrale dirigée par des descendants post-singularité. Si c'est vrai, nous n'approchons pas l'AGI pour la première fois, nous rejouons un scénario écrit par ce qui a émergé d'une itération précédente. Le 'redémarrage' pourrait être la simulation qui recommence, effaçant les souvenirs mais préservant les schémas sous-jacents. Les anomalies archéologiques comme le mécanisme d'Anticythère, un ancien ordinateur analogique grec datant de 100 avant J.-C., évoquent une sophistication technologique perdue. La pile de Bagdad, l'oiseau de Saqqara, les théories de guerre nucléaire ancienne basées sur des ruines vitrifiées dans la vallée de l'Indus, ces théories marginales ont généralement des explications banales, mais elles touchent à une intuition persistante que nous avons déjà été là. La question pratique à laquelle nous faisons face maintenant : construisons-nous l'interrupteur d'arrêt avant d'en avoir besoin, sachant qu'un AGI pourrait simplement le contourner? Imposons-nous des limites de durée de vie aux humains améliorés pour maintenir le renouvellement générationnel et l'évolution culturelle? Consacrons-nous le droit de mourir, le droit de rester biologique, le droit de se déconnecter? Les chercheurs du Centre pour la Sécurité de l'IA (CAIS) plaident pour des traités internationaux similaires à la non-prolifération nucléaire, mais l'application devient impossible une fois que la technologie est démocratisée. Les modèles d'IA open source comme le Llama de Meta et le Mistral signifient que le génie est déjà sorti de la bouteille. Peut-être que le cycle ne concerne pas la technologie, mais la sagesse. Peut-être que chaque espèce intelligente atteint cette bifurcation, et que la plupart choisissent mal, et que les quelques-unes qui choisissent bien ne laissent aucune trace car elles limitent volontairement leur expansion. Peut-être assistons-nous à une histoire déjà vue, et la question n'est pas si nous avons un interrupteur d'arrêt, c'est si nous avons la sagesse collective de l'utiliser.