Je trouvais autrefois le culte de la Singularit\u00e9 amusant, mais aujourd\u2019hui, il me fait peur.<\/b><\/i><\/p>\n
HOBOKEN, 25\u00a0OCTOBRE 2025.<\/strong> En 2008, j\u2019\u00e9tais le sceptique de service au \u00ab Sommet de la Singularit\u00e9 \u00bb \u00e0 San Jos\u00e9, au c\u0153ur de la Silicon Valley. Cette sorte de conclave sectaire c\u00e9l\u00e9brait la Singularit\u00e9, l\u2019explosion (suppos\u00e9ment imminente) de l\u2019intelligence homme-machine.<\/p>\n J\u2019y ai d\u00e9battu avec Ray Kurzweil<\/a>, inventeur devenu proph\u00e8te de la Singularit\u00e9, devant des centaines de vrais croyants. Kurzweil projetait des diapositives montrant les progr\u00e8s acc\u00e9l\u00e9r\u00e9s des ordinateurs et autres technologies, lesquels rendaient la Singularit\u00e9 in\u00e9vitable (suppos\u00e9ment).<\/p>\n J\u2019ai rappel\u00e9 au public qu\u2019il existait des domaines o\u00f9 la science ne<\/i> progresse pas. Nous avons fait peu ou pas de progr\u00e8s contre le cancer et la schizophr\u00e9nie, et nous ignorons toujours comment les cerveaux produisent des esprits. Alors, n\u2019allons pas supposer que nous allons bient\u00f4t nous m\u00e9tamorphoser en cyborgs superintelligents.<\/p>\n J\u2019ai confi\u00e9 que je m\u2019\u00e9tais d\u00e9j\u00e0 transform\u00e9 en ordinateur cosmique quasi divin<\/a> lors d\u2019un trip sous drogue, et que ce n\u2019\u00e9tait pas g\u00e9nial \u2014 alors, m\u00e9fiez-vous de ce que vous souhaitez. \u00c7a a fait rire.<\/p>\n Oui, il y a 17\u00a0ans, je traitais la Singularit\u00e9 comme une blague, un culte inoffensif pour geeks. Les \u00ab Singularitariens \u00bb sont trop intelligents pour adorer Dieu, alors ils adorent la technologie, qui les aidera \u00e0 transcender leur enveloppe mortelle et \u00e0 vivre \u00e9ternellement (suppos\u00e9ment).<\/p>\n Je prends d\u00e9sormais la Singularit\u00e9 au s\u00e9rieux, pour deux raisons\u00a0: ChatGPT et Trump. Laissez-moi pr\u00e9ciser\u00a0:<\/p>\n ChatGPT m\u2019a pris par surprise. Oui, il y a du battage, des hallucinations, blablabla<\/a>, la bulle de l\u2019IA \u00e9clatera s\u00fbrement, comme la bulle Internet du d\u00e9but des ann\u00e9es\u00a02000. Mais, comme Internet, ces nouvelles IA bavardes ne dispara\u00eetront pas\u00a0: elles transforment d\u00e9j\u00e0 notre culture.<\/p>\n Certains des hommes les plus riches et les plus puissants du monde \u2014 Altman de ChatGPT, Musk, Bezos, Andreesen, Thiel \u2014 adh\u00e8rent d\u00e9sormais \u00e0 une forme ou \u00e0 une autre de la Singularit\u00e9. Et ces milliardaires de la tech se sont rapproch\u00e9s de Trump, qui a encourag\u00e9 l\u2019investissement<\/a> dans l\u2019IA et r\u00e9duit sa r\u00e9gulation<\/a>.<\/p>\n Il ne suffit plus de sourire avec condescendance devant le culte de la Singularit\u00e9 ; il faut l\u2019examiner et le d\u00e9noncer. Adam Becker le fait brillamment dans More Everything Forever: AI Overlords, Space Empires, and Silicon Valley\u2019s Crusade to Control the Fate of Humanity <\/em>(<\/em>Plus <\/em>de <\/em>tout pour toujours\u00a0: Les ma\u00eetres de l\u2019<\/em>I<\/em>A, les empires spatiaux et la croisade de la Silicon Valley pour contr\u00f4ler le destin de l\u2019humanit\u00e9<\/em>)<\/em>.<\/em><\/p>\n Becker, qui vient de donner une conf\u00e9rence Zoom<\/a> \u00e0 mon universit\u00e9, le Stevens Institute of Technology, est plus que qualifi\u00e9 pour critiquer la Singularit\u00e9 sur le plan technique. Il est docteur en astrophysique et auteur d\u2019un excellent ouvrage sur le sens de la m\u00e9canique quantique, What Is Real?<\/em><\/p>\n Dans More Everything Forever<\/em>, Becker examine la faisabilit\u00e9 et la d\u00e9sirabilit\u00e9 de la superintelligence, de l\u2019immortalit\u00e9 et de la colonisation spatiale, les \u00e9l\u00e9ments cl\u00e9s de la Singularit\u00e9. Il explore aussi les peurs, les d\u00e9sirs et les motivations des Singularitariens. Que veulent vraiment ces types ?<\/p>\n Becker m\u2019a aid\u00e9 \u00e0 voir le culte de la Singularit\u00e9 comme une manifestation mutante du capitalisme dop\u00e9 \u00e0 la technologie, qui menace de d\u00e9tourner la civilisation. Comme les anciens barons voleurs, Altman et consorts convoitent l\u2019argent et le pouvoir, mais ils veulent aussi plus de cerveau, plus de territoire, plus de vie. \u00c0 quoi bon amasser des milliards si c\u2019est pour vieillir et mourir comme le premier venu ?<\/p>\n Les Singularitariens abhorrent la \u00ab stagnation \u00bb ; ils recherchent non seulement la croissance, mais l\u2019acc\u00e9l\u00e9ration<\/i>. Dans sa conf\u00e9rence, Becker montre un extrait vid\u00e9o o\u00f9 le libraire devenu astronaute Jeff Bezos qualifie la \u00ab stagnation \u00bb de plus grand probl\u00e8me de l\u2019humanit\u00e9.<\/p>\n Si nous ne d\u00e9passons jamais la Terre, explique Bezos, \u00ab nous devrons limiter la population, limiter la consommation d\u2019\u00e9nergie par habitant. Ou bien nous pouvons r\u00e9soudre ce probl\u00e8me en partant dans l\u2019espace \u00bb. Plus <\/em>de <\/em>tout pour toujours<\/em>, poup\u00e9e !<\/p>\n Becker excelle \u00e0 exposer les pr\u00e9tentions intellectuelles des Singularitariens. Il ridiculise le mouvement de \u00ab l\u2019altruisme efficace \u00bb et sa d\u00e9clinaison, le \u00ab longtermisme \u00bb. Ces id\u00e9ologies privil\u00e9gient le bien-\u00eatre de milliards d\u2019\u00eatres humains hypoth\u00e9tiques qui pourraient<\/i> vivre dans le futur, dispers\u00e9s \u00e0 travers la Voie lact\u00e9e, plut\u00f4t que le n\u00f4tre, ici et maintenant.<\/p>\n L\u2019altruisme efficace fournit une couverture intellectuelle aux Singularitariens. Ils peuvent dire\u00a0: Nous ne sommes pas des m\u00e9galomanes cupides, nous sommes altruistes ! Nous voulons ce qu\u2019il y a de mieux pour nos descendants cyborgs galactiques !<\/i><\/p>\n Dans un autre extrait montr\u00e9 par Becker, Sam Altman r\u00e9pond \u00e0 une question sur le changement climatique\u00a0: \u00ab Une fois que nous aurons une superintelligence vraiment puissante\u00a0\u00bb, dit Altman, \u00ab\u00a0r\u00e9soudre le changement climatique ne sera pas particuli\u00e8rement difficile \u00bb.<\/p>\n Voici le probl\u00e8me avec la d\u00e9claration d\u2019Altman\u00a0: pour effectuer leurs calculs, les nouvelles IA exigent d\u2019immenses fermes de serveurs, qui rejettent des polluants et engloutissent \u00e9nergie et eau<\/a>. L\u2019IA aggrave<\/i> donc le changement climatique et d\u2019autres probl\u00e8mes environnementaux.<\/p>\n L\u2019IA remplace aussi les travailleurs humains dans de nombreux secteurs \u2014 y compris la technologie<\/a> ! Elle facilite la surveillance et la manipulation des citoyens<\/a> par les gouvernements et les entreprises. Elle a \u00e9t\u00e9 militaris\u00e9e en Ukraine et dans d\u2019autres zones de guerre<\/a>, et les courses aux armements IA<\/a> troublent les relations entre les \u00c9tats-Unis, la Chine et d\u2019autres nations.<\/p>\n En r\u00e9sum\u00e9\u00a0: l\u2019IA endommage l\u2019environnement, amplifie les in\u00e9galit\u00e9s, sape la d\u00e9mocratie et rend la Troisi\u00e8me Guerre mondiale plus probable. Et quelle est la solution d\u2019Altman \u00e0 ces probl\u00e8mes ? Davantage d\u2019IA ! Les machines superintelligentes vont nous sauver ! Suppos\u00e9ment !<\/p>\n Je ne suis pas oppos\u00e9 aux sp\u00e9culations futuristes. Freeman Dyson, dans Infinite in All Directions<\/a><\/em>, et David Deutsch, dans The Beginning of Infinity<\/a><\/em>, pr\u00e9sentent des visions intrigantes des potentialit\u00e9s humaines. Mais ces physiciens libres d\u2019esprit se contentent de dire\u00a0: Imaginez ceci\u2026<\/i><\/p>\n C\u2019est tr\u00e8s diff\u00e9rent des milliardaires exigeant que nous prenions leurs fantasmes de science-fiction au s\u00e9rieux et que nous les soutenions avec nos imp\u00f4ts<\/a>. D\u2019autant que la poursuite de ces fantasmes, cens\u00e9s b\u00e9n\u00e9ficier \u00e0 des extraterrestres humano\u00efdes dans un million d\u2019ann\u00e9es (suppos\u00e9ment), met en p\u00e9ril ceux d\u2019entre nous qui vivent sur Terre aujourd\u2019hui.<\/p>\n Certains Singularitariens ont des enfants. Musk en a au moins quatorze<\/a>. S\u2019en fout-il de ses gosses ?<\/p>\n Dans un article publi\u00e9 en 2008 dans IEEE Spectrum<\/em><\/a>, j\u2019\u00e9crivais\u00a0: \u00ab Les ing\u00e9nieurs et les scientifiques devraient nous aider \u00e0 affronter les probl\u00e8mes du monde et \u00e0 y trouver des solutions, plut\u00f4t que de se complaire dans des fantasmes pseudoscientifiques et escapistes, comme la Singularit\u00e9 \u00bb.<\/p>\n Je maintiens cette d\u00e9claration. ChatGPT montre ce que des algorithmes de plagiat automatis\u00e9 peuvent accomplir lorsqu\u2019ils sont reli\u00e9s \u00e0 d\u2019immenses bases de donn\u00e9es. Impressionnant<\/a> ! Mais il n\u2019y a eu aucune perc\u00e9e contre le cancer<\/a> et les maladies mentales<\/a> depuis ma participation au Sommet de la Singularit\u00e9 en 2008. Le probl\u00e8me corps-esprit reste non r\u00e9solu<\/a>. Les limites de la science sont toujours aussi \u00e9videntes<\/a>.<\/p>\n Ray Kurzweil, aujourd\u2019hui \u00e2g\u00e9 de 77\u00a0ans, continue d\u2019affirmer que la science est sur le point de vaincre la mort<\/a> et de nous rendre \u00ab surhumains \u00bb. Le d\u00e9sir d\u2019immortalit\u00e9 de Kurzweil serait poignant, voire touchant, si lui et ses compagnons Singularitariens n\u2019\u00e9taient pas aussi arrogants, influents et politiquement connect\u00e9s.<\/p>\n Le culte de la Singularit\u00e9 pose implicitement la vieille question\u00a0: \u00e0 quoi sert la vie ? Sous le vernis de science-fiction \u00e9tincelant de la Singularit\u00e9 se cache la plus primitive des r\u00e9ponses\u00a0: la vie est un combat, et le but est d\u2019\u00eatre un gagnant<\/i>, pas un perdant.<\/p>\n C\u2019est la vision des seigneurs de guerre, des capitalistes pr\u00e9dateurs, de Trump. J\u2019ignore pourquoi nous sommes ici<\/a>, mais s\u00fbrement pas pour mener une guerre dop\u00e9e \u00e0 l\u2019IA jusqu\u2019\u00e0 notre an\u00e9antissement.<\/p>\n