Je trouvais autrefois le culte de la Singularité amusant, mais aujourd’hui, il me fait peur.
HOBOKEN, 25 OCTOBRE 2025. En 2008, j’étais le sceptique de service au « Sommet de la Singularité » à San José, au cœur de la Silicon Valley. Cette sorte de conclave sectaire célébrait la Singularité, l’explosion (supposément imminente) de l’intelligence homme-machine.
J’y ai débattu avec Ray Kurzweil, inventeur devenu prophète de la Singularité, devant des centaines de vrais croyants. Kurzweil projetait des diapositives montrant les progrès accélérés des ordinateurs et autres technologies, lesquels rendaient la Singularité inévitable (supposément).
J’ai rappelé au public qu’il existait des domaines où la science ne progresse pas. Nous avons fait peu ou pas de progrès contre le cancer et la schizophrénie, et nous ignorons toujours comment les cerveaux produisent des esprits. Alors, n’allons pas supposer que nous allons bientôt nous métamorphoser en cyborgs superintelligents.
J’ai confié que je m’étais déjà transformé en ordinateur cosmique quasi divin lors d’un trip sous drogue, et que ce n’était pas génial — alors, méfiez-vous de ce que vous souhaitez. Ça a fait rire.
Oui, il y a 17 ans, je traitais la Singularité comme une blague, un culte inoffensif pour geeks. Les « Singularitariens » sont trop intelligents pour adorer Dieu, alors ils adorent la technologie, qui les aidera à transcender leur enveloppe mortelle et à vivre éternellement (supposément).
Je prends désormais la Singularité au sérieux, pour deux raisons : ChatGPT et Trump. Laissez-moi préciser :
ChatGPT m’a pris par surprise. Oui, il y a du battage, des hallucinations, blablabla, la bulle de l’IA éclatera sûrement, comme la bulle Internet du début des années 2000. Mais, comme Internet, ces nouvelles IA bavardes ne disparaîtront pas : elles transforment déjà notre culture.
Certains des hommes les plus riches et les plus puissants du monde — Altman de ChatGPT, Musk, Bezos, Andreesen, Thiel — adhèrent désormais à une forme ou à une autre de la Singularité. Et ces milliardaires de la tech se sont rapprochés de Trump, qui a encouragé l’investissement dans l’IA et réduit sa régulation.
Il ne suffit plus de sourire avec condescendance devant le culte de la Singularité ; il faut l’examiner et le dénoncer. Adam Becker le fait brillamment dans More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity (Plus de tout pour toujours : Les maîtres de l’IA, les empires spatiaux et la croisade de la Silicon Valley pour contrôler le destin de l’humanité).
Becker, qui vient de donner une conférence Zoom à mon université, le Stevens Institute of Technology, est plus que qualifié pour critiquer la Singularité sur le plan technique. Il est docteur en astrophysique et auteur d’un excellent ouvrage sur le sens de la mécanique quantique, What Is Real?
Dans More Everything Forever, Becker examine la faisabilité et la désirabilité de la superintelligence, de l’immortalité et de la colonisation spatiale, les éléments clés de la Singularité. Il explore aussi les peurs, les désirs et les motivations des Singularitariens. Que veulent vraiment ces types ?
Becker m’a aidé à voir le culte de la Singularité comme une manifestation mutante du capitalisme dopé à la technologie, qui menace de détourner la civilisation. Comme les anciens barons voleurs, Altman et consorts convoitent l’argent et le pouvoir, mais ils veulent aussi plus de cerveau, plus de territoire, plus de vie. À quoi bon amasser des milliards si c’est pour vieillir et mourir comme le premier venu ?
Les Singularitariens abhorrent la « stagnation » ; ils recherchent non seulement la croissance, mais l’accélération. Dans sa conférence, Becker montre un extrait vidéo où le libraire devenu astronaute Jeff Bezos qualifie la « stagnation » de plus grand problème de l’humanité.
Si nous ne dépassons jamais la Terre, explique Bezos, « nous devrons limiter la population, limiter la consommation d’énergie par habitant. Ou bien nous pouvons résoudre ce problème en partant dans l’espace ». Plus de tout pour toujours, poupée !
Becker excelle à exposer les prétentions intellectuelles des Singularitariens. Il ridiculise le mouvement de « l’altruisme efficace » et sa déclinaison, le « longtermisme ». Ces idéologies privilégient le bien-être de milliards d’êtres humains hypothétiques qui pourraient vivre dans le futur, dispersés à travers la Voie lactée, plutôt que le nôtre, ici et maintenant.
L’altruisme efficace fournit une couverture intellectuelle aux Singularitariens. Ils peuvent dire : Nous ne sommes pas des mégalomanes cupides, nous sommes altruistes ! Nous voulons ce qu’il y a de mieux pour nos descendants cyborgs galactiques !
Dans un autre extrait montré par Becker, Sam Altman répond à une question sur le changement climatique : « Une fois que nous aurons une superintelligence vraiment puissante », dit Altman, « résoudre le changement climatique ne sera pas particulièrement difficile ».
Voici le problème avec la déclaration d’Altman : pour effectuer leurs calculs, les nouvelles IA exigent d’immenses fermes de serveurs, qui rejettent des polluants et engloutissent énergie et eau. L’IA aggrave donc le changement climatique et d’autres problèmes environnementaux.
L’IA remplace aussi les travailleurs humains dans de nombreux secteurs — y compris la technologie ! Elle facilite la surveillance et la manipulation des citoyens par les gouvernements et les entreprises. Elle a été militarisée en Ukraine et dans d’autres zones de guerre, et les courses aux armements IA troublent les relations entre les États-Unis, la Chine et d’autres nations.
En résumé : l’IA endommage l’environnement, amplifie les inégalités, sape la démocratie et rend la Troisième Guerre mondiale plus probable. Et quelle est la solution d’Altman à ces problèmes ? Davantage d’IA ! Les machines superintelligentes vont nous sauver ! Supposément !
Je ne suis pas opposé aux spéculations futuristes. Freeman Dyson, dans Infinite in All Directions, et David Deutsch, dans The Beginning of Infinity, présentent des visions intrigantes des potentialités humaines. Mais ces physiciens libres d’esprit se contentent de dire : Imaginez ceci…
C’est très différent des milliardaires exigeant que nous prenions leurs fantasmes de science-fiction au sérieux et que nous les soutenions avec nos impôts. D’autant que la poursuite de ces fantasmes, censés bénéficier à des extraterrestres humanoïdes dans un million d’années (supposément), met en péril ceux d’entre nous qui vivent sur Terre aujourd’hui.
Certains Singularitariens ont des enfants. Musk en a au moins quatorze. S’en fout-il de ses gosses ?
Dans un article publié en 2008 dans IEEE Spectrum, j’écrivais : « Les ingénieurs et les scientifiques devraient nous aider à affronter les problèmes du monde et à y trouver des solutions, plutôt que de se complaire dans des fantasmes pseudoscientifiques et escapistes, comme la Singularité ».
Je maintiens cette déclaration. ChatGPT montre ce que des algorithmes de plagiat automatisé peuvent accomplir lorsqu’ils sont reliés à d’immenses bases de données. Impressionnant ! Mais il n’y a eu aucune percée contre le cancer et les maladies mentales depuis ma participation au Sommet de la Singularité en 2008. Le problème corps-esprit reste non résolu. Les limites de la science sont toujours aussi évidentes.
Ray Kurzweil, aujourd’hui âgé de 77 ans, continue d’affirmer que la science est sur le point de vaincre la mort et de nous rendre « surhumains ». Le désir d’immortalité de Kurzweil serait poignant, voire touchant, si lui et ses compagnons Singularitariens n’étaient pas aussi arrogants, influents et politiquement connectés.
Le culte de la Singularité pose implicitement la vieille question : à quoi sert la vie ? Sous le vernis de science-fiction étincelant de la Singularité se cache la plus primitive des réponses : la vie est un combat, et le but est d’être un gagnant, pas un perdant.
C’est la vision des seigneurs de guerre, des capitalistes prédateurs, de Trump. J’ignore pourquoi nous sommes ici, mais sûrement pas pour mener une guerre dopée à l’IA jusqu’à notre anéantissement.
Texte original publié le 25 octobre 2025 : https://johnhorgan.org/cross-check/the-singularity-cult