John Horgan
La fin de l’intuition

2025 Jan 19 Je vous laisse le soin d’établir le lien entre ce dessin et cette rubrique. J’aurais aimé inventer l’expression « La fin de l’intuition », mais je ne l’ai pas fait. C’est le mathématicien Steven Strogatz qui l’a inventée. Voici le contexte. Mon ami Richard Gaylord, un physicien, me conseille vivement de regarder un podcast dans […]

2025 Jan 19

Je vous laisse le soin d’établir le lien entre ce dessin et cette rubrique.

J’aurais aimé inventer l’expression « La fin de l’intuition », mais je ne l’ai pas fait. C’est le mathématicien Steven Strogatz qui l’a inventée. Voici le contexte.

Mon ami Richard Gaylord, un physicien, me conseille vivement de regarder un podcast dans lequel Strogatz, professeur de mathématiques à Cornell et auteur de livres à succès sur les mathématiques, s’entretient avec le physicien Nigel Goldenfeld sur les correspondances entre les mathématiques et la réalité.

J’aime cette conversation, car Goldenfeld et Strogatz ne s’attardent pas sur l’efficacité déraisonnable des mathématiques, comme les scientifiques ont l’habitude de le faire. Ils soulignent que les modèles mathématiques ne fonctionnent pas si bien dans des domaines tels que la biologie et les neurosciences ; et lorsque les modèles fonctionnent, nous ne savons souvent pas pourquoi ni comment ils correspondent à la réalité.

Je mentionne cette conversation entre Strogatz et Goldenfeld dans une chronique intitulée « Math, God and the Problem of Evil » (Les mathématiques, Dieu et le problème du mal). Puis, à ma grande joie, je me retrouve à avoir une conversation téléphonique avec Strogatz sur la science, les mathématiques et l’intelligence artificielle.

Strogatz est un personnage paradoxal. Il écrit avec une clarté exceptionnelle sur les mathématiques, aidant les non-mathématiciens à comprendre les intégrales, les séries infinies et d’autres sujets. Mais depuis des décennies, il met en garde contre le fait que les mathématiques, en particulier lorsqu’elles sont assistées par des machines, dépassent l’entendement humain.

Dans son essai de 2006 intitulé « The End of Insight » (La fin de l’intuition), Strogatz note que les démonstrations deviennent de plus en plus complexes et dépendent d’énormes calculs informatiques. En conséquence, « même lorsque nous parvenons à déterminer ce qui est vrai ou faux, nous sommes de moins en moins capables de comprendre pourquoi ».

« Si cela se produit en mathématiques », ajoute M. Strogatz, « qui sont censées être le summum du raisonnement humain, il est probable que cela se produise également en sciences, d’abord en physique, puis en biologie et en sciences sociales (où nous ne sommes même pas sûrs de ce qui est vrai, et encore moins pourquoi) ».

Dans une chronique de 2011 intitulée « Les robots vont-ils vous voler votre emploi ? », le journaliste technologique Farhad Manjoo cite la conjecture de Strogatz sur la « fin de l’intuition ». M. Strogatz explique à M. Manjoo que nous, les humains, « atteignons nos limites » dans les domaines qui nécessitent de grands calculs.

« Les gens parlent de centaines de milliards de choses en économie, dans le cerveau, dans les gènes », explique M. Strogatz. « C’est là que se situent les problèmes de frontière scientifique, et nous ne sommes tout simplement pas très doués pour réfléchir à ce genre de nombres ».

« Je pense que les machines nous dépasseront », ajoute Strogatz. « Cela va réellement arriver ». Rappelons que cela date encore d’une décennie avant que ChatGPT ne fasse parler tout le monde de la montée des machines.

Strogatz réitère sa prophétie dans le NY Times en 2018 dans un essai sur le programme d’apprentissage automatique de Google, AlphaZero, qui vient d’écraser le champion d’échecs informatique en titre. « Le plus troublant, c’est qu’AlphaZero semblait exprimer de l’intuition », explique Strogatz. « Il jouait comme aucun ordinateur ne l’a jamais fait, de manière intuitive et magnifique, avec un style romantique et offensif ».

Notant que les algorithmes d’apprentissage automatique surpassent les humains en matière de diagnostic médical et d’autres tâches complexes, Strogatz estime que les machines pourraient bientôt s’attaquer aux « grands problèmes non résolus de la science et de la médecine, tels que le cancer et la conscience, les énigmes du système immunitaire, les mystères du génome ».

Plutôt que de se contenter de nous donner des réponses, suggère Strogatz, les machines intelligentes pourraient être programmées pour nous expliquer leur raisonnement, afin que nous puissions les suivre et voir ce qu’elles voient. « Pour les mathématiciens et les scientifiques humains, ce jour marquerait l’aube d’une nouvelle ère d’intuition ».

Mais à terme, prédit Strogatz, les machines iront bien au-delà de notre entendement pour que nous puissions les suivre. « L’aube de la compréhension humaine pourrait rapidement se transformer en crépuscule ». Au fur et à mesure que les machines continueront à faire des découvertes, nous en serons réduits à être des « spectateurs, émerveillés et confus » devant les réalisations des machines.

Peut-être ne nous soucierons-nous pas de notre manque d’intuition, dit Strogatz, tant que les machines « guériront toutes nos maladies, résoudront tous nos problèmes scientifiques et feront en sorte que tous nos autres trains intellectuels roulent à l’heure ».

Oui, peut-être, mais ce scénario me rappelle le film d’animation de science-fiction Wall-E, dans lequel des robots font tout le travail pendant que des humains gros, paresseux et sans cervelle se prélassent sur des fauteuils inclinables.

Permettez-moi d’ajouter quelques points :

Je n’ai pas peur que les machines prennent le pouvoir, c’est de la science-fiction. J’ai peur que des entreprises et des États-nations puissants utilisent l’IA pour devenir encore plus puissants. Leur objectif premier est le pouvoir, et non la « compréhension ». N’oubliez pas que l’armée américaine est l’un des principaux bailleurs de fonds et consommateurs d’IA.

La science a toujours été plus une quête de pouvoir que de compréhension. La mécanique quantique n’a aucun sens, mais cela n’a pas empêché les chercheurs de fabriquer des gadgets quantiques, y compris, désormais, des ordinateurs quantiques, également financés par le Pentagone.

Les professeurs de physique disent aux étudiants qui apprennent la mécanique quantique : « Taisez-vous et calculez ! ». En d’autres termes, arrêtez de vous préoccuper de la signification de la théorie et apprenez comment elle fonctionne, afin de pouvoir construire des objets impressionnants.

Comme le souligne le philosophe Daniel Dennett, la plupart de nos activités consistent en une « compétence sans compréhension ». Nous apprécions notre compréhension consciente, nos intuitions, nos épiphanies, mais dans quelle mesure sommes-nous vraiment conscients ?

Le neuroscientifique Christof Koch propose que nous suivions le rythme des machines en nous faisant implanter des puces dans le cerveau. Je vous laisse imaginer les inconvénients de cette idée, mais gardez à l’esprit qu’Elon Musk — par l’intermédiaire de sa société Neuralink — est un promoteur et un investisseur enthousiaste des puces cérébrales. Et oui, le Pentagone s’intéresse depuis longtemps aux « interfaces cerveau-ordinateur ».

La fin de l’intuition est compatible avec ce que j’appelle la conservation de l’ignorance. Nous sommes sortis de l’oubli et nous y retournerons.

Permettez-moi de terminer sur une note légère. Il y a quelque chose de contradictoire à dire que nous atteignions la fin de l’intuition, car cela constitue en soi une intuition. N’est-ce pas ? Comme l’écrit le physicien et poète Piet Hein :

Savoir ce que

Tu ne sais pas

Est en quelque sorte

Omniscience.

Si vous savez que vous êtes dans la caverne, c’est un peu comme si vous vous en échappiez.

Pour en savoir plus :

J’ai exprimé mon inquiétude sur le fait que les mathématiques et la science dépassent nos limites cognitives dans mon article de 1993 intitulé « The Death of Proof » (La mort de la preuve) et dans mon livre de 1996 intitulé « The End of Science » (La fin de la science). Mon livre en ligne gratuit My Quantum Experiment s’attarde également sur ce thème, tout comme ces chroniques :

Should Machines Replace Mathematicians? (Les machines doivent-elles remplacer les mathématiciens ?)

Conservation of Ignorance: A New Law of Nature (La conservation de l’ignorance : Une nouvelle loi de la nature)

On God, Quantum Mechanics and My Agnostic Schtick (Dieu, la mécanique quantique et mon attitude agnostique)

Free Will and ChatGPT-Me (Libre arbitre et ChatGPT-Me)

Quantum Mechanics, the Chinese Room and the Limits of Understanding (Mécanique quantique, chambre chinoise et limites de la compréhension)

The Ironic Interpretation of Quantum Mechanics (L’interprétation ironique de la mécanique quantique)

Quantum Mechanics, Plato’s Cave and the Blind Piranha (Mécanique quantique, caverne de Platon et piranha aveugle)

The “Horgan Surface” and “The Death of Proof” (La « surface Horgan » et « La mort de la preuve »)

Texte original : https://johnhorgan.org/cross-check/the-end-of-insight