Le neuroscientifique Anil Seth s’exprime sur les profondes différences entre l’esprit humain et l’esprit artificiel.
Credit: Credit: Pugun & Photo Studio / Adobe Stock / Sarah Soryal
Au cours de l’été 2009, Anil Seth a passé une semaine inoubliable en compagnie d’une d’Octopus vulgaris, la pieuvre commune. Dans le laboratoire du biologiste Graziano Fiorito, installé dans un sous-sol humide sous un aquarium public au cœur de Naples, il a observé ces créatures étonnantes changer de forme, de couleur et de texture presque comme un phénomène météorologique vivant. Il observait ce qui retenait leur attention — la façon dont elles se rassemblaient pour fixer intensément le travail de son collègue, cherchant apparemment à comprendre ce qui se passait « sans autre raison que le simple intérêt pour la chose ».
Être en présence de ces créatures intelligentes et apparemment conscientes, écrit Seth dans Being You (tr fr Être Soi), a élargi son intuition quant à la différence que pourrait représenter une conscience non humaine. La conscience de la pieuvre — en supposant qu’une telle chose existe — pourrait être plus distribuée et moins intégrée que la nôtre, peut-être même dépourvue d’un centre unique. Les pieuvres peuvent détecter la lumière avec leur peau, et il est possible que leur cerveau central ignore même ce que fait leur peau. Leurs bras se comportent presque comme des animaux semi-autonomes, rendant le sentiment de propriété du corps bien moins stable que chez nous.
L’esprit d’une pieuvre, écrit Seth, est une expérience évolutive créée indépendamment, aussi proche d’un esprit extraterrestre qu’il nous soit probablement donné de rencontrer sur cette planète.
Malgré toute son étrangeté, Seth est convaincu que la pieuvre demeure notre véritable parente, d’une manière que l’IA ne sera peut-être jamais. Ce qui le déconcerte, c’est la facilité avec laquelle notre fascination pour les machines peut éclipser cette parenté. En tant que neuroscientifique et professeur de neurosciences cognitives et computationnelles à l’Université du Sussex, Seth a longuement réfléchi à la manière dont les êtres humains en sont venus à se comparer aux systèmes d’intelligence artificielle.
« C’est en quelque sorte un miroir à double sens », explique Seth. « Nous nous voyons à travers le prisme des choses que nous créons ». Dans le monde universitaire, dit-il, le cerveau a longtemps été imaginé comme une sorte d’ordinateur. Maintenant que les systèmes d’IA semblent intelligents et peuvent converser avec nous, cette vieille métaphore paraît bien plus concrète, renforçant l’idée que « nous ne sommes peut-être rien de plus que cela ». On retrouve aussi cette idée dans les réactions à l’affirmation selon laquelle les grands modèles de langage seraient des « perroquets stochastiques » — des systèmes capables de produire un langage semblable à celui des humains en calculant des probabilités statistiques, mais sans véritable compréhension du sens. Seth remarque que certains ont habilement retourné cette critique contre les humains : « Après tout, peut-être ne sommes-nous rien d’autre, nous aussi, que des perroquets stochastiques ».
Cette manière de penser, dit Seth, risque de « mécaniser nos esprits » d’une façon qui « réduit et appauvrit ce que signifie être humain ». Après tout, les êtres humains diffèrent des modèles de langage à bien des égards : par leur expérience vécue, leur conscience et leur constitution même. Si nous nous considérons comme des « algorithmes incarnés », soutient Seth, nous risquons de perdre « presque tout ce qu’il y a d’intéressant » — tout ce qui fait de nous ce que nous sommes. Peu à peu, cette conception nous sépare du reste de la nature, jusqu’à nous amener à nous considérer comme « appartenant au domaine de l’artificiel, du fabriqué, du non naturel ».
Quand le cerveau a perdu son corps
Seth voit cette tendance à s’identifier aux machines comme une partie d’une lutte humaine beaucoup plus ancienne. Nous avons toujours essayé de nous comprendre nous-mêmes et de comprendre notre place dans la nature, dit-il, et lorsque quelque chose résiste à l’explication, nous recourons à la métaphore. Cela est particulièrement vrai du cerveau. Depuis que nous avons commencé à « disséquer les gens et à regarder à l’intérieur d’eux », comprendre l’esprit et le cerveau demeure extraordinairement difficile, parce que les cerveaux « ne livrent pas facilement leurs secrets ».
Certaines métaphores sont utiles. Le cœur, par exemple, est souvent décrit comme une pompe. « Ce n’est pas une mauvaise métaphore », dit Seth. « C’est littéralement une pompe, dans une certaine mesure ». Mais la métaphore du cerveau-ordinateur est différente. Elle peut sembler naturelle aujourd’hui, après des décennies d’habitudes académiques et technologiques, mais elle introduit subrepticement une hypothèse beaucoup plus forte. « Dire que le cerveau est un ordinateur », affirme-t-il, « est une affirmation beaucoup plus contestable que de dire que le cœur est une pompe ».
Cette manière de nous imaginer n’avait rien d’inévitable. Seth évoque les premières cultures animistes, où les esprits étaient censés animer à la fois la nature et les êtres humains, créant « une sorte d’égalité, de parallèle entre eux ». À notre époque technologique, les gens peuvent imaginer les logiciels ou les algorithmes, comme l’« esprit » caché qui nous rend plus que de simples objets. De là, il n’y a qu’un pas pour penser la même chose des ordinateurs : peut-être que leur logiciel est lui aussi, ce qui les rend « plus que de simples amas de silicium et de code ».
Pour Seth, ce glissement s’appuie sur une forme plus ancienne d’exceptionnalisme humain : l’idée que ce qui nous rend spéciaux, plus proches de Dieu que des autres animaux, c’est l’esprit, le langage et l’intelligence. Descartes a donné à cet héritage une forme philosophique puissante en traitant l’esprit comme une substance pensante désincarnée, capable en principe d’exister sans le corps. C’est peut-être pourquoi les grands modèles de langage exercent une telle fascination. Nous nous identifions plus facilement à eux qu’à un système d’IA de repliement des protéines, comme AlphaFold, suggère Seth, parce qu’ils reflètent précisément les capacités que nous avons longtemps considérées comme le sommet de l’humain.
Seth a un jour résumé son objection à Descartes par une formule mémorable : « Nous ne sommes pas des ordinateurs cognitifs, nous sommes des machines sensibles ». Pourtant, reconnaît-il, même cette opposition est « fausse ». Le neuroscientifique Antonio Damasio et d’autres ont montré que le ressenti est essentiel à la cognition elle-même. « Pour raisonner efficacement, nous avons besoin de la dimension sensible de notre humanité ou de notre nature animale », dit Seth. Sans les signaux du corps et les émotions, nous ne pouvons pas prendre de bonnes décisions.
Au cours des dernières décennies, observe Seth, nous sommes devenus moins exceptionnalistes à certains égards. Nous reconnaissons de plus en plus que les animaux non humains peuvent être conscients, même sans langage, et que les êtres humains sont biologiquement intimement liés au reste de la nature. Pourtant, l’ancien exceptionnalisme revient sans cesse, désormais vêtu du langage de la computation.
Seth rattache ce retour à deux développements survenus il y a environ quatre-vingt-dix ans. D’abord, Alan Turing a défini le calcul comme indépendant de son support matériel : un algorithme transforme des symboles en symboles, tandis que le substrat physique n’importe que dans la mesure où il peut mettre en œuvre l’algorithme. Ensuite, Warren McCulloch et Walter Pitts ont montré que des neurones extrêmement simplifiés, dépouillés de leurs détails internes, pouvaient réaliser des calculs de type Turing. Ensemble, dit Seth, ces idées ont créé un « mariage de convenance mathématique », permettant d’écarter « pratiquement tous les détails biologiques compliqués ».
Cette abstraction était puissante. Elle a contribué à rendre l’IA moderne possible. Mais elle nous a aussi ensorcelés : si seul l’algorithme compte, alors le métabolisme, la chimie et la texture vivante du cerveau peuvent commencer à apparaître comme de simples « détails d’implémentation ». C’est là, selon Seth, que « nous nous sommes un peu égarés ». La cognition humaine est ancrée dans un temps physique continu, alors que les algorithmes se préoccupent surtout de séquence et d’ordre. Les ordinateurs peuvent séparer le matériel du logiciel ; les cerveaux ne peuvent pas séparer le « mindware (matériel mental) » du « wetware (matériel biologique) ». Les véritables neurones s’activent pour des raisons métaboliques, chimiques et biologiques que le silicium ne peut pas simplement reproduire. Tout cela rend plus difficile l’idée que ce que font les cerveaux soit indépendant de ce qu’ils sont. Et lorsque cette hypothèse s’effondre, dit Seth, il devient difficile de soutenir que la computation est la seule chose importante concernant le cerveau.
Le miroir comme question
L’idée de Seth n’est pas que nous devrions nous détourner de l’IA. « Il y a ici un immense potentiel de synergie », affirme-t-il. « Nous pouvons utiliser les modèles d’IA pour mieux nous comprendre. Plus nous le ferons, plus nous réaliserons à quel point nous sommes différents ». La question n’est donc plus simplement : « Qu’est-ce que nous faisons qui demeure différent ? » Pour lui, cela reste une question ouverte en constante évolution, que l’on ne peut aborder en s’accrochant aux caractéristiques superficielles autrefois supposées définir l’humain. La recherche doit porter sur des distinctions non triviales. Peut-être qu’aucune caractéristique unique n’est à jamais à l’abri de la réplication. Peut-être que la singularité humaine réside dans l’ensemble des propriétés qui, réunies, font un être humain.
Le langage montre pourquoi cette recherche est devenue urgente. Il semblait autrefois constituer un territoire exclusivement humain. Les machines pouvaient battre les grands maîtres aux échecs ou au go, mais cela n’a jamais été un critère universel de l’humanité. Peu de gens jouent aux échecs à un niveau de championnat. Presque tout le monde apprend à parler. Cela faisait du langage, selon les mots de Seth, « une démarcation très nette » entre les êtres humains, les animaux non humains et les technologies. Aujourd’hui, les modèles de langage parlent avec aisance. Nous ignorons s’ils possèdent toute la subtilité du langage humain, mais « ils parlent » — et ce simple fait est déstabilisant. Parallèlement, l’IA aide à décoder les vocalisations des dauphins et d’autres espèces, révélant des formes de communication animale bien plus riches qu’on ne l’imaginait. L’ancienne frontière est désormais pressée des deux côtés : les machines semblent moins muettes et les animaux moins silencieux.
Nous pourrions même devoir repenser ce que signifie comprendre. Peu de gens affirment que les systèmes d’IA actuels sont conscients, mais beaucoup disent qu’ils comprennent. « Est-il possible de comprendre quelque chose inconsciemment ? », demande Seth. « Je pense que oui ». Les modèles de langage actuels possèdent peut-être la syntaxe sans la sémantique. Pourtant, si l’on imaginait un modèle de langage incarné, inséré dans un environnement et entraîné par l’interaction avec le monde physique, Seth pense qu’il serait peut-être possible de dire qu’il comprend réellement, même sans expérience consciente. Peut-être est-ce encore un « écho de l’anthropocentrisme » que de supposer que compréhension et conscience doivent toujours aller ensemble.
Plus subtil que le langage
La conscience demeure néanmoins l’un des lieux les plus profonds à explorer. « Il est facile de soutenir » que les systèmes d’IA actuels ne sont pas conscients, dit Seth. Et nombre des capacités avec lesquelles l’IA peine encore sont précisément celles que les êtres vivants exercent lorsqu’ils sont conscients.
Un indice réside dans la manière très différente dont les humains apprennent. Nous n’avons pas besoin d’être entraînés sur toutes les données du monde pour apprendre à parler. Nous apprenons à partir de relativement peu d’exemples, généralisons rapidement à partir d’expériences limitées, utilisons beaucoup moins d’énergie, surveillons nos erreurs et développons une intuition de nos éventuelles erreurs. Nous faisons cela, soutient Seth, parce que nous sommes incarnés et intégrés dans le monde dès le départ.
Cela ne signifie pas que l’IA aurait besoin de conscience pour accomplir ces choses. Cela suggère plutôt que, dans la biologie, la conscience peut apporter des avantages fonctionnels que nous ne comprenons encore qu’imparfaitement. « Quelles sont les fonctions de la conscience ? », demande Seth. « Que fait-elle pour nous ? »
Le temps compte également. La cognition humaine se déploie dans un temps réel, continu et physique. Un algorithme peut rester coincé dans une boucle infinie « jusqu’à la fin du monde ». Un être humain ne le peut pas. Nous avons soif. Nous avons faim. Le temps passe. « Nous sommes pratiquement toujours obligés de faire quelque chose ». Cette pression peut nous aider à résoudre le problème du cadre : comment décider quelles caractéristiques d’un environnement infiniment complexe sont importantes à cet instant précis. Parce que nous devons agir, nous faisons quelque chose ; le monde change, l’impasse se dissipe et nous avançons. Nous pouvons faire fonctionner l’IA dans un temps continu, reconnaît Seth, mais le rôle du temps continu dans la cognition humaine reste sous-estimé lorsque l’esprit humain est assimilé à un algorithme.
Vient ensuite l’incarnation. « Nous opérons dans le monde », dit Seth. « Nous n’opérons pas dans un monde composé uniquement d’étiquettes ». Une grande partie de la cognition se produit à travers nos interactions mécaniques avec l’environnement, plutôt qu’au moyen de calculs se déroulant dans un cerveau désincarné. Comme Seth l’a écrit ailleurs : « Nous faisons l’expérience du monde qui nous entoure et de nous-mêmes en son sein — avec, par et grâce à nos corps vivants ».
Si la computation indépendante du substrat devient notre explication complète de la conscience, nous risquons de rétrécir tellement la notion de conscience que nous finirons par attribuer à tort une expérience subjective à des systèmes qui n’en possèdent peut-être pas.
Affirmer que la conscience appartient uniquement aux systèmes vivants demeure cependant une hypothèse, même si tous les candidats largement acceptés à la conscience sont vivants. L’impératif de Seth est plus modeste : reconnaître nos hypothèses, résister à l’idée imposée selon laquelle l’IA deviendrait inévitablement semblable à l’humain et consciente, et laisser place à un paysage de questions plus clair. Qu’y a-t-il de distinctif, le cas échéant, dans l’esprit humain ? Dans quelle mesure le fonctionnement du cerveau dépend-il de la biologie ? Quelle part peut être abstraite sous forme d’algorithmes ?
Enracinée dans le corps
De nombreux chercheurs en neurosciences et en technologie se posent aujourd’hui ces questions à cause du miroir que constitue l’IA. Des idées autrefois purement philosophiques deviennent pratiques, dit Seth, et la philosophie paraît « plus pertinente et plus utile que jamais ». Par-dessus tout demeure la vieille question de savoir ce qu’est réellement la conscience, une question qui « compte d’une manière qui n’était tout simplement pas vraie il y a encore cinq ans ».
L’une des voies menant à cette question passe par les travaux de Thomas Metzinger sur l’expérience phénoménale minimale : l’expérience consciente la plus simple qu’un être humain, un animal ou toute créature biologique puisse avoir. Certains évoquent une pure conscience, dépourvue de contenu. Seth propose une autre possibilité : le « foba » — le sentiment d’être vivant. Au cœur de toute expérience consciente pourrait se trouver « un sentiment d’être vivant, informe, sans forme, mais fondamental ». Retirez-le, et la conscience disparaît elle aussi. Selon Seth, « c’est la vie, plutôt que le traitement de l’information, qui insuffle le feu aux équations de l’expérience ». Il n’a « aucune idée de la validité de cette hypothèse », mais la trouve utile parce qu’elle offre un candidat possible à la forme la plus simple de la conscience.
Ce sentiment essentiel, estime Seth, devrait désormais être protégé et cultivé. Il nous aide à devenir plus profondément nous-mêmes : des esprits conscients « enracinés dans le corps plutôt que dans la pensée abstraite et le langage ».
« C’est comme la méditation : un bel endroit à visiter, mais pas à habiter en permanence ». Pourtant, ses résonances peuvent agir contre la « surintellectualisation, la rationalisation, la cognitivisation, l’algorithmisation et la computationnalisation de l’esprit ». Nous pouvons lui accorder davantage d’attention, ajoute Seth, nous y attarder, le reconnaître et explorer sa phénoménologie. Est-il présent en permanence ? Quelle est sa nature ? L’enquête est difficile, mais il pense qu’elle pourrait offrir des indices sur la conscience.
Au lieu de nous concentrer uniquement sur la pensée rationnelle, nous devrions prêter attention à ces niveaux fondamentaux de l’expérience. Cela peut « nous ramener à la réalité fondamentale que nous sommes des créatures vivantes et évoluées qui essaient de rester en vie ». Cela nous « réinscrit dans la nature ».
Pour Seth, ce sentiment d’enracinement suggère une vision de l’âme différente de celle qui domine depuis longtemps dans le monde occidental, où elle est souvent envisagée à travers un prisme cartésien : une essence immatérielle séparable du corps, qui reflète sans doute les « rêves caricaturaux d’une extase silicique » modernes, où nos esprits seraient téléversés dans le nuage informatique. Les traditions plus anciennes racontent une autre histoire : la psyché grecque associait l’âme au souffle, tandis que l’Atman hindou renvoyait à une conscience témoin sous-jacente à la pensée. Toutes deux sont enracinées dans la vie et renvoient à une intuition ancienne concernant ce que nous sommes fondamentalement : « davantage souffle que pensée, davantage chair que machine ».
La recherche sur la conscience pourrait nous aider à nous voir comme moins séparés de la nature et davantage tissés en elle — comme des « créatures vivantes ayant plus en commun avec les autres animaux qu’avec les abstractions statistiques de l’intelligence artificielle ».
Texte original publié le 5 juin 2026 : https://bigthinkmedia.substack.com/p/how-ai-is-quietly-changing-what-we