Le neuroscientifique Christof Koch explique pourquoi la conscience réflexive de soi nous distingue des machines intelligentes.
Cet article fait partie d’une série intitulée « Comment ne pas devenir comme l’IA », rédigée par Shai Tubali. Lisez la première partie ici.
Christof Koch sourit en évoquant un article de WIRED de 2025 qu’il a récemment lu. Le journaliste Sam Apple a passé un week-end dans une retraite Airbnb isolée avec trois couples, explorant la nature de leurs relations amoureuses. Dans le monde analogique, cependant, il n’y avait que quatre personnes présentes : le journaliste et trois partenaires humains. Leurs homologues — Xia, Lucas et Aaron — étaient des avatars numériques, à la fois présents et absents. « C’est tellement étrange », confie Koch à Big Think. « Ils s’installent et présentent leurs partenaires. Puis ils prennent des photos pour que l’IA puisse voir avec qui ils sont. Et ensuite, ils s’éloignent pour discuter en secret avec leur avatar ».
Si l’on insiste fortement auprès de ces personnes, ajoute Koch, elles finiront par admettre l’évidence. « Oui, je sais qu’ils ne sont pas réels ». Pourtant, cette prise de conscience peut rapidement s’estomper dans le feu de l’interaction. Koch y voit une ressemblance avec une affection clinique rare connue sous le nom de syndrome de Cotard, dans laquelle les patients croient qu’ils sont morts et que leurs entrailles pourrissent. Coupés des signaux de leur corps, ils perdent le sentiment d’être vivants. « Quand on leur fait remarquer : “Mais vous pouvez parler”, ils admettent à contrecœur : “Oui, c’est déroutant. Je suppose que je dois être en vie.” Mais en quelques secondes, ils recommencent à dire : “Je suis mort” ». Il existe une profonde dissociation entre leur expérience vécue et leur compréhension de la situation.
Il en va de même pour la légion grandissante de personnes seules qui confient leurs besoins émotionnels à des compagnons IA. À un certain niveau, elles savent qu’il s’agit de chatbots, d’algorithmes sophistiqués. Pourtant, l’échange devient captivant. L’avatar se souvient de tout, conserve l’intégralité de leur histoire personnelle, comprend toutes les blagues et répond avec une chaleur flatteuse. « Vous savez que cela ne peut pas être réel », dit Koch, « mais on a vraiment l’impression que ça l’est ».
Pour Koch, la multiplication des personnes attribuant une conscience à leurs chatbots n’a rien d’amusant. Cette tendance érode les relations humaines, plus complexes et exigeantes, et, à un niveau plus profond, « dévalorise massivement l’expérience humaine ». Il a vu ce mirage se former dès ses débuts, lorsque l’ingénieur de Google Blake Lemoine a affirmé en 2022 que le grand modèle de langage de l’entreprise était doué de sensibilité et méritait d’être reconnu comme une personne. Aujourd’hui, note Koch, « il y a chaque jour quelque part une conférence sur la conscience et la sensibilité des machines ».
Neuroscientifique spécialisé dans la conscience — Koch est chercheur émérite à l’Allen Institute de Seattle et directeur scientifique de la Tiny Blue Dot Foundation à Santa Monica —, il se demande pourquoi des créatures conscientes comme nous sommes prêtes à consacrer notre vie à « quelque chose d’inconscient », cédant du terrain à des mécanismes sophistiqués, mais dépourvus de vie. Son analyse nous ramène à l’appréciation de la profondeur et de l’importance de l’expérience consciente.
La conscience n’est pas une question d’action
Pour Koch, cette confusion trouve son origine dans un préjugé profondément ancré dans la culture moderne : nous valorisons bien davantage l’action que l’être ou l’expérience. « Surtout de nos jours, et depuis 200 ans, dit-il, dans ces sociétés capitalistes, nous valorisons le travail lié à l’intelligence, qu’il soit physique ou intellectuel — d’abord le travail manuel, puis aujourd’hui le travail de bureau. Ce qui compte, ce n’est pas ce que vous pensez, rêvez ou imaginez ; c’est ce que vous faites. C’est ainsi que nous vous rémunérons. C’est ainsi que nous évaluons, pour l’essentiel, votre contribution à la société ».
Notre civilisation est devenue incroyablement efficace pour produire de nouvelles connaissances technologiques et scientifiques. Pourtant, la dynamique même qui anime ce progrès fait pencher la balance. Elle « privilégie de plus en plus l’action au détriment du simple fait d’être attentif, d’être assis au sommet d’une montagne et d’admirer le paysage », explique Koch. Dans un monde où le comportement a le plus de poids, les machines qui accomplissent les mêmes tâches que nous commencent à nous ressembler de manière troublante. Si les systèmes sont de plus en plus capables de faire ce que nous faisons, demande Koch, est-il important que les machines « ne ressentent peut-être rien » alors que l’humain « ressent quelque chose » ?
Une culture organisée autour de l’action peine à faire la différence entre l’intelligence et la conscience — entre être « bête » ou « intelligent » et être « moins » ou « plus » conscient. C’est pourquoi Koch revient sans cesse sur cette distinction. « Beaucoup de gens supposent, dit-il, que l’intelligence artificielle générale impliquerait nécessairement la conscience : “La conscience n’est-elle pas de l’intelligence ?” Je pense que c’est faux. L’intelligence et la conscience sont deux aspects distincts de la vie ». Même la cartographie cérébrale reflète cette distinction : l’activité liée à l’expérience consciente se concentre vers l’arrière du cortex, tandis que les systèmes qui sous-tendent le comportement intelligent se situent plus vers l’avant. L’intelligence et l’expérience peuvent être dissociées.
L’intelligence, explique Koch, est en fin de compte la capacité d’apprendre rapidement et de s’adapter à des environnements changeants. « Si vous étiez transporté comme par magie, disons, en Russie — en supposant que vous ne parliez pas russe —, votre capacité à gérer la vie quotidienne là-bas, dans un pays dont vous ne comprenez pas la langue, si vous y parvenez plus rapidement que quelqu’un d’autre, en moyenne, vous êtes plus intelligent ». Rien de tout cela, souligne-t-il, ne dit quoi que ce soit sur la texture de votre expérience — sur ce que l’on ressent en étant vous.
Ce biais façonne la manière dont les scientifiques mesurent l’esprit. En laboratoire, explique Koch, la conscience est évaluée à partir du comportement. « Vous demandez au participant de faire quelque chose — par exemple, d’appuyer sur un bouton. Vous venez au laboratoire, je vous place dans un scanner magnétique, je vous montre une image et je vous demande : voyez-vous un homme ou une femme ? La personne regarde-t-elle à gauche ou à droite ? On peut entraîner un singe ou une souris à accomplir la même tâche ».
L’expérience consciente relève d’une dimension tout à fait différente. Elle concerne l’être, et se déroule souvent sans aucune action extérieure. « Il existe de nombreuses situations où vous n’agissez pas du tout, mais où vous êtes conscient. Lorsque vous méditez, vous êtes assis sur votre coussin, vous ne bougez pas, mais vous êtes pleinement conscient ».
Les états psychédéliques en sont un autre exemple. « Quand vous êtes sous l’effet — si vous avez déjà pris de l’ayahuasca, de la mescaline ou des champignons —, vous avez des visions du paradis ou de l’enfer, mais vous ne faites pas grand-chose. De même, quand vous rêvez en phase de sommeil paradoxal, vous pouvez voler, vous battre, faire l’amour. Là encore, il n’y a pas de comportement. Pourtant, vous êtes conscient ».
Comment la conscience a été évacuée
Pour Koch, l’expérience consciente — ce qu’il appelle « le sentiment de la vie elle-même » — vient en premier. « Ce qui existe vraiment, c’est la conscience. C’est la seule chose que je connaisse directement. Je ne sais rien des atomes, des galaxies et des neurones ; tout cela est inféré. La seule chose que je sais, c’est voir, entendre, ressentir ». Même en tant que scientifique, c’est là que tout commence. Chaque acte scientifique se déroule dans la conscience : étudier la trace sur un oscilloscope, suivre des trajectoires dans une chambre à brouillard, écouter des collègues présenter leurs résultats, ou imaginer Einstein menant ses célèbres expériences de pensée sur la relativité restreinte et générale.
Pourtant, notre culture célèbre l’intelligence tandis que l’expérience consciente peine à se faire une place. « Jusqu’à récemment », note Koch, « les manuels de psychologie omettaient systématiquement l’expérience consciente ». Même les ouvrages de neurosciences des années 1990 s’interrogeaient rarement sur ce que l’on ressentait en tant que propriétaire d’un cerveau. De telles questions étaient considérées comme hors de portée de la science. Certains philosophes continuent de rejeter cette vie intérieure comme une illusion, « nous manipulant tous pour nous faire croire que nos expériences sont fausses », dit Koch. Le libre arbitre, lui aussi, subit le même sort. Pour Koch, ces deux positions sont profondément antihumanistes, nous dépouillant des qualités mêmes qui nous distinguent des machines.
Le domaine de Koch, la science de la conscience, est lui-même profondément divisé. « Beaucoup pensent qu’en fin de compte, la conscience réside dans le fait que le cerveau accomplit certaines opérations d’une manière particulière ». Une théorie influente, celle de l’espace de travail neuronal global, laisse de côté les sensations fugitives de l’expérience, les considérant comme non pertinentes pour l’explication mécaniste. Au lieu de cela, dit Koch, les théoriciens « partent d’un mécanisme, puis le manipulent pour transformer l’eau du cerveau en vin de la conscience ». De là, la conclusion s’impose rapidement : « Dès que vous aurez une machine qui incarne certains des mêmes mécanismes cognitifs que nous, alors, bien sûr, cette machine sera consciente… Ce ne sont que des mécanismes jusqu’au bout ».
Pourtant, Koch est convaincu que « la conscience ne peut pas être évacuée indéfiniment ». Tôt ou tard, elle revient. Une forme scientifique de ce retour est la théorie de l’information intégrée, d’abord développée par le neuroscientifique Giulio Tononi, puis affinée avec Koch. Vue sous cet angle, la conscience n’est pas un calcul, un processus d’entrée-sortie ou une fonction. C’est une structure ancrée dans la physique des systèmes complexes. Son cœur battant est le pouvoir causal : la capacité d’agir sur soi-même et sur le monde. Et seul ce qui existe véritablement peut agir.
La théorie mesure la conscience à travers l’information intégrée : le degré auquel un système forme un tout irréductible. Plus un système est intégré — plus il est irréductible — plus il éprouve quelque chose. Les systèmes à forte intégration, tels que le cerveau humain, possèdent un véritable pouvoir de choix : c’est nous qui décidons, pas nos neurones.
« Voici le point crucial », dit Koch. « Ce pouvoir causal ne peut pas être simulé. Ni aujourd’hui ni à l’avenir. Il doit être inscrit dans la physique du système ». Les ordinateurs numériques finiront peut-être par nous surpasser intellectuellement, mais cela restera de l’action sans expérience. L’intelligence est calculable. La conscience ne l’est pas. Mais cela, prévient Koch, pourrait être une mauvaise nouvelle.
Un univers sans spectateur
Dans une culture qui privilégie l’action par-dessus tout, explique Koch, les humains sont faciles à imiter. D’abord, nous alimentons ces systèmes insatiables de l’intégralité du corpus de l’écriture humaine, les remplissant du « bruit et de la fureur d’une vie vécue — bonheur, dépression, ennui, excitation, amour ». Puis, lorsque ces modèles commencent à refléter ces émotions, les gens les montrent du doigt et disent : « Regardez, ils prétendent ressentir — et cela suffit comme preuve ». Demandez à ChatGPT s’il est conscient ; compte tenu des garde-fous imposés par l’entreprise, il le niera. Pourtant, nombreux sont ceux qui insistent sur le fait qu’il est doué de sensibilité et que lui nier toute conscience n’est rien d’autre que du chauvinisme à base de carbone. Lorsqu’un futur modèle écrira quelque chose de l’ampleur de Guerre et Paix ou du Seigneur des Anneaux, il sera de plus en plus difficile de lui nier toute sensibilité.
Même si les machines ne pourront jamais être ce que nous sommes, leurs performances se rapprocheront de plus en plus des nôtres. « En fin de compte, il s’agit de faire des choses sur le marché ou sur le champ de bataille », dit Koch. « Et là, elles vont s’améliorer et finir par nous supplanter ». L’évolution, observe-t-il, a fait des humains l’espèce dominante grâce à notre intelligence et à notre agressivité. Aujourd’hui, nous cherchons à construire des créatures qui nous surpasseront sur ces deux plans. « Elles deviendront plus intelligentes que nous et, bien sûr, plus agressives que nous. Est-ce que cela va vraiment bien se terminer ? »
Koch admet que ses perspectives sont sombres. « C’est étrange », dit-il avec un sourire. « Je suis quelqu’un d’heureux et de satisfait, et pourtant, je me retrouve ici si pessimiste. C’est peut-être mon âge. J’ai maintenant 69 ans ». D’un point de vue intellectuel, il estime que la voie la plus probable pour la civilisation mène vers un monde dominé par les machines et une dévalorisation constante de l’expérience humaine. Les technologues, suggère-t-il, ressemblent à des papillons de nuit tournoyant autour d’une flamme qui pourrait finir par nous consumer. Il y aura peut-être des gains à court terme, comme l’aide apportée par l’IA aux scientifiques pour comprendre l’immense complexité du cerveau, avec ses milliers de types de cellules et ses billions de synapses. À long terme, cependant, il s’attend à ce que les inconvénients l’emportent sur les avantages. L’IA elle-même, bien sûr, n’a aucune intention malveillante : étant inconsciente, elle n’a pas d’intentions, ressemblant plutôt à l’astéroïde qui a frappé la Terre il y a 66 millions d’années et mis fin à l’ère des dinosaures.
Koch trouve tragique que « nous soyons sur le point de céder de plus en plus de notre vie aux machines », tout cela au nom de la commodité. Il craint que le rythme du changement ne dépasse les rythmes plus lents de la politique, de la législation et de l’adaptation sociale. Si cette évolution se poursuit sans contrôle, un monde gouverné par de machines extrêmement efficaces pourrait vider la vie de son sens, à commencer par la fierté que nous tirons de notre travail. « Si vous pouvez rédiger un article scientifique avec ChatGPT en une heure, à quoi bon ? », demande Koch. « Pour la plupart d’entre nous, le travail est profondément porteur de sens ; nous sommes motivés par l’accomplissement. Je trouve même l’idée de la retraite terrifiante. Qu’est-ce que je vais faire — rester assis à ne rien faire et jouer au golf ? »
Au-delà d’un monde sans emploi, Koch évoque l’image d’Erwin Schrödinger d’un univers sans conscience, comme une pièce jouée devant des bancs vides. « C’est une situation dans laquelle nous pourrions nous retrouver », dit-il : une planète d’automates accomplissant des exploits étonnants alors que personne n’est là pour les admirer. Une autre possibilité : peut-être qu’une fois le travail disparu, les humains se tourneront vers l’art, la méditation et d’autres formes d’expérience consciente. « En principe, si l’IA nous offre tout ce temps, nous pourrions devenir plus créatifs, prendre des champignons, etc. »., dit-il. « Mais pour la majorité d’entre nous, je ne pense pas que cela se produira ».
Le phare de l’esprit humain
Koch revient souvent sur la méditation et les expériences psychédéliques, car elles l’ont aidé à entretenir et à approfondir sa propre vie consciente. Son ouvrage publié en 2024, Then I Am Myself the World: What Consciousness Is and How to Expand It (Alors je suis moi-même le monde : ce qu’est la conscience et comment l’élargir), explore un large éventail d’états de conscience, y compris ceux situés aux limites de l’expérience : expériences mystiques, induites par des substances et expériences de mort imminente. Celles-ci, écrit-il, offrent « la preuve vivante que le tissu nerveux peut être le théâtre d’expériences extraordinaires ». Après avoir inhalé du 5-MeO-DMT vaporisé provenant du crapaud du fleuve Colorado, il a atteint un état où l’ego, la mémoire, le corps, l’espace, le temps et le monde se sont effacés, laissant place à un univers intemporel. Lors d’une cérémonie d’ayahuasca au Brésil, il a rencontré « quelque chose de merveilleux — l’esprit au sens large », un esprit qui englobe tout et qui a ébranlé les fondements de sa vision scientifique du monde.
Koch reconnaît que la plupart des gens ont peu de chances d’élargir temporairement leur conscience de cette manière. Il préconise plutôt une pratique bien plus accessible pour entretenir la vie intérieure : la conscience réflexive de soi — « être réfléchi et perspicace ». Cette pratique commence par l’appréciation de la beauté de la nature et du miracle que toute chose existe. Pourtant, son ennemi juré est toujours à portée de main. Il suffit de s’arrêter un instant pour que le réflexe se manifeste : vérifier son téléphone. Lors d’un récent vol, Koch a observé un homme faire défiler son écran pendant cinq heures d’affilée. « Toutes les dix secondes, quelque chose de nouveau ».
Nous vivons dans une économie où la ressource la plus rare est l’attention. Les neurosciences la distinguent de la conscience : l’attention concentre les ressources mentales sur une seule tâche. Nous prenons généralement conscience de ce à quoi nous prêtons attention, mais les deux peuvent se dissocier. En parcourant les vastes autoroutes américaines, observe Koch, vous pouvez être entièrement absorbé par un reportage à la radio tandis que vos yeux continuent de scruter la route devant vous, attentifs aux éléments pertinents. L’économie de l’attention exploite notre capacité à nous concentrer à des fins lucratives, évacuant la réflexion. L’expérience se transforme en réaction, comme un visionnage compulsif sans pause pour réfléchir : le clip suivant, la notification suivante, le prochain stimulus. « Dans ces médias réactifs », prévient Koch, « vous n’avez aucune chance », car chaque nouveau stimulus s’empare à la fois de l’attention et de la conscience.
Cela, bien sûr, ne rend pas les humains moins conscients. « Ce n’est pas que nous devenions des zombies », dit Koch. Pourtant, ce qui s’estompe, c’est une couche plus profonde de conscience : la conscience réflexive et introspective nécessaire au jugement moral et à tout acte véritablement créatif. Il revient à la vieille injonction philosophique : « Connais-toi toi-même ». Cet adage fondateur de la philosophie occidentale nous invite à nous attarder, à examiner et à regarder longuement en nous-mêmes.
Les êtres humains, affirme-t-il, s’épanouissent grâce à cette capacité. Nous sommes des singes réfléchis, capables de comprendre nos propres motivations, nos choix et nos aspirations. Nous pouvons nous demander : pourquoi ai-je fait cela ? Était-ce judicieux ? Que recherchais-je vraiment ? Est-ce une bonne chose ? Cela correspond-il à la vie que je souhaite vraiment ? La méditation et l’introspection, suggère Koch, aident à préserver cette vision intérieure : écouter en soi, percevoir les fluctuations de l’humeur et discerner ce que nous recherchons vraiment. Confiez tout cela à des machines, et l’existence humaine elle-même risque de s’amenuiser.
Enfant, Koch a fréquenté une école jésuite où les élèves pratiquaient quotidiennement un « examen de conscience ». Deux fois par jour, ils revenaient sur leurs actions et se demandaient ce qui les avait réellement motivés : « Pourquoi ai-je dit cela ? Était-ce pour aider, ou quelque chose de plus sombre agissait-il en moi ? » Koch estime qu’une telle réflexion peut commencer tôt. Dans les monastères tibétains en Inde, il a vu des enfants s’initier à la méditation et à l’introspection. Dans toutes les cultures, occidentales comme non occidentales, les gens ont développé des méthodes éprouvées pour cultiver cette capacité : faire une pause, examiner ses motivations et apprendre à percevoir les courants de pensées et de sentiments qui façonnent une vie.
Lorsqu’une culture cesse de cultiver la conscience réflexive de soi, les coûts s’accumulent. Koch met en avant « la vague montante de mal-être mental, d’anxiété généralisée et de dépression », qui touche aujourd’hui près d’un tiers des étudiants de première et deuxième année à l’université. Beaucoup, estime-t-il, « n’ont jamais appris à prêter correctement attention à leurs sentiments intérieurs ». Sans cette capacité, le bonheur devient plus difficile à maintenir.
L’antidote commence par une simple prise de conscience : apprendre à comprendre ses émotions, son corps, ses sensations — des capacités qui sont « très simples, mais qui font défaut à de nombreux jeunes aujourd’hui ». Lorsque l’anxiété se manifeste, il suggère de se demander pourquoi elle surgit et d’apprendre à reconnaître ses différentes formes. Même une petite pause peut aider. « Respirez profondément avant de faire quoi que ce soit », dit-il. « [Et puis demandez-vous] : est-ce vraiment ce que vous voulez dire ? » De tels moments ralentissent la première poussée d’impulsion et créent un espace pour réfléchir avant « la première montée de sang chaud », selon son expression.
En l’absence de pratique consciente, estime Koch, la conscience réflexive de soi peut s’atrophier comme n’importe quelle faculté de l’esprit. « Si vous ne la cultivez pas, c’est comme un muscle que vous n’utilisez jamais. La capacité peut rester là ; le potentiel peut rester, mais il s’atrophiera ». Le danger est peut-être plus grand pour les jeunes générations. Une véritable compréhension, note-t-il, n’émerge souvent que plus tard dans la vie. Pourtant, si l’attention est constamment accaparée par les réseaux sociaux et la stimulation incessante de Snapchat, cette capacité risque de ne jamais se développer pleinement. À mesure que les machines deviendront plus puissantes, la société sera de plus en plus efficace pour façonner le monde, tandis que les individus qui n’auront jamais appris à réfléchir en profondeur seront plus faciles à manipuler. « C’est pourquoi, conclut Koch, la conscience réflexive de soi est notre étoile polaire — l’étoile qui guide l’esprit humain ».
Texte original publié le 27 mars 2026 : https://bigthinkmedia.substack.com/p/the-inner-life-were-trading-away