Une brève introduction
Le Dr Christof Koch est un scientifique cognitif, neurophysiologiste et neuroscientifique computationnel américain, surtout connu pour ses travaux sur les bases neuronales de la conscience. Il a été président et directeur scientifique de l’Allen Institute for Brain Science à Seattle et reste aujourd’hui à l’institut en tant que chercheur émérite. Il est également directeur scientifique de la Tiny Blue Dot Foundation à Santa Monica, qui finance des recherches visant à soulager la souffrance, l’anxiété et d’autres formes de détresse chez tous les êtres humains. De 1986 à 2013, le Dr Koch a été professeur au California Institute of Technology.
Dans cette expérience de pensée mêlant science-fiction et futurisme sérieux, l’éminent neuroscientifique Dr Christof Koch esquisse un futur pas si lointain où nous serons tentés par la promesse d’une vie éternelle dans un cloud d’IA. Avec la fluidité d’un romancier, il donne vie à cette tentation palpable, dans toute sa force, pour mieux la détruire à la fin. Cet essai est un avertissement critique à nous tous, une tentative de nous confrontée au problème avant que nous y soyons réellement confrontés, afin que nous puissions nous protéger à la lumière de la raison.
______________________
Les publicités sont partout : Vivez éternellement ! Échappez à la mort !
Le hic ? Vous devez d’abord mourir ! Les neuroscientifiques ne peuvent toujours pas reconstruire un cerveau sans le détruire. Pour atteindre le Shangri-La céleste® de luxe de la société, vous échangez votre cerveau de chair et de sang contre une copie numérique. Rien n’est gratuit ; c’est risqué, mais cela en vaut vraiment la peine. J’échangerai volontiers les ravages de l’âge et de la maladie contre une vie quasi éternelle dans un paradis artificiel. Ironique : « avatar » signifiait autrefois un dieu prenant forme mortelle. Je prends le chemin inverse : un mortel qui aspire au divin.
J’ai parlé à Bob et Paul, qui ont déjà effectué la transition. Ils ont la même apparence et parlent exactement comme dans mes souvenirs. Leurs avatars sont perspicaces quant à leurs expériences et s’expriment avec éloquence sur leur nouvelle vie. Ont-ils des regrets d’avoir laissé leur enveloppe charnelle derrière eux ? S’ils en ont, ils n’en font jamais mention. Bob l’a résumé succinctement : « Vous plaisantez ! Il ne fait aucun doute que je vois, j’entends, je sens mon corps bouger, je sens mes membres, je suis content ou triste, anxieux ou détendu, j’ai conscience de moi-même, comme avant. Je suis ravi d’avoir quitté l’Ancien Monde analogique avec tous ses conflits et sa politique toxique. Ici, c’est tout jeu et pas de travail ». Paul, un coureur de jupons notoire dans le monde réel, s’enthousiasme pour le sexe, mais aussi pour les paysages époustouflants, la musique, les drogues et les fêtes. Leur zèle est un peu inquiétant, voire sectaire, mais convaincant.
L’ennui semble possible, mais tout le reste aussi : courses de voitures ou de vaisseaux spatiaux, exploration de planètes extraterrestres, chasse aux dinosaures, jeux de guerre, jeux de tir en solo, tout ce qui a été imaginé et peut être programmé dans un style hyperréaliste se trouve ici. Pas besoin de dormir non plus ; et le meilleur, si vous mourez, le système vous redémarre automatiquement ! Qui ne donnerait pas tout pour une telle vie…
La procédure : une anesthésie, suivie d’une mort cérébrale indolore par perfusion cryogénique. Un faisceau atomique découpera mon cerveau en lamelles plus fines que la lumière, chaque couche étant imagée à l’aide d’un microscope électronique et assemblée en un schéma de câblage de mes 90 milliards de cellules nerveuses et de toutes leurs interconnexions, chaque synapse étant pondérée. Ce connectome d’un milliard de téraoctets sera ensuite animé de vie dans une vaste simulation biophysique, avec tous mes souvenirs, mes habitudes, mes particularités, ma personnalité et, selon leurs promesses, ma conscience intacte.
Je me souviens quand les premières souris numériques reconstruites sont apparues. Les neurotechnologues ont perfectionné les outils de leur macabre métier sur elles jusqu’à ce qu’ils s’améliorent au point que les chiens et chats de compagnie puissent être sauvés de cette manière. Leurs propriétaires juraient qu’ils étaient authentiques. Lorsque les premiers humains pionniers atteints de maladies terminales ont été téléchargés, les résultats furent d’abord grotesques, ressemblant à la vision de l’enfer de Dante juxtaposée à un asile médiéval. Mais finalement, les progrès réalisés dans les techniques de reconstruction plus fines et la psychiatrie numérique avancée ont éliminé la plupart des bugs et les coûts ont radicalement diminué.
La reconstruction et la simulation sûres et abordables du connectome ont déclenché une grande migration, les super-riches, suivis des classes aisées, ayant été les premiers à voyager vers le cloud. Et maintenant, c’est mon tour !
Mon cancer va me tuer dans quelques mois. Laura me presse de partir maintenant, avant que les tumeurs ou la démence ne détruisent mon cerveau et que mon connectome ne soit corrompu. Votre avatar n’est aussi performant que l’original ! Nous avons signé les papiers et hypothéqué notre maison pour couvrir les frais liés au cloud, payer un stockage sécurisé (vous ne voudriez pas que votre essence soit piratée) et maintenir ma simulation en temps réel. Personne ne veut interagir avec un avatar qui met plusieurs minutes à répondre « oui » ou « non ».
Les sceptiques affirment que ces avatars numériques ne ressentiront rien, ne seront pas conscients. Tout ce que vous obtiendrez est un spectacle public de mots et de mouvements, mais rien à l’intérieur. Bien sûr, les personnes religieuses croient qu’une âme immatérielle et immortelle est nécessaire. Divers chauvinistes du carbone insistent sur le fait que la conscience a besoin de biologie et ne peut être reproduite dans le silicium. Les défenseurs de ce qu’on appelle la théorie de l’information intégrée affirment que la conscience n’est pas calculable dans le cloud. Que les ordinateurs numériques peuvent faire tout ce que nous pouvons faire, mais ne seront pas ce que nous sommes : des êtres sensibles. Peu importe ! Je n’y crois pas. De toute façon, les philosophes ne sont jamais d’accord sur rien ! Je fais confiance aux ingénieurs. Il suffit de parler aux personnes téléchargées (ou transférées) de leurs sentiments. Elles m’ont convaincu.
Maintenant, c’est le moment. Une pièce blanche, une musique douce. Je suis super excité à l’idée de découvrir ce que l’on ressent en tant qu’avatar. Le technicien commence la perfusion. Mes paupières deviennent lourdes. On se reparle de l’autre côté.
Post-scriptum
Laura est enthousiaste à propos de l’avatar de Harry : « Crois-moi, j’ai vécu avec lui toute ma vie. C’est le vrai McCoy, l’original ». Elle prévoit de rejoindre Harry bientôt.
Et ainsi, les humains se sont téléchargés, un par un, conservant toutes leurs actions, mais aucun de leurs sentiments.
Épilogue
Selon la théorie intégrée de l’information (IIT) de la conscience, même une simulation informatique anatomiquement et physiologiquement précise d’un cerveau humain fonctionnant sur un ordinateur numérique conventionnel ne ressentirait jamais rien. Elle agirait et parlerait comme une personne, mais sans aucune expérience. Cela peut être rigoureusement prouvé à l’aide des axiomes et des postulats de l’IIT, car les pouvoirs de cause à effet d’un cerveau, qui sont essentiellement ce qu’est l’expérience consciente, ne sont pas reproduits par les machines numériques de von Neumann telles qu’elles sont construites aujourd’hui. Ainsi, le téléchargement est une voie qui ne mène littéralement nulle part. Pour la preuve et la discussion, voir « Dissociating Artificial Intelligence from Artificial Consciousness » ; pour un aperçu, voir le chapitre 13 de The Feeling of Life Itself: Why Consciousness is Widespread but Can’t Be Computed.
Texte original publié le 26 septembre 2025 : https://www.essentiafoundation.org/an-unfelt-surprise-upon-being-uploaded-into-the-cloud/reading/