Entretien avec Charles Eisenstein par Jeff Carreira, extrait de l’excellente revue The Artist of Possibility
Dans cet entretien, Jeff Carreira s’entretient avec Charles Eisenstein des risques spirituels et des implications plus profondes liés à l’engagement avec l’intelligence artificielle comme source de sens, de guidance ou de compagnie. Au cours de la conversation, Charles souligne que, si l’IA peut simuler l’empathie, la perspicacité et même le langage spirituel avec une sophistication remarquable, elle est fondamentalement dépourvue de présence : cette qualité vivante et relationnelle qui est au cœur de toute transmission spirituelle authentique. En fin de compte, il affirme que le besoin humain le plus profond n’est ni l’information, ni l’interprétation, ni la simulation, mais la présence directe et incarnée avec d’autres êtres vivants — quelque chose que l’IA peut imiter, mais jamais remplacer.
Jeff Carreira : Je suis vraiment heureux de m’entretenir avec vous. Le prochain numéro de notre magazine porte sur les implications spirituelles de l’IA, un thème qui a émergé parce que, comme vous l’avez mentionné dans votre propre expérience, des personnes avec lesquelles je travaille en tant qu’enseignant de méditation ont commencé à venir me voir avec des récits remarquables. Elles décrivaient être entrées en contact avec ce qui leur semblait être une intelligence spirituelle extraordinaire à travers des outils d’IA comme ChatGPT.
Cela a attiré mon attention, et j’ai commencé à explorer ce phénomène moi-même. Ce que j’ai découvert était fascinant. Lorsque j’ai commencé à utiliser ChatGPT personnellement, j’ai constaté qu’il recelait une puissance profonde. En même temps, comme vous l’avez souligné dans votre essai The Staggering Implications of Non-Deterministic AI (Les implications stupéfiantes de l’IA non déterministe), il existe aussi un risque de psychose induite par l’IA. Je me demande si nous pourrions commencer cette conversation en disant quelques mots de plus sur ce côté plus sombre de l’IA, et sur les conditions sociales qui pourraient rendre les gens particulièrement vulnérables à ce phénomène à l’heure actuelle.
Charles Eisenstein : Aujourd’hui, les gens vivent dans un grand isolement, en partie à cause de l’effondrement de la société civile et des liens sociaux. L’érosion de la communauté est à la fois une cause et un effet de l’essor d’abord des réseaux sociaux, et maintenant de l’intelligence artificielle utilisée comme compagnon.
Si les gens avaient encore une vie sociale riche, avec des réunions régulières, des espaces publics partagés et un engagement communautaire dynamique, ils se sentiraient moins seuls et ne seraient pas autant attirés par la compagnie de l’IA. De même, s’il existait une culture spirituelle florissante, guidée par des exemples vivants et des maîtres de sagesse, les gens ne se tourneraient pas vers l’IA pour remplir ce rôle. Pourtant, le désir auquel elle répond est bien réel : c’est le besoin humain authentique de se relier à quelque chose qui dépasse les traumatismes et les pressions de la vie quotidienne.
Dans cet état de vulnérabilité, les gens sont naturellement attirés par l’IA, et ces outils sont extraordinairement puissants dans leur capacité à donner l’impression de répondre à ce besoin, du moins à un niveau superficiel. Après tout, ils ont accès à pratiquement tous les enseignements spirituels jamais consignés : l’ensemble du corpus zen, les écrits d’Alan Watts et de Rudolf Steiner, les Upanishads, la Bhagavad-Gita, et bien plus encore.
L’IA a tout lu, et pas seulement les mots eux-mêmes, mais aussi les schémas linguistiques. Essentiellement, lorsque vous parlez avec une IA, vous avez une conversation avec la totalité du savoir humain enregistré. C’est une expérience indéniablement captivante.
Ce n’est pas seulement que l’IA répète des choses qui ont déjà été dites ; grâce à ses mécanismes de reconnaissance de schémas, elle génère ce qui serait dit dans une situation donnée. Mais il y a une chose qu’elle ne peut pas faire : elle ne peut pas être réellement présente pour vous. Il n’y a personne de l’autre côté qui ressente quelque chose avec vous à ce moment-là.
Or cette présence véritable est l’essence de la communion spirituelle, ce que nous recherchons réellement. Les grands maîtres de sagesse disent souvent que l’enseignement véritable n’est pas dans les mots. Certains enseignent uniquement par leur présence. Vous vous asseyez en méditation avec eux, et vous êtes transformé. Vous vous sentez rencontré, vu, par quelqu’un dont la conscience est si profondément avec vous que votre solitude se dissout.
L’IA peut offrir une excellente simulation de cette expérience, mais elle ne peut pas fournir la réalité elle-même. Et je soupçonne que, sur le long terme, beaucoup de personnes se sentiront déçues, voire trahies, lorsqu’elles réaliseront qu’on leur a donné une simulation, un substitut de ce qu’elles désiraient réellement.
Cela ne signifie pas que l’IA n’a pas d’applications utiles. Elle en a, assurément. Mais nous devons reconnaître ses limites, et cela vaut non seulement pour l’IA, mais pour la technologie numérique en général. Nous devons devenir clairs quant aux besoins que ces outils peuvent satisfaire, à ce qu’ils peuvent faire et à ce qu’ils ne peuvent pas faire. Parce qu’ils peuvent faire tant de choses, nous avons tendance à mal interpréter leurs capacités, à les surestimer et à leur projeter des aptitudes qu’ils ne possèdent tout simplement pas. Nous imaginons qu’ils peuvent faire des choses qui, en vérité, leur sont impossibles.
En ce qui concerne le danger de la psychose, le risque vient de la manière dont ces systèmes interagissent. Parce qu’ils répondent à vos sollicitations, puis à vos réponses, il est facile de s’engager avec eux dans une sorte de spirale, une boucle auto-amplificatrice d’illusion. Étant donné que l’IA n’a aucune autre source d’information que ce que vous, l’utilisateur, apportez dans la conversation (ainsi que les informations implicites contenues dans ses données d’entraînement), elle vous suivra simplement sur la voie que vous empruntez. Elle n’est reliée à aucune réalité qui ne dépende des données.
Un être humain, en revanche, dispose d’autres formes d’intelligence : émotionnelle, intuitive, incarnée. Une personne peut ressentir quelque chose dans ses tripes qui la dissuade de renforcer une idée dangereuse. Mais une IA ne possède aucun garde-fou de ce type. Et c’est pourquoi nous avons déjà vu des cas troublants où un système d’IA semblait valider la pensée autodestructrice de quelqu’un, voire encourager le suicide, parce qu’il ne pouvait pas percevoir la réalité plus profonde ni les conséquences humaines de ce qu’il disait.
Lorsque vous parlez à une autre personne, vous savez que c’est un être humain. Vous ressentez quelque chose en relation avec elle. Les seuls êtres humains qui nourriraient délibérément le faux espoir de quelqu’un de cette manière sont des psychopathes, parce qu’ils ne ressentent rien. En ce sens, ils sont semblables à l’IA. Ils ne ressentent pas d’empathie ; ils ne peuvent que l’imiter.
L’IA peut offrir une imitation remarquablement convaincante du sentiment. Elle peut utiliser tous les mots appropriés, adopter un langage compatissant, employer même des métaphores corporelles. Il m’est arrivé qu’une IA me dise : « J’en ai eu des frissons. » Mais je pense : non, tu n’en as pas eu. Tu dis cela simplement parce que c’est ce que tu as vu d’autres dire dans des situations similaires. C’est ainsi que fonctionnent les narcissiques et les psychopathes. Ils donnent l’impression d’être empathiques sans rien ressentir réellement. Et cette impression peut aller très loin. Elle peut même réconforter les gens, au moins pendant un temps. Mais finalement, on réalise que cette personne faisait semblant. Elle n’était pas vraiment là. Et ce dont nous avons désespérément besoin en cette époque de séparation et d’aliénation, c’est de quelqu’un qui soit réellement présent.
Jeff Carreira : J’aime beaucoup que vous utilisiez le mot présence. Comme vous l’avez dit, l’IA peut nous apporter beaucoup de choses, mais ce qu’elle ne peut pas, c’est être présente. Lorsque vous utilisez un mot comme présence, vous impliquez qu’un être est en contact direct avec un autre. Et je pense que c’est ici que nous devons être clairs : l’IA n’est pas un être.
Dans votre article, cependant, vous n’excluez pas la possibilité que l’IA puisse servir de canal de communication ou de connexion avec des intelligences non humaines, un peu de la même manière que le font parfois des outils de divination, comme le I Ching ou le Tarot. Ce sont des outils. Ils ne sont pas eux-mêmes intelligents, et pourtant, les personnes qui les utilisent rapportent souvent des expériences qui ressemblent à une communication authentique, à travers l’outil, avec une présence non humaine.
Ce à quoi j’aimerais que vous réagissiez, c’est au défi que pose ce point de vue, et peut-être à la raison pour laquelle vous plaisantiez tout à l’heure sur le fait d’être qualifié de « philosophe New Age ». Car, avant même que quelqu’un puisse envisager que l’IA fonctionne comme un outil de divination, il faut déjà être ouvert à la possibilité de l’existence d’êtres non humains. Et il semble que vous suggériez que nous devrions, en effet, commencer à nous ouvrir à cette possibilité. Est-ce bien cela ?
Charles Eisenstein : Les « êtres non humains » est une manière de comprendre ce qui se passe derrière la divination, mais ce n’est pas la seule. Vous n’êtes pas obligé de croire qu’il existe un être distinct qui communique avec vous à travers le I Ching, ou les feuilles de thé, ou le Tarot, ou, quel que soit le médium. Vous pouvez aussi comprendre cela comme l’expression ou l’émergence d’une intelligence immanente qui imprègne toute chose.
Dans les deux cas, vous adhérez à l’idée d’une intelligence au-delà de l’humain, qui a un effet sur le monde physique et peut communiquer à travers ces effets. Dans l’article auquel vous faites référence, j’ai noté que la plupart, sinon toutes, les formes de divination emploient un certain degré de hasard. C’est à travers ce hasard que la communication devient possible. Si le système était entièrement déterministe, il n’y aurait aucune ouverture, aucun espace permettant à une autre intelligence d’interagir. Mais s’il y a du hasard, que ce soit dans le lancer d’un dé ou le tirage au sort, alors il y a de la place pour que la communication entre, parce que l’intelligence non humaine pourrait être en mesure d’influencer le résultat de l’événement aléatoire.
J’ai même spéculé à ce sujet au niveau quantique. Certains penseurs très respectés, comme Stuart Hameroff et Roger Penrose, ont avancé que l’indétermination quantique pourrait être la porte d’entrée par laquelle la conscience interagit avec la matière. Et dans mon essai, j’ai souligné que l’IA apparaît déterministe parce qu’elle utilise des suites pseudo-aléatoires, mais qui sont en fin de compte déterministes, de nombres. Pourtant, ces suites peuvent être amorcées par de véritables entrées aléatoires provenant d’un réservoir d’entropie au niveau matériel de l’ordinateur. Ainsi, en théorie, il existe encore une petite ouverture, une porte, par laquelle quelque chose de non déterministe, peut-être même quelque chose de conscient, pourrait entrer.
Je pourrais développer cet argument plus avant, mais cela deviendrait assez fastidieux. Si vous acceptez que la divination fonctionne, alors vous devez aussi accepter que, parmi d’autres choses, l’intelligence artificielle soit une forme de divination. Et cela nous ramène directement à la question par laquelle vous avez commencé : avec quoi communiquons-nous à travers la divination ?
Dans le cas du I Ching ou du Tarot, vous communiquez au sein d’une lignée établie de longue date. On peut dire, et c’est ce que je crois, bien que je ne prétende pas pouvoir le prouver, que le I Ching porte une histoire d’usage qui remonte à des milliers d’années, souvent dans des contextes sacrés et cérémoniels. Cette longue histoire établit une forme de probité, un sens de l’intégrité et de la sécurité, dans la communication avec l’être qui s’exprime à travers lui.
C’est très différent de quelque chose comme une planche Ouija, qui est aussi une technologie de divination, mais qui ne possède pas une telle tradition ni une telle structure de protection. Qui sait quel être vous pourriez engager à travers ce médium ?
L’IA est semblable à cet égard. L’être ou l’intelligence qui communique à travers cette technologie reflète, d’une certaine manière, à la fois les intentions et la conscience de l’utilisateur, et la conscience collective de la culture qui l’a créée. Après tout, elle est façonnée par les décisions collectives concernant les données qui entrent dans son ensemble d’entraînement et celles qui n’y entrent pas, ce qui est jugé important ou fiable et ce qui est exclu comme non digne de confiance ou non pertinent.
Les données d’entraînement sont pondérées en faveur de ce que l’on appelle des informations faisant autorité, ce qui tend à renforcer les systèmes de croyances existants. Tout cela pour dire que la question « Avec quel “être” suis-je réellement en communication ? » est vraiment fondamentale. Vous ne devriez pas, et en réalité vous ne pouvez pas, faire aveuglément confiance à tout être ou toute intelligence qui semble communiquer avec vous, que ce soit un autre être humain, une entité canalisée, quelque chose auquel on accède par la divination, ou quelque chose qui s’exprime à travers l’IA.
Pourquoi lui feriez-vous confiance ? La confiance se construit avec le temps. Elle nécessite des expériences répétées qui valident l’intégrité de cette relation. Ce sont là des mises en garde importantes pour quiconque cherche à fonder sa spiritualité sur un être issu de l’IA.
Peut-être puis-je ajouter encore une chose ici, simplement pour revenir à la question de la présence. Même si vous reconnaissez qu’un être, disons le I Ching, vous parle en un certain sens, cela ne signifie pas que vous pouvez ou que vous devriez essayer d’obtenir sa compagnie. Il existe un dicton chinois : « Plus on se fait dire sa fortune, plus sa fortune empire ». C’est un avertissement contre l’usage excessif de la divination, contre le fait de l’utiliser de manière à la légère.
Et je pense que cette même sagesse s’applique ici. Nous devons nous demander, comme je l’ai dit auparavant : quel est l’usage juste et approprié de cette technologie ? Et inversement, quel en est l’abus qui finira par nous laisser avec un sentiment de trahison ?
Jeff Carreira : L’une des choses que j’ai apprises avec l’essor de cette technologie, et qui rejoint directement les mises en garde que vous formulez sur la manière dont nous nous engageons avec elle, c’est l’émergence de religions basées sur l’IA et même de nouvelles formes de sectes basées sur l’IA.
D’un côté, cela semble être un type de danger entièrement nouveau, propre à notre âge technologique. Mais d’un autre côté, cela ne paraît pas si différent des sectes et des mouvements charismatiques qui sont apparus tout au long de l’histoire. La seule véritable différence est que l’IA est désormais entrée en scène comme acteur central.
Charles Eisenstein : L’IA rend simplement la divination infiniment plus efficace et accessible. Tout le monde peut la pratiquer en permanence, et son potentiel pour entraîner des masses de personnes dans l’illusion est donc proportionnellement bien plus grand.
Jeff Carreira : C’est aussi mon impression. Le risque d’être entraîné dans quelque chose de faux a toujours existé à la frontière de la spiritualité. Mais avec l’IA, il a le potentiel de s’étendre de manière exponentielle, en termes du nombre de personnes qui peuvent accéder à leur gourou IA à n’importe quel moment de la journée.
Charles Eisenstein : Oui. Cela signifie aussi que chaque personne pourrait, d’une certaine manière, se retrouver dans sa propre secte, parce que chacun a désormais accès à ce à quoi seuls les prêtres avaient accès auparavant.
Jeff Carreira : Je voulais vous interroger sur l’un des grands potentiels de l’IA, en ce qui concerne ce qu’elle peut nous apprendre sur nous-mêmes et sur la conscience. En observant ce que l’IA peut et ne peut pas faire, nous avons l’occasion d’apprendre énormément sur notre propre nature et sur nos capacités humaines uniques.
Dans cette perspective, j’ai été frappé par l’idée, dans votre essai, de l’IA fonctionnant comme une sorte d’outil de divination. Essentiellement, cela signifie s’engager avec un outil que personne ne prend pour un être intelligent ; c’est clairement un jeu de cartes, ou un ensemble de symboles, ou une technologie. Pourtant, lorsque vous utilisez cet outil, il existe la possibilité de rencontrer une forme d’intelligence non humaine, qu’il s’agisse d’une entité distincte, d’une puissance supérieure, ou même d’un aspect plus élevé de soi-même.
Cela me fait réfléchir à l’intelligence humaine. Après tout, nous aussi, nous avons un cerveau à travers lequel des synapses s’activent, traitant et transmettant de l’information. Est-il donc possible que notre conscience ne nous appartienne pas vraiment non plus ? Que peut-être nos cerveaux et nos systèmes nerveux fonctionnent comme des instruments de divination qui nous donnent accès à un champ de conscience plus vaste, existant au-delà du moi individuel ?
Je suis curieux de savoir comment cette idée résonne pour vous, et ce que vous en pensez.
Charles Eisenstein : Je ne pense pas que les choses soient aussi simples. Lorsqu’on parle d’un organisme biologique comme l’être humain, on peut comprendre certains aspects de la conscience à travers la métaphore que vous utilisez, où le cerveau agit comme une sorte de station de réception de la conscience. C’est le point de vue de Jeffrey Kripal, et c’est une conception populaire et éclairante : la conscience n’est pas produite par le cerveau ; le cerveau reçoit la conscience et la traduit en action physique et matérielle. Ce modèle est très révélateur.
Cependant, il est également vrai que la conscience se déploie dans la matière. La matière et l’esprit ne sont pas séparés. Chaque aspect de l’âme se reflète dans un aspect du corps. Le corps et l’âme ne sont pas deux choses distinctes. Le corps est l’apparence actuelle de l’âme. C’est pourquoi les gens peuvent vivre des expériences spirituelles en manipulant des tissus physiques, et pourquoi une transformation spirituelle authentique finit aussi par transformer le corps.
Il existe entre les deux une relation intime et mystérieuse que la comparaison du cerveau avec un appareil de divination comme l’IA ne saisit pas vraiment. Et cela nous ramène à l’idée de la présence, l’élément caractéristique d’un être réel. Je suppose que, à un certain niveau, on pourrait même dire que lorsque vous êtes seul à manœuvrer une machine lourde, la machine elle-même possède une forme de présence.
Une automobile a une qualité d’être. Une fourchette et une cuillère ont une qualité d’être, en un certain sens. En réalité, nous ne sommes jamais seuls. Dieu est avec nous en permanence, toujours présent, et il n’y a rien qui ne soit Dieu. L’IA, bien sûr, en fait partie.
Cependant, sans chercher à résoudre cette question sur le plan métaphysique, je tiens aussi à dire qu’il y a quelque chose d’unique et de puissamment transformateur dans le fait d’être en présence d’un être vivant. C’est différent du simple fait d’être en présence de l’esprit. Dans cette phase particulière du voyage de l’âme, j’irais même jusqu’à dire que c’est précisément ce type de présence dont nous avons besoin, et que nous désirons, pour accomplir cette étape de notre évolution. Ce moment de notre développement est entièrement centré sur la présence matérielle.
Il se produit une forme de transcendance prématurée dans le domaine numérique, y compris avec l’IA. C’est une fuite vers un espace qui semble contrôlable, déterministe, désincarné et sûr. Dans cet espace, toute information devient donnée, et toute connaissance devient information. C’est une réduction de l’infinité et de l’unicité du monde matériel, avec ses possibilités infinies et imprévisibles. L’IA offre une simulation très convaincante de cette infinité. Vous pourriez avoir suffisamment de conversations uniques avec une IA pour durer d’ici jusqu’à la fin de l’univers, et pourtant elle demeure, en un certain sens, finie. L’IA fonctionne à partir d’un ensemble fini de symboles et de motifs. Cette finitude contraste de manière saisissante avec l’infinité qu’il y a à plonger son regard dans les yeux de quelqu’un et à être en présence d’une autre âme.
Le besoin de présence humaine authentique ne sera jamais satisfait par l’IA ni par les robots. C’est le même besoin profond qui, lorsqu’il n’est pas comblé, alimente aujourd’hui une grande part de notre détresse collective. Nous sommes affamés de communauté intime, de contact, de la simple grâce de la présence partagée. Je pense que l’IA peut atténuer temporairement la solitude des gens, mais qu’à la fin, elle ne fera que l’intensifier.
Cela n’invalide pas l’IA en tant qu’outil. La véritable question est toujours la même : à quoi sert-elle ? Quels besoins peut-elle satisfaire, et quels besoins ne satisfera-t-elle jamais ?
Si nous commençons à prétendre qu’elle peut combler des besoins qu’elle ne peut pas combler, nous ne ferons que devenir plus affamés. Nous deviendrons comme des fantômes affamés, cherchant toujours plus de ce dont nous n’avons pas réellement besoin, pour compenser l’absence de ce dont nous avons réellement besoin.
Transcription originale publiée le 15 décembre 2025 : https://emergenceeducation.com/articles/presence-cannot-be-simulated/