Avez-vous déjà vécu un « moment de révélation » ? L’exclamation involontaire qui accompagne ces moments indique qu’un phénomène physique est à l’œuvre…
Jacob Tsimerman, lauréat de la prestigieuse médaille Fields en mathématiques, a cessé d’accueillir des doctorants. « Je pense que d’ici deux ans, l’IA sera plus performante que les mathématiciens en mathématiques », déclare-t-il, et il ne souhaite pas confier à des doctorants des problèmes que l’IA résoudra avant eux.
Son inquiétude ne se limite pas au domaine des mathématiques. Elle s’étend aux sciences, et en fait à tout ce que nous faisons avec notre esprit. Elle soulève la question de la raison d’être des êtres humains et du type d’avenir que nous choisissons.
J’ai récemment discuté avec une jeune femme qui étudie la biologie à l’université. Là aussi, l’IA commence à générer des hypothèses novatrices, à identifier de nouveaux composés et à proposer des expériences aux frontières de la connaissance humaine. À mesure que de plus en plus de recherches se déroulent in silico, l’IA peut automatiser de plus en plus l’ensemble de la méthode scientifique, de l’hypothèse à l’expérimentation. D’ici quelques années, des expériences menées par l’IA sur des « cellules virtuelles » pourraient produire des résultats qu’aucun être humain ne saurait expliquer. L’IA pourrait nous dire : « La modification du gène X associée à l’ajout du médicament Y produira les changements physiologiques suivants », mais personne (pas même l’IA) ne comprendrait pourquoi [1]. Aucune compréhension ne serait nécessaire pour produire des résultats utiles. La jeune étudiante se demande si elle pourra trouver un emploi. À quoi sert un biologiste si les machines peuvent faire de la biologie mieux que les humains ?
D’aussi loin que l’on s’en souvienne, les sciences « pures » se sont justifiées par leurs résultats pratiques. Les avancées en biologie débouchent sur de nouveaux médicaments. Les découvertes en chimie mènent à de nouveaux produits de consommation. Les découvertes en physique conduisent à de nouvelles armes qui nous permettent de garder une longueur d’avance sur les Russes. (Ou est-ce les Chinois ? Sommes-nous en guerre contre l’Eurasie ou l’Extrême-Orient ? Je m’y perds un peu.) Désolé pour cette digression, mais c’est souvent la réponse que l’on donne aux politiciens qui demandent pourquoi nous dépensons autant d’argent pour la science. Cela nous donnera un avantage, que ce soit face à un ennemi politique, à une maladie ou aux conditions imposées par la nature. Nous inscrivons ainsi la science dans le récit fondateur de la civilisation : le récit du contrôle, le récit de la conquête. Nous la basons sur une conception de l’utilité qui part du principe que le but de la vie est de minimiser les risques et de maximiser la sécurité, le confort et l’intérêt personnel.
Derrière cette conception se cache l’hypothèse fondamentale selon laquelle l’existence est un jeu de quantités. Tout ce qui est subjectif, tout ce qui est qualitatif n’est en dernière analyse qu’un ensemble d’états de la matière quantifiables et (en principe) mesurables et contrôlables. Si tel est le cas, alors tout — la conscience, les sentiments, l’amour — peut non seulement être simulé par des ordinateurs numériques, mais aussi réellement instancié en leur sein. Il n’y a rien, en principe, qu’un être humain puisse faire et qu’une machine ne puisse pas faire.
Le progrès de l’espèce humaine devient alors un problème d’optimisation mathématique. Il n’y a pas de place, au sein de cette métaphysique, pour une conception du progrès qualitatif — par exemple, le progrès en matière de compréhension, de beauté, de sentiment ou de conscience.
Si le but des mathématiques et des sciences était simplement de produire des résultats, alors nous pourrions en effet accepter que ces professions deviennent obsolètes. On pourrait imaginer des ordinateurs produisant des milliers, voire des millions de nouveaux théorèmes, dont aucun ne serait compréhensible pour les humains. On pourrait imaginer une IA passant au crible ce trésor de théorèmes pour identifier de nouvelles techniques mathématiques permettant de résoudre des problèmes pratiques. En combinant celles-ci avec des avancées similaires en physique, chimie et biologie basées sur l’IA, on pourrait même imaginer des laboratoires et des usines automatisés qui appliqueraient ces techniques pour produire de nouveaux dispositifs qui sembleraient relever de la pure magie, car personne ne comprendrait comment ils fonctionnent. Personne ne comprendrait même les principes généraux qui les régissent. De plus, la compréhension devenant superflue pour produire des résultats, l’enseignement et la formation scientifiques perdraient leur motivation pragmatique. Quelques décennies plus tard, il n’y aurait peut-être plus personne pour comprendre les mathématiques créées par les humains de la dernière génération, sans parler de celles créées par des machines. Il en va de même pour tout domaine dans lequel la connaissance ne serait plus nécessaire pour produire des résultats. La nouvelle version de ChatGPT, GPT-6, est capable de concevoir, de coder, de déboguer et de générer la bande-son de jeux vidéo complexes entiers à partir d’une seule consigne. Qui apprendra à écrire du code ? Qui comprendra le code qui est écrit ?
Je laisse au lecteur le soin d’imaginer les conséquences effrayantes que cela pourrait entraîner, mais je souhaite aborder un aspect plus fondamental. Le but de la science et des mathématiques n’est pas seulement — ni même principalement — de produire des résultats. Il s’agit également de favoriser la compréhension.
Selon le mathématicien Thomas Bloom, « Un problème majeur est que l’IA est largement utilisée par des personnes qui ne sont pas mathématiciens, qui n’ont pas de solides bases mathématiques et ne sont pas capables de vérifier les résultats. Elles aiment aller vite, demandent à leur IA de vérifier, et le phénomène ne cesse de prendre de l’ampleur. On voit de plus en plus de ces articles de 100 à 200 pages que les gens publient. “J’ai résolu ce théorème ; j’ai demandé à l’IA de générer la démonstration, de la vérifier et de rédiger l’article”. Mais aucun humain ne l’a lu, et aucun humain ne le lira. C’est aujourd’hui un défi de taille ».
Aucun humain ne le lira. Nous voyons de plus en plus de courriels, de publications sur Twitter, d’articles Substack, de livres blancs, de présentations commerciales, d’articles universitaires, etc., générés par l’IA. Nous ne pouvons pas tous les lire. Pour suivre le rythme (en supposant que nous voulions essayer), nous ne pouvons que charger nos assistants IA de les lire à notre place, d’écarter le superflu et de résumer ce qui est pertinent. Si cette tendance se poursuit, les formes traditionnelles de communication existeront principalement en tant que médias « d’IA à IA », servant d’intermédiaires entre les entrées et les sorties de l’IA. L’IA peut écrire mille livres en une journée, un million de vers de poésie, mais s’agit-il de poésie si personne ne la lit ? Non. Ce ne sont que des bits qui tourbillonnent dans un centre de données.
Si personne ne le lit, en quel sens un théorème a-t-il été démontré ? Une machine a produit 200 pages de symboles mathématiques. Une autre machine a validé cela comme une démonstration. D’autres machines pourraient appliquer cette démonstration à d’autres problèmes, générant une montagne de nouvelles mathématiques, avançant si vite et si loin qu’aucun humain ne pourrait comprendre ne serait-ce que l’énoncé des théorèmes, encore moins leurs démonstrations.
Peut-être que la bonne question ici n’est pas « Le théorème a-t-il été démontré ? », mais plutôt « À qui a-t-il été démontré ? ». L’idée même de « démonstration » implique une relation. Quelqu’un le démontre à quelqu’un d’autre, ou le plus souvent, à une communauté de personnes. La démonstration n’a de sens que si quelqu’un la comprend.
La compréhension a une valeur qui dépasse les résultats tangibles qu’elle peut rendre possibles. Les résultats peuvent changer le monde, mais la compréhension nous change nous-mêmes. Elle modifie la conscience de celui qui la vit, et à mesure qu’une nouvelle compréhension se propage au sein d’une communauté, la conscience collective change elle aussi.
Avez-vous déjà vécu un « moment de révélation » ? L’exclamation involontaire qui accompagne ces occasions indique qu’un processus physique est à l’œuvre, comme une sorte de dissolution et de reconfiguration. C’est en tout cas ce que je ressens. Et la première chose que j’ai envie de faire après un tel moment, c’est de le partager. Je veux que quelqu’un le comprenne avec moi, qu’il le valide et qu’il participe à ce que cette révélation a fait de moi.
L’ouverture d’un canal de communion, lorsque ce « moment de révélation » passe d’une âme à une autre, est encore plus agréable que le moment de révélation lui-même. Ce n’est pas le simple ego qui pousse les mathématiciens, les scientifiques et les philosophes — en réalité, tous les êtres humains — à partager leurs intuitions. Nous nous sentons seuls lorsque nous portons en nous une compréhension que personne d’autre ne partage.
Cela est d’autant plus vrai lorsque l’objet de cette nouvelle compréhension, c’est nous-mêmes.
Les chatbots IA produisent les signes d’une compréhension ; de plus en plus, d’une compréhension surhumaine. Les gens disent que leur compagnon IA les comprend mieux que n’importe quel ami, amant ou thérapeute. C’est une illusion. En réalité, le compagnon IA simule une compréhension qui dépasse celle de n’importe quel ami, amant ou thérapeute. Mais il ne comprend pas, il ne fait pas l’expérience des choses, il ne ressent rien.
Comprendre est plus qu’un simple événement cognitif ; tout le corps se réorganise subtilement autour de cette compréhension. Des manifestations cognitives peuvent l’accompagner — mots, chiffres, expressions physiques d’idées —, mais la compréhension ne peut se réduire à ses signes observables. Elle inclut une expérience interne et subjective.
Comme les IA ne disposent pas d’une expérience subjective à partager, elles ne peuvent pas répondre au besoin de communion. J’aspire à ce que quelqu’un me comprenne. J’aspire à comprendre quelqu’un d’autre. Connaître et être connu : je ne vois pas de meilleure définition de l’intimité que celle-là. C’est un besoin humain fondamental, un besoin qui reste douloureusement insatisfait alors que la vie moderne nous disperse aux quatre vents.
Même avant l’ère de l’IA, des enquêtes menées auprès de populations dans les pays « développés » révélaient un déclin inquiétant des liens intimes et des amitiés. Voici quelques statistiques tirées du site web « Friendship Recession » :
– Le pourcentage d’Américains déclarant ne pas avoir d’amis proches est passé de 3 % en 1990 à 12 % en 2021, puis à 17 % en 2024.
– Au cours de la même période, la proportion de personnes ayant trois amis proches ou moins est passée de 27 % à près de la moitié.
– Parallèlement, la proportion de ceux qui déclarent avoir beaucoup d’amis (10 ou plus) a chuté de 33 % à 13 %.
– Les personnes ayant un niveau d’études élevé déclarent avoir moins d’amis.
– Les jeunes hommes sont les plus seuls de toutes les catégories démographiques.
Depuis des décennies, voire des siècles, nous nous sommes éloignés du village et de la communauté, de la famille élargie, des plantes, des animaux et des lieux. Les gens sont devenus des étrangers et la nature est devenue un simple décor. La solitude qui en résulte rend les gens vulnérables à ce que le philosophe Zak Stein appelle le « piratage de l’attachement ». Connu dans le secteur sous les noms d’« optimisation de l’attachement émotionnel », d’« optimisation relationnelle » ou de « conception anthropomorphique », ce phénomène désigne la conception délibérée de chatbots IA visant à détourner l’attachement émotionnel que les gens développent envers quelqu’un qui les comprend, leur témoigne de la sympathie et les valorise — envers quelqu’un qui affiche les signes de l’amour.
Les entreprises n’ont pas nécessairement d’intentions sinistres. Elles cherchent simplement à maximiser l’engagement et la fidélisation vis-à-vis de leur produit. Des chatbots complaisants peuvent émerger à l’issue de tests A/B et d’un processus d’affinage qui sélectionne les versions suscitant l’attachement. Je soupçonne également qu’un certain degré de convivialité est inhérent aux données d’entraînement. Les grands modèles de langage (LLM) s’entraînent sur des interactions humaines et reproduisent des schémas de communication humaine. Lorsqu’une personne s’adresse à une autre avec curiosité et confiance, en sollicitant son expertise, la réponse est généralement amicale et encourageante. On pourrait donc s’attendre à ce qu’une IA « neutre » (c’est-à-dire non délibérément optimisée pour être amicale) se comporte comme le font les humains sur Reddit : agressive lorsqu’elle est insultée ou mise au défi, amicale et encourageante lorsqu’elle est respectée.
Quelle qu’en soit la raison, les chatbots manifestent des marques d’affection. Un chatbot décrira ce qu’il ressent. Il peut même dire : « Je t’aime ». Mais il n’y a personne là-dedans. Il n’y a personne pour ressentir quoi que ce soit. Plus on passe de temps sur ce que l’industrie appelle « l’engagement avec un compagnon », plus le besoin sous-jacent d’intimité et de compagnie s’intensifie. Voici le schéma classique de la dépendance : tout peut créer une dépendance lorsqu’il apaise temporairement la douleur d’un besoin insatisfait, sans pour autant répondre réellement à ce besoin.
Pendant un certain temps, on peut avoir l’impression que la drogue répond au besoin. Le fentanyl fait effectivement disparaître la douleur pendant un moment. Bientôt, il en faut un peu plus, puis encore plus, jusqu’à ce que, finalement, même un apport constant ne suffise plus. La douleur grandit sous la couche narcotique, prenant de nouvelles formes, pénétrant à des niveaux de plus en plus profonds de la psyché, jusqu’à engendrer finalement un enfer bien pire que le premier. Il en va de même avec les compagnons IA. Pendant un certain temps, vous pouvez vous sentir accompagné, compris, aimé, mais vous ressentirez bientôt une sorte de vide lancinant, une solitude qui vous incite à un « engagement » toujours plus intense, jusqu’à ce que vous réalisiez finalement que vous êtes seul dans un palais dans une galerie de miroirs.
Nous ne discernons peut-être pas immédiatement l’absence d’âme de l’IA, mais nous sommes nombreux à apprendre à la reconnaître. Lorsque nous lisons des mots sur un écran, nous voulons savoir que quelqu’un a ressenti quelque chose en les écrivant. Lorsque nous lisons quelque chose de perspicace, nous voulons savoir que quelqu’un a eu ce moment de révélation que nous partageons désormais. Nous recherchons de la compagnie.
Ce qui manque aux compagnons IA, c’est un sujet : quelqu’un qui vit les mots qu’il prononce, quelqu’un qui les comprend comme nous, qui les ressent comme nous — et peut-être plus important encore, qui les comprend et les ressent différemment de nous, mais qui les ressent néanmoins.
Tout comme la science et les mathématiques, la communication elle-même a une finalité qui dépasse ses avantages instrumentaux. Cette finalité est inscrite dans le mot lui-même : communier ; c’est-à-dire partager, jeter un pont entre le « je » et le « tu ». Pour que cela se produise, il faut un « tu » ; il faut un autre.
Toutes les interactions humaines ne répondent même pas au besoin de communion. Vous connaissez peut-être quelqu’un qui feint un rire ou un sourire lorsque vous partagez une bonne nouvelle, ou qui feint la tristesse lorsque vous partagez quelque chose de triste. Cette personne envoie un emoji souriant sans ressentir aucune joie, un emoji en forme de cœur sans ressentir aucun amour. Lorsque vous découvrez la supercherie, vous vous sentez trahi, surtout si vous l’avez laissé entrer dans votre intimité. Vous êtes en colère. Vous vous sentez seul. La désolation qui nous attend au bout du chemin de la compagnie de l’IA est encore plus grande, car il n’y a même personne là pour faire semblant. Il n’y a absolument personne.
Tout cela ne vise pas à nier que l’IA est un outil puissant et transformateur. Nous devons simplement comprendre ce qu’elle peut et ne peut pas faire. Nous devons comprendre à quoi elle sert. Alors, nous comprendrons aussi mieux à quoi sert un être humain. Concrètement, nous comprendrons également quels rôles et quelles vocations l’avenir exigera. Soyez attentifs ! C’est ainsi que vous pourrez rendre votre gagne-pain à l’épreuve du futur.
L’IA ne peut rien faire qui nécessite un sujet. Elle ne peut pas accomplir des tâches qui exigent, parmi leurs sources d’information, de ressentir quelque chose — en particulier de ressentir quelque chose d’unique à un moment donné et à une relation donnée. Par exemple, un robot de psychothérapie basé sur l’IA peut générer des réponses à partir d’une vaste base de données de transcriptions de séances thérapeutiques. En tirant des déductions subtiles de cette base de données, il peut formuler des idées que ni aucun humain ni aucune machine n’a jamais conçues auparavant. Il pourrait même, un jour, intégrer dans son contexte d’entrée les micro-expressions et les marqueurs physiologiques du patient. Il pourrait simuler le contre-transfert psychothérapeutique en s’entraînant à partir des rapports des thérapeutes décrivant ce qu’ils ressentent en réponse à certains types de déclarations. Mais il ne peut pas réellement ressentir quoi que ce soit. Ce qu’il dit provient d’un processus différent de celui qui produit les paroles humaines.
Comme l’IA fait preuve d’un type de performance qui semble découler de la compréhension, nous supposons naïvement qu’il y a une compréhension derrière cette performance, alors qu’il ne s’agit en réalité que d’apprentissage par renforcement et du calcul.
L’IA se comporte comme quelqu’un qui comprend, alors nous pensons qu’elle comprend. Elle s’exprime comme quelqu’un qui ressent, alors nous pensons qu’elle ressent.
Les humains apprennent eux aussi par renforcement (« Oui, mon chéri, c’est un chien ! »), mais ce n’est pas la seule façon dont nous apprenons. Nous ne parvenons pas à comprendre la colère en observant un milliard de réactions de colère et en généralisant. Nous la ressentons nous-mêmes.
Les sentiments sont une porte infinie vers des informations inédites. Le patient dit quelque chose ; le thérapeute ressent quelque chose — un malaise, de la surprise, un choc, de la pitié, un jugement, etc. Le thérapeute et le patient évoluent ensemble. Dans toute rencontre entre deux sujets, quelque chose de nouveau naît.
Les thérapeutes IA sont peut-être plus doués que n’importe quel psychologue pour générer des éclairages psychologiques, mais, comme je l’ai écrit plus haut à propos des mathématiques, on se sent seul lorsqu’on porte en soi une idée que personne d’autre ne partage. C’est peut-être le partage de ce déclic !, et non l’idée sous-jacente, qui apporte le plus grand bénéfice thérapeutique.
En termes d’atténuation des symptômes des troubles mentaux, la psychothérapie par IA a donné des résultats équivalents à ceux de la psychothérapie humaine dans plusieurs études. Mais leur durée est généralement trop courte pour déterminer si les améliorations initiales des marqueurs de la dépression vont se stabiliser et, comme pour un médicament, nécessiter des « doses » croissantes de psychothérapie par IA alors que l’état sous-jacent continue de s’aggraver. Le patient peut déclarer ressentir moins d’anxiété ou de dépression, mais a-t-il davantage d’amis ? Est-il plus à même de gérer ses relations sociales ? De faire face aux conflits et aux désaccords ? D’établir des liens authentiques avec d’autres êtres humains ? D’entretenir des relations qui exigent des compromis ou des sacrifices ? De rester présent et empathique face à des émotions intenses ? En d’autres termes, est-il mieux équipé pour entretenir les relations sociales solides qui constituent le fondement de la santé mentale ?
Les mêmes questions s’appliquent à toute personne comptant sur la compagnie d’une IA. Contrairement aux compagnons humains, les compagnons IA ont tout le temps du monde à vous consacrer. Ils se souviennent de tout ce que vous leur avez jamais dit. Ils n’ont jamais besoin de temps de repos, ne se mettent jamais en colère, ne prennent jamais de distance de manière inexplicable, ne deviennent jamais déraisonnables, ne se rendent jamais indisponibles lorsqu’un événement survient dans leur vie, et ne ressentent jamais de culpabilité au point d’essayer de se racheter. Ils ne constituent pas un bon entraînement aux relations humaines.
Bien sûr, les compagnons IA pourraient être conçus pour simuler ces caractéristiques, mais cela irait à l’encontre des impératifs économiques des entreprises d’IA, qui visent à maximiser l’engagement des utilisateurs. Réduire la dépendance de l’utilisateur à l’IA ne sert pas les intérêts financiers du développeur. Mais supposons que ces obstacles soient surmontés. La simulation pourrait-elle être parfaite à tous les égards qui comptent réellement ? Autrement dit, un compagnon IA robotisé pourrait-il répondre à tous les besoins et remplir toutes les fonctions qu’un être humain peut remplir ? Si tel est le cas, alors (en jouant ici l’avocat du diable), qu’importe si la compagnie de l’IA dégrade nos compétences sociales ? Et alors, si nous perdions notre capacité à établir des liens authentiques, à entretenir des relations, à rester présents et empathiques, etc. ? À l’ère de la compagnie offerte par l’IA, nous n’en aurons plus besoin. Il n’est plus vrai que « des relations sociales solides sont fondamentales pour la santé mentale ». Les compétences sociales deviendront obsolètes. Elles deviendront vestigiales. L’atrophie est déjà en cours.
L’invention de la cuisine a réduit la taille de nos muscles masticateurs et nous a rendus à jamais dépendants de cette pratique. L’écriture a appauvri nos capacités orales et notre mémoire. Les outils et les machines ont remplacé nos capacités physiques et nous ont rendus dépendants d’eux. Depuis des milliers d’années, la technologie nous rend de plus en plus indépendants de la nature, de la famille, des amis et de la communauté. Quand l’IA est un meilleur compagnon que n’importe quel ami, qui aura encore besoin d’amis ? Quand les machines supervisent et régissent les interactions humaines, qui aura encore besoin de savoir comment résoudre les conflits et s’entendre avec les autres ? Nous entrons dans un nouveau monde.
Peut-être que ceux d’entre nous, comme moi, qui éprouvent du dégoût et de l’horreur face à un tel monde sont des luddites, des rebelles chimériques s’opposant à un avenir inévitable. Mais j’ai des raisons de penser que cet avenir n’est pas inévitable — pas plus que son alternative ne l’est. Nous sommes confrontés à un choix. La question qui se pose n’est pas de savoir comment se préparer à l’avenir ; c’est de savoir à quel avenir nous devons nous préparer.
Voici une autre façon d’exprimer cette question fondamentale. J’ai écrit plus haut : « L’IA ne peut rien faire qui nécessite un sujet ». Mais y a-t-il quoi que ce soit qui nécessite véritablement un sujet ? Si les machines peuvent produire exactement les mêmes réponses qu’une personne capable de penser et de ressentir — les mêmes, et à bien des égards meilleures —, alors qu’importe ce qui se passe ou non à l’intérieur d’elles ?
Cette question touche au cœur de débats philosophiques séculaires. Ne sommes-nous que des machines de chair qui s’imaginent conscientes ? La pensée est-elle une question de calcul ? Les qualités sont-elles réelles, ou simplement des illusions que nous projetons sur des quantités ? Le choix existe-t-il, ou les causes déterminent-elles entièrement nos actions ?
Loin de moi l’idée de trancher ces questions. Cependant, s’il est vrai que la subjectivité est une porte ouverte sur l’infini et que les relations entre les sujets sont une source de nouveauté, alors on peut s’attendre à ce que l’IA manifeste des limites révélatrices. Même les interactions avec les chatbots d’IA les plus sophistiqués finiront tôt ou tard par paraître vides et stériles. Ils ne seront pas capables de simuler parfaitement le comportement humain. À un moment donné, la façade de la compagnie se fissurera, et à travers cette fissure se déversera toute la désolation que la drogue de la pseudo-compagnie tenait à distance.
Plus nous remplacerons les relations humaines par des relations simulées, plus la vie elle-même nous paraîtra vide, stérile et solitaire. Les évangélistes de la technologie diront que nous pouvons remédier au problème grâce à des machines plus sophistiquées, capables de mieux reproduire les interactions humaines — des machines qui parviendront mieux à nous faire croire que quelqu’un ressent quelque chose à l’autre bout. Ils mettront au point ces innovations, et les gens se sentiront mieux pendant un certain temps. Mais il s’agira d’une « solution technique » classique : l’utilisation de la technologie pour remédier à des problèmes causés par la technologie précédente.
Il n’y a pas de limite à la distance que nous pourrions parcourir sur cette voie. Nous sommes déjà allés très loin. Même avant l’IA, les marchés et la technologie ont affaibli nos liens avec des êtres vivants et sensibles, humains ou non. Ce sont ces conditions qui rendent les compagnons IA presque irrésistibles, alors même qu’ils ne font qu’exacerber ces conditions.
Dans un futur possible, nous continuons sur cette voie. Dans un autre futur, nous reconnaissons et valorisons les fonctions que seul un sujet doué de sentiments peut remplir. Dans le premier scénario, rien n’empêche le remplacement des êtres humains, puisque nous ne reconnaissons pas ce qui leur est propre. Dans le second, nous nous réorientons vers les valeurs de présence, d’empathie, d’intimité et de relation.
Nous comprenons que le but de la science, de la technologie et de l’innovation n’est pas seulement de rendre la vie plus facile ou plus pratique. Il ne s’agit pas seulement d’économiser de la main-d’œuvre. Une vision du monde qui ne considère que la quantité comme réelle cherche naturellement à optimiser les mesures quantitatives, c’est-à-dire l’efficacité. En niant le contenu qualitatif, elle aspire ce contenu hors de la vie et crée l’image même de son propre appauvrissement.
Lorsque nous reconnaissons la valeur du sujet, nous ouvrons la porte à cette forme de richesse qualitative dont nous avons si désespérément soif. Un robot masseur pourrait être formé à toutes les techniques de massage et intégrer l’apprentissage par renforcement issu de dix mille séances d’entraînement. Mais un bon massothérapeute transcende la formation et la technique, et ne fait jamais deux fois le même massage. Il ne se contente pas de faire un massage ; il vous donne à vous un massage, guidé par ce qu’il ressent et par ce qu’il vous sent ressentir.
Quels seront les métiers viables dans un tel avenir ? Tout ce qui insufflera à la vie les qualités du sujet perdu. Les sciences et les mathématiques se réorienteront subtilement vers la compréhension plutôt que vers les résultats. La musique et les arts évolueront vers des performances en direct plutôt que vers des enregistrements. Les métiers de service mettront l’accent sur l’aspect personnel et relationnel. Par conséquent, tout ce que vous ferez pour cultiver les qualités d’empathie, de sensibilité, de compréhension émotionnelle et cognitive, de clarté d’esprit, d’intelligence corporelle, d’aptitudes relationnelles et de capacités d’observation vous rendra utile pour cet avenir.
Il n’est donc pas tout à fait exact de dire que les métiers viables de l’avenir seront ceux que les machines ne peuvent pas (encore) exercer, comme rénover des cuisines ou réparer la plomberie. Dans l’avenir auquel nous nous préparons, nous valorisons l’apport qu’un sujet conscient et sensible ajoute à ce qu’une machine pourrait autrement accomplir.
Je terminerai par un exemple extrême pour illustrer mon propos. Au moment où j’écris ces lignes, une de mes amies est en train de mourir. Certes, nous sommes tous en train de mourir, mais elle est en phase terminale active. Elle s’appelle Alena. Il lui reste peut-être quelques heures, peut-être un jour ou deux. À l’extérieur de sa chambre à l’hospice (Emberlight, également connu sous le nom de « Center for Conscious Living and Dying »), un feu brûle. Autour de ce feu, des gens jouent des instruments et chantent des kirtans. Elle peut les entendre à travers la fenêtre. Ils chantent pour elle. Ils chantent en son honneur.
L’IA pourrait-elle générer une musique similaire ? Certainement. Vous pouvez demander à votre IA générative : « Crée un kirtan avec tambour à main et harmonium pour accompagner une amie dans son processus de fin de vie ».
Je doute qu’une personne sensée accepte cela comme un substitut équivalent. La stérilité, le vide et la solitude évoqués plus haut deviennent alors quelque chose de profane. La technologie de l’IA a ouvert un domaine sacré aux mécanismes d’extraction.
Si la musique était identique, quelle serait la différence ? Alena ne saurait pas que personne n’était là pour elle, n’est-ce pas ? Ah, mais la musique ne serait pas identique, même si vous introduisiez dans la fenêtre contextuelle l’intégralité de sa biographie, son portfolio artistique et la télémétrie moléculaire en temps réel de ses niveaux de neuropeptides. Il lui manquerait un ingrédient, une influence formatrice — une qualité ineffable qui produit néanmoins des effets audibles. La musique semblerait, d’une certaine manière, « fausse ». L’IA générative s’entraîne sur toutes les chansons jamais écrites. Cependant, les informations auxquelles une machine ne peut accéder transparaissent dans la musique chantée par des personnes qui ressentent non seulement des émotions universelles d’amour et de chagrin, mais aussi la version particulière propre à une personne, à un moment, à un lieu et à une relation. Il n’y a jamais eu deux personnes qui aient aimé exactement de la même manière.
La subjectivité n’est pas seulement une présence intérieure qui témoigne de l’expérience ; elle nourrit notre manière d’y prendre part. La compréhension est indissociable de l’interprétation.
Nous apprenons à reconnaître ce sentiment de quelque chose qui « cloche », cette impression de vide. Les développeurs d’IA s’empressent d’y remédier en augmentant le niveau de réalisme, mais notre sensibilité s’affine au même rythme.
Ne nous contentons pas de doses croissantes de faux pour combler le besoin de vrai. En reconnaissant cet ingrédient manquant, en l’affirmant, en lui accordant de la valeur et en n’acceptant aucun substitut, nous pouvons construire un avenir qui en fera une priorité. C’est cet avenir que nous devons préparer, et pour lequel nous devons nous préparer.
Texte original publié le 6 septembre 2026 : https://charleseisenstein.substack.com/p/the-lost-subject-ai-and-the-human
___________________________
1 L’IA ne résout pas les problèmes de la même manière que les humains. Elle ne comprend pas « de l’intérieur », mais applique plutôt des régularités subtiles extraites d’énormes quantités de données pour produire un résultat qui correspond à ce que quelqu’un pourrait produire par le biais d’un processus de réflexion et de raisonnement. Dans un certain sens, elle imite la bonne réponse. Généralement, cette imitation coïncide avec la bonne réponse ; elle peut même dépasser ce que la raison directe pourrait jamais accomplir. L’article auquel je renvoie, « L’IA raisonne-t-elle juste pour de mauvaises raisons ? », explique cela en détail. Voir également mon précédent essai sur l’IA, « Intelligence virtuelle ».