L’Âge de la dépossession
« Le ministère de la Vérité ». Il est toujours utile de se demander ce que cache un nouveau slogan, ce que le mouvement qui le sous-tend vous enlève secrètement tout en donnant l’impression de vous donner. Il est évident qu’aucun mouvement, aucun État politique dont le nom comporte le mot « liberté » n’a jamais offert la liberté — il a offert, comme nous le savons tous très bien, exactement le contraire. Il en va de même pour la République démocratique de —, la République populaire de —, etc. Même la première république imaginée, la République de Platon, était à bien des égards un État totalitaire.
Mais l’effet est bien plus omniprésent que nous le pensons. David Bohm a qualifié à juste titre les Lumières d’« obscurcissement » : elles ont fermé l’esprit occidental pendant plusieurs centaines d’années à d’importants modes de compréhension, dont la perte — à travers des positions politiques et philosophiques de matérialisme réducteur — a non seulement alimenté la montée de régimes hautement oppressifs, mais a véritablement plongé dans la misère des générations de personnes à qui l’on a faussement enseigné à croire que rien dans leur vie n’avait plus de sens.
Ne vous méprenez pas : si j’avais vécu au début du XVIIIe siècle, j’imagine que j’aurais — je l’espère non sans esprit critique ni réserve — adhéré à la valeur d’un tel mouvement, y voyant le potentiel de libérer les gens de nombreuses peurs et superstitions, et de leur redonner le respect de soi. Mais il existe un principe qui garantit que la lumière dans les yeux au début exaltant d’un mouvement cède tôt ou tard la place aux ténèbres — des ténèbres bien trop visibles.
Avec le « wokisme », les gens ont réellement fermé les yeux et se sont endormis — ce que Goya appelait le sommeil de la raison.
« Le sommeil de la raison engendre des monstres » par Goya, vers 1799
Les libéraux sont devenus passionnément illibéraux. Alors que leur rhétorique était empreinte de gentillesse, ils étaient souvent vicieux, vindicatifs et remplis de haine. Les intentions de la DEI étaient peut-être bonnes en apparence, mais elles ont produit l’opposé de la diversité, de l’équité et de l’inclusivité. Une plus grande liberté pour les femmes fut autrefois un cri de ralliement inspirant, mais le fait est que la libération des femmes n’a pas débouché sur une ère de plus grand bonheur pour elles. Le bonheur et la santé mentale ont décliné au cours des 40 dernières années, encore plus fortement chez les femmes que chez les hommes.
Les personnes comme moi risquent d’être insultées pour avoir souligné des réalités que nous devrions tous regarder en face, même si elles ne correspondent pas aux préjugés dans lesquels nous avons été vigoureusement endoctrinés. Des séances de lavage de cerveau obligatoires, qui ne permettaient aucune diversité d’opinion, étaient apparemment le moyen de gagner la bataille pour la « liberté ».
Je pourrais aborder ce sujet sous de nombreux angles, d’autant plus que je me prépare à prononcer le discours d’ouverture d’une conférence sur la liberté cognitive à Duke en mars, ce qui fait que ce sujet me préoccupe beaucoup. Mais je ne veux en suivre qu’un seul.
Les catastrophes environnementales seront graves, tragiques et incroyablement destructrices. C’est quelque chose que j’ai du mal à accepter. Néanmoins, comme vous le savez, je pense désormais que la menace posée par l’IA est encore pire. La vie pourrait finalement survivre au premier type de catastrophe, et peut-être même que certaines formes de société survivraient. Qui sait, peut-être qu’une société plus authentique émergerait, une société fondée sur la confiance, la compassion et la fraternité, et non sur la malhonnêteté, l’exploitation et l’hostilité. Mais l’IA annonce la mort, et ce, très bientôt.
Il y a deux jours, un certain Mrinank Sharma m’a écrit pour m’envoyer un article, que vous pouvez lire ici. Je l’ai trouvé troublant, mais tout à fait conforme à ce que j’apprenais sur l’impact de l’IA sur les humains, en particulier ceux qui croyaient avoir une « relation » avec une machine. Le mot « désautonomisation ou dépossession » en titre a attiré mon attention, car le mot à la mode de notre époque est « autonomisation », alors qu’en réalité, il n’y a jamais eu de désautonomisation comparable à celle qui nous attend tous à une vitesse vertigineuse avec l’adoption de l’IA. L’une des choses que Sharma m’a dites à propos de son article était : « Je m’appuie sur votre concept de “valueception”, mais j’examine comment les assistants IA pourraient limiter la capacité des gens à “valuecepter” ».
Le mot « valueception » peut sembler étrange au premier abord. Il s’agit d’une traduction du mot Wertnehmung utilisé par le grand philosophe des valeurs Max Scheler, et qui met en évidence notre capacité particulière à percevoir intuitivement la valeur d’une chose avant même d’avoir les moyens de la calculer. Comme vous le savez, je suis convaincu de la place centrale de la valeur dans notre conscience : elle n’est pas quelque chose que nous inventons pour nous réconforter, mais quelque chose qui préexiste et qui est un aspect fondamental de la conscience elle-même. Je soutiens que le cosmos est en évolution, et qu’une partie de cette évolution consiste à parvenir à se connaître lui-même à travers le déploiement du potentiel dans la réalité. Le rôle particulier des humains est de résonner, de réciproquer, d’assumer la responsabilité d’aider les valeurs du vrai, du bien, du beau et du sacré à se manifester toujours davantage. Soit nous répondons et les aidons à se développer, soit nous échouons et les laissons périr. C’est là notre choix décisif, individuellement et en tant que peuple. Et si jamais nous devions disparaître de ce monde, aucune machine ne serait capable de remplir ce rôle, même en une éternité de temps.
Le lendemain, j’ai reçu un message de mon collègue neuroscientifique et philosophe Àlex Gómez-Marín, contenant un lien vers la lettre publique suivante de Mrinank Sharma, annonçant sa démission d’Anthropic. Anthropic est l’une des entreprises les plus riches au monde, sa valeur étant passée de 183 milliards de dollars à 350 milliards de dollars en quatre mois. Je venais justement de découvrir cette entreprise, car, dans le cadre d’un recours collectif au nom des auteurs du monde entier (dont je fais bien sûr partie), Anthropic a été contrainte de verser la modique somme de 1,5 milliard de dollars aux auteurs dont elle avait exploité et volé les œuvres pour alimenter son IA. Du coup, plusieurs fils se sont soudainement rejoints.
Veuillez lire la lettre de démission de M. Mrinank :
Chers collègues,
J’ai décidé de quitter Anthropic. Mon dernier jour sera le 9 février.
Merci. Il y a tant de choses ici qui m’inspirent et m’ont inspiré. Pour n’en citer que quelques-unes : le désir sincère et la volonté de se présenter dans une situation aussi difficile, et d’aspirer à contribuer de manière efficace et intègre ; la volonté de prendre des décisions difficiles et de défendre ce qui est bon ; une intelligence et une détermination hors du commun ; et, bien sûr, la grande bienveillance qui imprègne notre culture.
J’ai accompli ce que je voulais ici. Je suis arrivé à San Francisco il y a deux ans, après avoir terminé mon doctorat et avec le souhait de contribuer à la sécurité de l’IA. Je me sens chanceux d’avoir pu contribuer à ce que j’ai accompli ici : comprendre la flagornerie de l’IA et ses causes ; développer des défenses pour réduire les risques liés au bioterrorisme assisté par l’IA ; mettre ces défenses en production ; et rédiger l’un des premiers guides sur la sécurité de l’IA. Je suis particulièrement fier de mes efforts récents pour nous aider à vivre nos valeurs grâce à des mécanismes de transparence interne, ainsi que de mon projet final visant à comprendre comment les assistants IA pourraient nous rendre moins humains ou déformer notre humanité. Merci pour votre confiance.
Néanmoins, il est clair pour moi que le moment est venu de passer à autre chose. Je ne cesse de réfléchir à notre situation. Le monde est en péril. Et pas seulement à cause de l’IA ou des armes biologiques, mais à cause de toute une série de crises interdépendantes qui se déroulent en ce moment même. Nous semblons approcher d’un seuil où notre sagesse doit croître à la même mesure de notre capacité à influencer le monde, sous peine d’en subir les conséquences. De plus, tout au long de mon séjour ici, j’ai constaté à maintes reprises à quel point il est difficile de laisser nos valeurs guider véritablement nos actions. Je l’ai constaté en moi-même, au sein de l’organisation, où nous sommes constamment soumis à des pressions pour mettre de côté ce qui compte le plus, mais aussi dans la société en général.
C’est en tenant cette situation et en écoutant du mieux que je peux que ce que je dois faire devient clair. Je veux contribuer d’une manière qui me semble pleinement conforme à mon intégrité et qui me permette de mettre plus à profit mes particularités. Je veux explorer les questions qui me semblent vraiment essentielles, celles que David Whyte qualifierait de « questions qui n’ont pas le droit de disparaître », celles que Rilke nous implore de « vivre ». Pour moi, cela signifie partir.
Ce qui va suivre, je ne le sais pas. Je pense avec affection à la célèbre citation zen « ne pas savoir est la chose la plus intime ». Mon intention est de créer un espace pour mettre de côté les structures qui m’ont retenu ces dernières années, et voir ce qui pourrait émerger en leur absence. Je me sens appelée à écrire des textes qui abordent et traitent pleinement le lieu où nous nous trouvons, et qui placent la vérité poétique au même niveau que la vérité scientifique comme modes de connaissance tout aussi valables l’un que l’autre, car je crois que les deux ont quelque chose d’essentiel à apporter dans le développement des nouvelles technologies. J’espère explorer un diplôme de poésie et me consacrer à la pratique de la parole courageuse. Je suis également enthousiaste d’approfondir ma pratique de la facilitation, du coaching, de la création de communautés et du travail de groupe. Nous verrons ce qui se passera.
Merci et au revoir. J’ai beaucoup appris ici et je vous souhaite le meilleur. Je vous laisse avec l’un de mes poèmes préférés, The Way It Is (C’est comme ça) de William Stafford.
Bonne chance,
Mrinan
The Way It Is Il y a un fil que vous suivez. Il passe parmi des choses qui changent. Mais il ne change pas. Les gens se demandent ce que vous poursuivez. Vous devez expliquer ce qu’est ce fil. Mais il est difficile pour les autres de le voir. Tant que vous le tenez, vous ne pouvez pas vous perdre. Des tragédies surviennent ; des gens sont blessés ou meurent ; et vous souffrez et vieillissez. Rien de ce que vous faites ne peut arrêter le temps qui passe. Vous ne lâchez jamais le fil. William Stafford
Le même jour, j’ai vu ce titre dans le blog de Rod Dreher : « AI dude goes full McGilchrist » (Un spécialiste de l’IA va à fond comme McGilchrist). L’article faisait référence à cette même lettre.
Puis, en ouvrant le Times ce matin, j’ai trouvé le titre suivant : « Le monde est en péril » : des chercheurs en IA démissionnent et lancent des avertissements publics, faisant notamment référence au départ de Mrinank Sharma d’Anthropic et de Zoë Hitzig d’OpenAI.
Bref, j’aurais beaucoup à dire, mais je me contenterai de leur dire « bravo ». J’espère qu’ils auront un impact considérable. J’espère que leur prise de position courageuse sera imitée par de nombreux travailleurs de l’IA. Si certains d’entre vous pensent qu’ils pourraient le faire, mais ont des doutes, c’est le moment d’agir, tant que cela a encore un impact et avant qu’il ne soit trop tard.
Texte original publié le 12 février 2026 : https://iainmcgilchrist.substack.com/p/ai-and-me-and-a-hero-called-mrinank