Soyez conscient de ce qui va arriver
Je pense désormais qu’il n’y a pas de catastrophe plus grande nous attendant que celle qui sera provoquée par les progrès de l’IA.
Ses effets sur l’âme humaine et sur tout ce qui rend la vie digne d’être vécue sont si importants qu’ils dépassent la compréhension de l’esprit humain ordinaire ; rien de tel n’a jamais été observé auparavant. C’est la seule explication possible à l’étrange indifférence que beaucoup de gens semblent encore manifester, même à l’heure actuelle, alors que le temps presse.
Je pense ici avant tout aux changements sociaux et politiques qui se produisent actuellement à un rythme très rapide, et qui ne sont pas nécessairement pilotés par les politiciens eux-mêmes, mais inévitablement exploités par ceux — qu’il s’agisse de gouvernements ou de multinationales — qui souhaitent exercer un contrôle total sur le corps, l’esprit et l’âme des êtres humains, dès lors que la technologie leur permettra de le faire. Il ne s’agit donc pas tant de machinations machiavéliques que d’opportunisme machiavélique. C’est ainsi que le mal prospère. Il est vrai qu’un contrôle et une surveillance importants sont déjà en place sur Internet, sans que cela soit évident pour beaucoup, mais le pire, bien pire, peut arriver.
Aucun changement, aussi maléfique soit-il, n’est introduit sans être présenté comme un bien incontestable. Il suffit de penser aux atrocités effroyables du XXe siècle commises au nom de ce qui était présenté comme des idéaux élevés auxquels aucun citoyen loyal ne pouvait s’opposer : ceux qui le faisaient néanmoins étaient rapidement « disparus », torturés et tués. Les autres continuaient à « faire disparaître », torturer et tuer.
Vous avez peut-être lu, au cours des deux dernières années, des articles sur des appareils capables de lire et de transcrire les pensées de sujets, dans certains cas sans même que ceux-ci aient besoin de les formuler intérieurement. Ces appareils sont scientifiquement certifiés. Cela apporte évidemment de l’espoir à de nombreuses personnes privées de la parole, par exemple en raison d’une maladie des motoneurones ou, plus couramment, d’un accident vasculaire cérébral ; et personne de bon cœur ne pourrait souhaiter priver des humains qui souffrant d’un tel soulagement. Je suis en effet conscient que je pourrais moi-même un jour faire partie de ces personnes. De même, comment ne pas voir que cette technologie pourrait être utilisée par des despotes pour exercer un contrôle total, dont les tyrans précédents, tels que Staline, n’auraient même pas osé rêver ? Et si cela peut être ainsi utilisé, soyez certains qu’elle le sera. Nous devons à tout prix éviter d’être des « idiots utiles » en adoptant de manière imprudente les nouvelles technologies. Pour être clair, je ne remets absolument pas en cause les motivations des équipes qui ont mis en œuvre ces développements avec compétence et ingéniosité. Les motivations sont une chose, et viennent avant ; les conséquences en sont une autre, et viennent après.
Certains pourraient penser qu’il s’agit là d’un scénario alarmiste fantaisiste. Mais il faudrait vraiment s’y employer. Il faudrait fermer les yeux sur ce qui se passe autour de soi. Il y a dix ans à peine, il était encore possible de vivre sa vie — certes avec quelques inconvénients — sans téléphone portable. Aujourd’hui, la plupart d’entre nous ne peuvent plus faire des choses aussi basiques que d’ouvrir un compte bancaire ou prendre rendez-vous chez le médecin sans en avoir un. (Dans de nombreuses régions, les lignes fixes sont supprimées unilatéralement, et il ne fait aucun doute que c’est là l’avenir). J’essaie d’utiliser le mien le moins possible, mais je dois néanmoins en avoir un à disposition. Même les personnes âgées, même les enfants, même les sans-abri, semble-t-il, doivent désormais avoir un téléphone à portée de main. Il y a tant à dire contre un tel état de fait en raison de son effet omniprésent sur l’épanouissement humain, mais, pour l’instant, je pense exclusivement à la perte la plus flagrante et la plus grave de dignité et de liberté humaines.
La surveillance gouvernementale progresse à grands pas. En Grande-Bretagne, nous étions fiers, à juste titre, de ne pas être obligés de porter des cartes d’identité. Les précédentes tentatives pour les introduire ont été rejetées. Mais le monde a changé, et en raison des problèmes imposés à la société par l’immigration massive et illégale, le gouvernement travailliste prévoit de les introduire très prochainement. Les arguments en faveur semblent parler d’eux-mêmes, et je dois admettre que de nombreux pays européens civilisés ont adopté ces cartes d’identité depuis longtemps sans pour autant devenir totalitaires. Du moins jusqu’à récemment. Il convient de noter que les cartes d’identité n’ont en fait pas sauvé ces pays de l’immigration illégale ; et nous serions sur le point d’adopter un tel système au moment même où une sorte de totalitarisme rampant, ou « doux » (= pas si doux), devient en effet une caractéristique de la vie dans de nombreux pays de l’UE dépendants de Bruxelles. Le gouvernement propose-t-il donc quelque chose d’utile, ou cède-t-il simplement à l’esprit du temps (de plus en plus totalitaire) ?
Réfléchissez ensuite au fait qu’il existe une épidémie de vols de téléphones portables. Selon la police métropolitaine, environ 80 000 téléphones portables ont été volés rien qu’à Londres l’année dernière. Cela est pénible pour les victimes et représente un énorme problème de sécurité. Notez bien mes mots, il ne faudra pas longtemps avant qu’un « idiot utile » ait l’idée qu’il serait beaucoup plus sûr d’implanter une puce lisible dans chaque citoyen légitime : grâce à elle, ils pourraient entrer dans des bâtiments, faire leurs achats, prendre les transports en commun, prendre des rendez-vous médicaux et effectuer leurs opérations bancaires, le tout d’un simple geste de la main. De même, nous ne savons pas ce qu’une puce lisible pourrait elle-même lire…
Bien sûr, il se peut que la meilleure solution pour l’identification soit la reconnaissance des empreintes digitales ou de l’iris, qui, tout en étant sans aucun doute intrusive, est néanmoins beaucoup plus sûre et beaucoup moins intrusive que n’importe quelle puce. Mais même ces méthodes permettraient en principe à un gouvernement ou à une entreprise de surveiller toutes nos activités, en ligne et hors ligne, ce que nous achetons, avec qui nous passons notre temps, où nous nous trouvons à tout moment, etc., comme le font les Chinois et d’autres systèmes totalitaires dits de « crédit social ». Et ces systèmes offrent des « incitations » à ne pas sortir du rang : dites la mauvaise chose, soyez vu avec la mauvaise personne, et vous vous retrouverez soudainement dans l’impossibilité de voyager, de perdre votre emploi ou sans logement.
Ajoutez à cela la propagation de la technologie des nanoparticules, qui peuvent être pulvérisées ou répandues de manière indétectable, par inhalation ou ingestion, et qui peuvent modifier l’humeur, l’esprit et le comportement. Les applications de ce type de technologie sont légion, et très peu d’entre elles sont attrayantes.
Tout ce que j’ai écrit ici n’est que la partie émergée d’un problème beaucoup plus vaste, à savoir ce que l’IA fait de manière beaucoup plus discrète et, en apparence, moins alarmante, pour modifier la nature humaine. J’ai déjà écrit à ce sujet, principalement ailleurs, mais cela nécessite beaucoup plus d’espace que ne le permet cet article Substack. Je reviendrai sans aucun doute sur ce sujet. Le prochain livre de Paul Kingsnorth, Against the Machine: On the Unmaking of Humanity (Contre la machine : sur le démantèlement de l’humanité), vaut la peine d’être lu à ce sujet. Mais mon objectif principal ici était de me concentrer sur les possibilités brutales et manifestes de contrôle mental qui ne sont pas seulement à une décennie, mais à moins de deux ans de leur mise en œuvre, si l’on en croit les rumeurs du Forum Économique Mondial. Cette technologie existe depuis un certain temps et ne cesse de s’améliorer.
Qu’est-ce qui m’a poussé à écrire cet article ? Une personne charmante et intelligente m’a dit l’autre jour — et elle n’était pas la première — que « l’IA est là pour rester et que nous devons trouver un moyen de vivre avec ». Bien que je comprenne ce qu’elle voulait dire, j’ai été glacé par cette idée et j’ai dû exprimer un point de vue différent. Car rien ne représente une plus grande menace que l’IA, et le fatalisme est suicidaire à ce stade. Nous sommes comme la grenouille proverbiale dans une casserole d’eau sur une plaque chauffante. Tout comme ceux qui ne voulaient pas avoir de téléphone portable trouvent aujourd’hui que la vie est pratiquement impossible sans, si la majorité se laisse séduire par l’adoption du prochain badge électronique, quel qu’il soit, il deviendra bientôt incontournable pour tous. Il s’agit donc d’un appel, sinon à la résistance — pour l’instant —, du moins à un scepticisme extrême. Mais certainement pas à des réactions aveugles et enthousiastes, telles que « c’est tellement pratique » ou « je n’ai rien à cacher ».
Il est très courant de nos jours d’entendre le sentiment fataliste selon lequel nous devons vivre avec « ça », quoi que « ça » puisse être (dans ce cas, il s’agit en fait des technologies de l’information). Mais cela est certainement indigne, en plus d’être défaitiste à un point qui est historiquement très inhabituel. Les êtres humains sont connus pour se révolter en grand nombre contre la tyrannie, et non pour s’y soumettre et accepter tout ce qui leur arrive. Tant de changements inutiles se produisent tout le temps et pourtant, au lieu de les remettre en question, nous les acceptons simplement avec un haussement d’épaules. Bien sûr, même s’ils semblent inutiles pour les personnes concernées, ils ne le sont pas nécessairement d’un autre point de vue : celui de ceux qui sont avides d’argent et de pouvoir. Avilir l’humanité, contrôler les êtres humains, leur apprendre à mépriser et à se rebeller contre leur propre nature incarnée, et produire des pions identiques et interchangeables dans un jeu dont ils ne comprennent pas qu’ils font partie ; un excellent projet grâce auquel les riches s’enrichissent et les pauvres s’appauvrissent. Supprimer des emplois et offrir des loisirs. Mais les loisirs ne nous appartiennent pas, car, si l’IA permet aux super-riches d’économiser encore plus d’argent en leur permettant de se passer de personnel dans leurs entreprises, cette suppression de personnel impose au reste d’entre nous un énorme fardeau de temps perdu. Et votre temps n’a aucune valeur.
Qui ne se trouve pas constamment occupé aujourd’hui ? Les jeunes, les personnes d’âge moyen et les personnes âgées le ressentent de la même manière. Nous sommes tous pauvres en temps, et le temps n’est pas sans valeur. Le temps, c’est la vie. Tout est aujourd’hui alourdi par une bureaucratie excessive, et la bureaucratie est dans une alliance contre nature avec l’IA. Ensemble, elles gaspillent notre temps de manière massive et colossale. Ce qui, il y a encore dix ans, pouvait être rapidement résolu par un appel téléphonique de cinq minutes à un autre être humain qui avait encore un peu de bon sens, nécessite aujourd’hui plusieurs heures à tourner en rond sur Internet, comme dans une boucle à la MC Escher, passant d’une « plateforme » à une autre, sans aucune issue, car aucune des options proposées (et vous devez en choisir une) ne correspond aux situations réelles de la vie. Et le système est d’une stupidité spectaculaire. « Mot de passe non reconnu », « code non valide », « nous rencontrons des problèmes avec notre système, veuillez réessayer plus tard » ou — mon préféré — « oups, une erreur s’est produite… ». Les jeunes d’aujourd’hui seront-ils capables de reconnaître à quoi pourrait ressembler la vie s’il y avait plus d’humains dedans ?
Et cela ne concerne que nous. Qu’advient-il des personnes qui ont perdu leur emploi à cause de l’automatisation ? Nous savons que le chômage, loin d’être une voie vers les loisirs et le plaisir, est la voie royale vers la dépression, le sentiment d’inutilité et le désespoir.
Pour l’amour de l’humanité, remettez en question, soyez sceptiques, soyez conscients. Ne considérez pas chaque assaut comme inévitable. Résistez par vos paroles et vos actes. Le contraire de la vie n’est pas la mort, mais la machine. Vous n’êtes pas une machine, et toute personne qui suggère que vous l’êtes devrait être fermement, mais poliment, remise à sa place. Résistez fermement à la vague de mort mécanique qui s’annonce, peut-être dans deux ans. Nous pouvons avoir une influence, nous avons le pouvoir d’agir : c’est du moins la situation actuelle. Dans quelques années, probablement, je ne pourrai plus écrire cela. Mais, quoi qu’il arrive, il est plus digne de se battre jusqu’au bout que de laisser les derniers d’entre nous devenir de simples robots et esclaves. Battez-vous avec moi.
Texte original publié le 5 septembre 2025 : https://iainmcgilchrist.substack.com/p/can-you-still-be-human