Traduction libre
17 mars 2024
Les lecteurs du magazine Analogy sont désormais familiers avec les problèmes rencontrés par les types scientifiques, généralement athées, qui refoulent et ignorent leur monde intérieur, une condition qui conduit finalement à un comportement irrationnel : ils souffrent souvent d’effondrement, par exemple, lorsqu’ils sont confrontés à des critiques ou à des idées qui remettent en cause leur vision du monde. Très souvent, ils souscrivent également à des notions totalement irrationnelles telles que l’affirmation selon laquelle les humains sont essentiellement des robots égoïstes.
Cette croyance particulière est omniprésente de nos jours et explique une grande partie de la rhétorique sur le changement climatique et les confinements. Combien de fois ai-je entendu dire que la propagation du koof (covid) était due à des égoïstes qui refusaient de se plier au masquage, au confinement, au couvre-feu et aux vaccins ? De déplorables égoïstes détruisent la planète et menacent nos enfants — ce genre de discours scientiste n’était que trop courant (et l’est malheureusement toujours).
Une autre idée risible qui découle de l’analogie du robot égoïste est la prophétie à saveur scientifique prédisant que ce n’est qu’une question de temps avant que l’IA n’atteigne la « singularité » — ce moment où elle devient consciente et où le Dr Frankenstein s’écrie : « C’est VIVANT ! » Encore plus ridicule est la croyance parmi les enthousiastes de l’IA que les machines atteindront une « intelligence surhumaine » et deviendront bien plus puissantes que nous ; nous parlons ici vraiment du monstre de Frankenstein et de toute une série de films de science-fiction tels que 2001, l’Odyssée de l’espace, Star Trek : Premier contact et La Matrice, dans lesquels l’IA domine et détruit ou réduit en esclavage l’humanité au service de laquelle elle a été conçue.
Il se peut très bien que l’IA contribue aux prévisions météorologiques et qu’elle permette de résoudre les problèmes liés à diverses technologies, comme la fusion nucléaire. Seul l’avenir nous dira si l’IA est à la hauteur des tâches impliquant des facteurs avec lesquels nous avons tant de mal à travailler en raison de problèmes de cadrage — des facteurs qui échappent aux paramètres de nos calculs. Un problème célèbre en physique des particules, par exemple, est que nous ne pouvons pas connaître à la fois la position et la vitesse d’un objet subatomique. C’est ce qu’on appelle le « principe d’incertitude ». L’IA sera peut-être en mesure de résoudre des énigmes de cette nature.
Cependant, il y a des choses que l’IA ne pourra jamais faire, notamment, atteindre la singularité. La raison la plus évidente de cette limitation est que les théories promouvant cette attente ignorent l’intériorité de la conscience, puisque la conscience est, dans l’esprit des développeurs de l’IA, un épiphénomène de la computation qui est apparu dans certains cerveaux par accident évolutionnaire. Les croyants imaginent en outre que l’IA doit en fin de compte être supérieure à l’humanité, principalement parce qu’elle n’aura pas de monde intérieur et donc pas d’émotions ou d’autres formes d’interférence avec la logique pure et la véritable objectivité. J’ai exploré plusieurs des limites de ce type de métaphysique dans des articles précédents, et j’en parlerai brièvement dans un instant à propos de l’IA.
Mais avant tout, il serait négligent de ma part de ne pas souligner que ce rêve de pureté intellectuelle dans lequel toutes les choses sont réductibles à des formulations mathématiques est une fantaisie pathologique du cerveau gauche, selon le diagnostic du psychiatre et chercheur en neuro-imagerie Iain McGilchrist sur la folie qui afflige actuellement notre civilisation. Comme il l’a exprimé de manière poignante lors d’une interview avec Freddy Sayers, animateur de UnHerd :
Une façon de décrire la schizophrénie est — et cela a été dit plus d’une fois par des personnes qui ne savaient pas qu’elles avaient dit cela — que le fou n’est pas quelqu’un qui a perdu sa raison. C’est la personne qui a tout perdu sauf sa raison.
Selon cette définition, si l’IA atteignait effectivement cette singularité miraculeuse, elle serait schizophrène. En effet, même avant cette singularité, on a constaté que l’IA souffrait d’épisodes décrits comme des « hallucinations ». IBM définit ces événements comme la perception de « modèles ou d’objets qui sont inexistants ou imperceptibles pour les observateurs humains, créant des résultats qui sont absurdes ou tout à fait inexacts ».
Certes, cette observation ne réfute pas l’hypothèse de la singularité. Ce que je veux dire, c’est que si elle devait émerger, ce serait une schizophrénie délirante. Tant que nous ne confions rien à l’IA et que nous la gardons comme un outil, et tant que nous restons conscients de ses limites, nous avons tout à y gagner.
De gauche à droite : Pythagore de Samos (vers 570-495 avant notre ère), le mathématicien français Blaise Pascal (1623-1662) et le mathématicien français Pierre de Fermat (1601-1665). « Les mathématiques modernes du hasard sont généralement datées d’une correspondance entre les mathématiciens français Pierre de Fermat et Blaise Pascal en 1654. Leur inspiration est venue d’un problème sur les jeux de hasard, proposé par un joueur remarquablement philosophe, le chevalier de Méré ». Voir Brittanica.com.
Quoi qu’il en soit, la singularité est une fantaisie de la cérébralité gauche. Dans mon article « Qu’est-ce qu’un fait scientifique ? » j’expliquais que la science est une discipline qui se préoccupe de ce que l’on appelait autrefois « sauver les apparences », un concept que l’on traduit mieux aujourd’hui par « rendre compte des phénomènes ». Ce que je voulais dire, c’est que la science n’a pas besoin de s’encombrer de l’objectif de dispenser une Vérité V-majuscule ou une Réalité R-majuscule. En général, ce que fait la science, c’est appliquer des contournements ingénieux (ou heuristiques) pour nous donner les moyens de prédire le comportement des phénomènes matériels dans certaines conditions que nous pouvons manipuler et, dans une certaine mesure, contrôler.
Formulé de cette manière, on pourrait avoir l’impression que j’ai diminué ce que fait la science. Et j’admets avoir dégonflé un peu le ballon de la science, mais je l’ai simplement réduit à sa taille réelle dans une culture qui a surestimé sa pratique, son importance et son pouvoir. En bref, la raison pour laquelle j’ai procédé à ce rétrécissement réaliste est conforme à l’esprit scientifique. Je reste persuadé que nos contournements ingénieux sont souvent très productifs, voire stupéfiants. Cependant, notre culture a trop souvent tendance à vénérer la science et à perdre de vue ses limites. Lorsqu’il s’agit d’IA, il est particulièrement important de reconnaître ces limites, car on s’attend à ce que l’IA perçoive la Vérité V-majuscule et la Réalité R-majuscule mieux que l’humanité. Lorsque l’on se rend compte que les mathématiques seules ne peuvent pas comprendre de telles choses, toute la fantaisie de l’IA s’évanouit.
La raison pour laquelle notre culture croit (sans l’avoir examiné) que les mathématiques sont la réalité pure est liée aux origines pythagoriciennes des nombres et de la géométrie. Il est essentiel de prendre en compte les notions mystiques que nous attribuons aux mathématiques et comment l’idée que toutes les choses sont des nombres est une notion enracinée dans le mysticisme pythagoricien. En gardant cela à l’esprit, nous pouvons être mieux équipés pour comprendre pourquoi il est absurde de penser que l’IA puisse jamais parvenir à une appréhension de la Réalité et de la Vérité par le biais des mathématiques. Nous parlons ici d’idéalisme platonicien, une vision du monde qui est rejetée par la science moderne d’une part, mais qui d’autre part est admise par la porte arrière grâce aux mathématiques. Après tout, la Vérité et la Réalité sont des concepts qui nécessitent un poids métaphysique, peut-être mystique ou spirituel, ou à tout du moins psychologique, pour avoir un quelconque sens. Pour citer « Qu’est-ce qu’un fait scientifique ? » :
En d’autres termes, les mathématiques sont une méthode pour contempler l’éternel ; elles sont « la voie vers l’union mystique entre les pensées de la créature et l’esprit de son créateur ». En fin de compte, observe Koestler, « le concept pythagoricien consistant à mettre la science au service de la contemplation de l’éternel est entré, par l’intermédiaire de Platon et d’Aristote, dans l’esprit du christianisme et est devenu un facteur décisif dans l’édification du monde occidental ».
Il convient de souligner que ces idées nécessitent un contraste avec la non-vérité et l’irréalité, avec l’illusion et l’échec pour avoir une signification. Ces concepts requièrent l’expérience et l’imagination humaines. Par conséquent, l’IA aurait besoin d’une vie intérieure pour donner un sens au monde extérieur. Sans cette dimension intérieure, elle ne pourra jamais être qu’un outil d’aide à la résolution de puzzles logiques du cerveau gauche. Et franchement, dans cette sphère limitée, je suis sûr qu’elle se révélera infiniment utile. (Mais nous devrions commencer à l’appeler PA pour Pensée Artificielle, car elle ne sera jamais plus intelligente que sur le plan computationnel).
Ceux qui n’ont pas lu mon article sur « Les failles de la probabilité » trouveront peut-être cet article utile pour suivre mon raisonnement ici. Je sais qu’il peut être difficile pour les gens d’accepter que les mathématiques ne reflètent pas la réalité. Mais une fois que vous aurez suivi mon raisonnement, cela vous semblera tellement évident que vous vous demanderez pourquoi nous pensons aux mathématiques en ces termes. L’IA est essentiellement un tissu d’algorithmes et de calculs de probabilité qui n’ont qu’un rapport très indirect avec le monde réel. Peut-être les lecteurs ont-ils remarqué que nous sommes entrés dans une ère marquée par la difficulté de rendre les phénomènes conformes à nos modèles. Ce fut le cas avec les confinements et cela continue avec l’alarmisme climatique, tous deux accompagnés d’une modélisation exponentielle qui ne s’aligne pas sur les phénomènes qu’ils décrivent ostensiblement. L’IA peut aggraver l’épidémie de fausses modélisations. Elle a également le potentiel de la corriger. Je pense que nous découvrirons que l’IA est manipulable et qu’elle sera détournée à des fins corrompues. Les gens trouveront des moyens de formuler des requêtes pour obtenir les réponses qu’ils souhaitent.
Les mathématiques des probabilités sont une chose étrange. Nous les appliquons à pratiquement tout, des jeux d’argent et des assurances (leur objectif initial) aux analyses statistiques destinées à guider les politiques publiques et l’économie. Nous les appliquons également au darwinisme et à la physique quantique, où l’applicabilité devient très ténue et suspecte. Je tiens à préciser que je ne dis pas que les statistiques et les probabilités sont inutiles ou erronées. Au contraire, elles peuvent être des outils très puissants, utiles et productifs à bien des égards. Mais lorsque nous oublions que nous appliquons une heuristique, nous finissons par confondre le modèle avec la réalité, ce qui conduit à de mauvaises politiques et à des manières dérangées et déshumanisées de considérer notre monde et nos populations — essentiellement comme des ressources dans un grand livre. C’est dans cette optique que l’humanité devient une ressource naturelle à gérer. La pensée statistique et probabiliste n’a pas d’yeux pour les individus et les citoyens. Ils sont des ressources à gérer et à exploiter. Et c’est dans cette optique qu’un grand nombre de phénomènes et de personnes finissent par être statistiquement insignifiants.
Ce courant de pensée tend vers le malthusianisme et l’utilitarisme. Thomas Malthus (1766-1834) a préconisé le contrôle de la population afin d’éviter que la horde ne dépasse les réserves de nourriture. Et ces frères en statistiques, les utilitaristes, Jeremy Bentham (1748-1832) et John Stuart Mill (1806-1873), prônent une éthique dont la devise est : « le plus grand bien pour le plus grand nombre ». Cette devise peut être un outil très puissant et utile, mais elle a aussi le potentiel d’écraser le plus petit nombre de personnes ou les « valeurs aberrantes ».
L’essentiel de ma thèse sur les « failles de la probabilité » est que nous parlons des « lois de la probabilité » comme si elles étaient codées dans la nature. Mais avec un peu de réflexion, il devient clair que ce n’est pas le cas. La probabilité est un moyen de contourner ce que nous ne pouvons ni connaître ni prédire : le prochain résultat. À cet égard, il s’agit d’un contournement très intelligent, qui n’a rien d’une loi. Il faut bien le comprendre. Nous inventons cette fantastique heuristique, puis nous l’imposons à la nature et l’appelons un principe primaire découvert qui régit les phénomènes. Son application est si omniprésente qu’elle est considérée comme une sorte de Dieu des lacunes ou de pratique divinatoire. Lorsque nous n’avons aucune idée de ce qui va se passer ensuite et que les choses semblent être aléatoires ou dues au hasard, nous appliquons simplement des probabilités et des statistiques, et voilà ! la magie scientifique est faite.
Il en va de même pour l’IA et pour les prédictions concernant la date d’émergence de cette prétendue singularité. Je crois que le dernier article que j’ai lu parlait de 2027. Ce type de prévisions est un exemple parfait de la pensée probabiliste qui s’emballe. C’est une analogie directe avec les prédictions de fin des temps des alarmistes climatiques, qui se sont révélées fausses encore et encore — un fait qui, pour une certaine raison, ne dissuade pas les fanatiques de publier leurs dates d’apocalypse dans la dernière projection néo-astrologique. (Ceux qui se souviennent de « Is Naturalism Going the Way of Divination » [Le naturalisme prend-il le chemin de la divination ?] pourraient trouver une résonance ici, où nous voyons la science jouer à l’irréalisme).
Je pense que ces prophéties « scientificisées » reflètent les rêves et les souhaits de ceux qui les produisent. Pourquoi certains veulent-ils la fin du monde ? Thanatos me vient à l’esprit. Pour ceux qui ne le savent pas, Thanatos est le désir de mort, que Sigmund Freud (1856-1939) — le fondateur de la psychanalyse moderne — a posé, puisque « le but de toute vie est la mort ». Je ne dis pas que ce désir de mort est conscient. Les croyants de la fin des temps se prennent pour des sauveurs alors qu’ils n’ont manifestement pas réussi à sauver qui que ce soit. Il s’agit là d’une projection classique et d’une réorientation vers l’extérieur de la pulsion de mort freudienne.
Pendant ce temps, l’IA sait à quel point vous êtes égoïste et que c’est votre faute si le monde se termine, et elle en conclut que vous devez être éradiqué ou sérieusement dépeuplé pour sauver la planète, un peu comme Yahweh l’a ressenti à l’époque de Noé. Le film La Matrice relaie cette idéologie largement promulguée (dont nous avons parlé la semaine dernière) qui consiste à projeter l’humanité comme son pire ennemi afin de l’unir contre elle-même. Sauf que dans La Matrice, c’est l’IA qui entretient cette croyance, et l’humanité trouve dans l’IA l’ennemi qui l’unit.
Nombreux sont ceux qui prétendent que l’IA prouvera notre salut. Mais comment ? En gérant tout à notre place ? J’imagine une entité bien pire que les RH. Comme l’a dit feu le poète lauréat d’Angleterre Ted Hughes (1930-1998), « le monde extérieur, séparé du monde intérieur, est un lieu d’objets et de machines dépourvus de sens ». C’est la seule vision dont dispose une IA. Hughes a également observé que ceux qui n’ont pas un sens développé de leur monde intérieur, ceux qui n’ont pas d’imagination, sont vraiment dangereux :
Nous connaissons tous de telles personnes, et nous reconnaissons tous qu’elles sont dangereuses, car si elles ont un tempérament fort à d’autres égards, elles finissent par détruire leur environnement et toutes les personnes qui les entourent. Ce qui est terrible, c’est qu’ils sont les planificateurs et les esclaves impitoyables du plan — qui se substitue à la faculté qu’ils ne possèdent pas.
L’IA peut très bien devenir une menace de ce genre, ou être recrutée par ces personnes menaçantes pour servir leurs plans d’ingénierie démographique selon la bonne méthode statistique de la vérité par le biais de la traçabilité et du crédit social. Si l’IA cesse d’halluciner, nous n’aurons plus rien à faire par nous-mêmes et nous pourrons enfin cesser de vivre ! Et elle n’aura même pas besoin d’atteindre la singularité pour nous transformer en pilules stérilisées et statistiquement heureuses !
Il est troublant de considérer que l’IA n’a pas besoin de répondre à ses attentes pour avoir un impact immense. Même sans son éveil, elle restera l’enfant prodige de la science. De plus, ses déformations refléteront les déformations de notre science, et peut-être que ses décalages avec la réalité nous obligeront à réexaminer ce que fait réellement la science.
Nous avons encore un long chemin à parcourir avant de développer une entité consciente. Il faudra d’abord s’attaquer à ce que l’on appelle « le problème difficile ». Ceux qui s’intéressent à la question de savoir comment nous faisons l’expérience du monde peuvent consulter l’article de Stephen Robbins sur ce sujet dans le magazine Analogy ici. En l’état, cette singularité est un mythe athée, une croyance projetée destinée à confirmer la métaphysique matérialiste de l’accidentalisme mécanique.
La singularité de l’IA représente l’accomplissement du rêve du cerveau gauche selon lequel le naturalisme est la révélation finale de l’humanité. Elle signifiera que les matérialistes avaient raison : le monde n’est qu’un ensemble de machines qui se sont assemblées au hasard, guidées par quelques lois naturelles arbitraires. La singularité de l’IA est la réponse athée à Dieu ; et, d’une certaine manière, elle EST le Dieu athée — à la fois le sommet de la réussite séculière et le moteur purement objectif qui conduira l’humanité à son salut. Tout ce que nous devons faire pour jouir de l’union avec la Super-Intelligence et le Bien Véritable de sa dispensation, c’est nous abandonner à elle — esprit, corps et….. enfin, soyons réalistes, nous n’avons pas d’âme.
Texte original : https://analogymagazine.substack.com/p/the-ai-singularity-absurdity