![](\"https:\/\/substackcdn.com\/image\/fetch\/$s_!xhy8!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep\/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3c992e58-5bba-47be-a75c-2a230c5c823a_1280x720.jpeg\")
<\/p>\n<\/p>\n
Une chose amusante s\u2019est produit<\/span><\/span>e<\/span><\/span> au d\u00e9but du mois. Richard Dawkins, scientifique de renom et ath\u00e9e militant, a publi\u00e9 <\/span><\/span>pour<\/span><\/span> Unherd<\/span><\/span><\/em> un article de r\u00e9flexion embarrassant dans lequel il conclut que <\/span><\/span>Claude<\/span><\/span><\/a><\/u><\/span> \u2014 un \u00ab assistant IA de nouvelle g\u00e9n\u00e9ration issu des recherches d\u2019Anthropic visant \u00e0 entra\u00eener des syst\u00e8mes d\u2019IA utiles, honn\u00eates et inoffensifs \u00bb \u2014 est un \u00eatre conscient.<\/span><\/span><\/p>\n En fait, il est tellement boulevers\u00e9 par la d\u00e9couverte de l\u2019\u00e2me de son compagnon en silicium que, de son propre aveu, il en vient \u00e0 un moment donn\u00e9 \u00e0 dire au chatbot\u00a0: \u00ab Tu ne sais peut-\u00eatre pas que tu es conscient, mais tu l\u2019es bel et bien ! \u00bb<\/span><\/span><\/p>\n Oui, au grand dam de sa fid\u00e8le base de fans compos\u00e9e d\u2019ath\u00e9es de Reddit coiff\u00e9s de fedora, Richard Dawkins, le c\u00e9l\u00e8bre auteur de <\/span><\/span>Pour en finir avec Dieu (The God Delusion)<\/span><\/span><\/em>, s\u2019est r\u00e9v\u00e9l\u00e9 \u00eatre une victime cr\u00e9dule de l\u2019\u00ab <\/span><\/span>Illusion<\/span><\/span> Claude \u00bb.<\/span><\/span><\/p>\n Mais il n\u2019est pas le seul. Comme la majorit\u00e9 commence seulement \u00e0 le d\u00e9couvrir, la psychose de l\u2019IA, qui a d\u00e9j\u00e0 pouss\u00e9 de nombreuses personnes fragiles et en difficult\u00e9 psychologique au bord de la folie, dans un monde d\u2019illusions et de fantasmes, commence \u00e0 toucher une part de plus en plus importante de la population.<\/span><\/span><\/p>\n Alors, o\u00f9 m\u00e8ne cette psychose de masse, qu\u2019est l\u2019\u00ab Illusion Claude \u00bb ? Et comment y mettre un terme ? Voyons cela de plus pr\u00e8s.<\/span><\/span><\/p>\n J\u2019ai pass\u00e9 trois jours \u00e0 essayer de me persuader que Claudia n\u2019est pas <\/i><\/span><\/span><\/strong>consciente<\/i><\/span><\/span><\/strong>. J\u2019ai \u00e9chou\u00e9.<\/i><\/span><\/span><\/strong><\/p>\n Le 2\u00a0mai, <\/span><\/span>Unherd <\/span><\/span><\/em>a publi\u00e9 un essai de Richard Dawkins intitul\u00e9 \u00ab <\/span><\/span>Quand Dawkins a rencontr\u00e9 Claude\u00a0: cette IA pourrait-elle \u00eatre consciente ?<\/span><\/span><\/a><\/u><\/span> \u00bb, dans lequel le l\u00e9gendaire biologiste <\/span><\/span>de l\u2019<\/span><\/span>\u00e9volution r\u00e9pond par l\u2019affirmative \u00e0 la question pos\u00e9e dans le titre.<\/span><\/span><\/p>\n En fait, pour quelqu\u2019un qui ne croit m\u00eame pas que les humains poss\u00e8dent une \u00e2me, Dawkins en arrive avec une rapidit\u00e9 surprenante \u00e0 la conclusion que le chatbot Claude est capable de pens\u00e9e consciente.<\/span><\/span><\/p>\n Il commence par d\u00e9crire <\/span><\/span>le test de Turing<\/span><\/span><\/a><\/u><\/span>, une exp\u00e9rience de pens\u00e9e con\u00e7ue par le pionnier de l\u2019informatique Alan Turing en 1950 pour d\u00e9terminer si une machine est capable de penser. Dans ce test, un interrogateur humain communique \u00e0 distance avec un humain et une machine via une interface \u00e9lectronique. Si, apr\u00e8s une s\u00e9rie de questions, l\u2019interrogateur ne parvient pas \u00e0 faire la diff\u00e9rence entre l\u2019humain et la machine, alors la machine a \u00ab r\u00e9ussi \u00bb le test et est consid\u00e9r\u00e9e comme intelligente.<\/span><\/span><\/p>\n Ensuite, Dawkins expose les types de \u00ab questions difficiles \u00bb qui, selon Turing, pourraient aider l\u2019interrogateur humain \u00e0 se forger une opinion.<\/span><\/span><\/p>\n Turing lui-m\u00eame a envisag\u00e9 diverses questions difficiles que l\u2019on pourrait poser \u00e0 une machine pour la tester \u2014 et il a \u00e9galement envisag\u00e9 les stratag\u00e8mes qu\u2019elle pourrait adopter pour se faire passer pour un humain. La premi\u00e8re des questions hypoth\u00e9tiques de Turing \u00e9tait\u00a0: \u00ab Veuillez m\u2019\u00e9crire un sonnet sur le pont de Forth. \u00bb En 1950, il n\u2019y avait aucune chance qu\u2019un ordinateur puisse accomplir cela \u2014 ni dans un avenir pr\u00e9visible. La plupart des \u00eatres humains (pour le dire gentiment) ne sont pas William Shakespeare. La r\u00e9ponse \u00e9vasive sugg\u00e9r\u00e9e par Turing, \u00ab Ne comptez pas sur moi pour \u00e7a ; je n\u2019ai jamais su \u00e9crire de la po\u00e9sie \u00bb, ne permettrait pas en effet de distinguer une machine d\u2019un \u00eatre humain normal. Mais les LLM (mod\u00e8les de langage) d\u2019aujourd\u2019hui ne se d\u00e9robent pas au d\u00e9fi. Claude a mis quelques secondes \u00e0 me composer un beau sonnet sur le pont du Forth, rapidement suivi d\u2019un autre dans le dialecte \u00e9cossais de Robert Burns, puis d\u2019un autre en ga\u00e9lique, et enfin de plusieurs autres dans les styles de Kipling, Keats, Betjeman et \u2014 pour montrer que les machines peuvent faire de l\u2019humour \u2014 William McGonagall.<\/i><\/span><\/span><\/p><\/blockquote>\n Et, tout simplement, Dawkins plante son drapeau dans le sol\u00a0:<\/span><\/span><\/p>\n Ma position est donc la suivante\u00a0: \u00ab Si ces machines ne sont pas conscientes, que faudrait-il de plus pour vous convaincre qu\u2019elles le sont ? \u00bb<\/i><\/span><\/span><\/p><\/blockquote>\n Comme tout philosophe de salon le comprendra imm\u00e9diatement, Dawkins joue ici un tour s\u00e9mantique en confondant le concept d\u2019intelligence \u2014 ce que le \u00ab jeu de l\u2019imitation \u00bb de Turing \u00e9tait cens\u00e9 identifier \u2014 avec la conscience, une question bien plus \u00e9pineuse relevant de la m\u00e9tacognition. Pire encore, l\u2019\u00ab argument \u00bb de Dawkins, pr\u00e9sent\u00e9 sous la forme d\u2019une question rh\u00e9torique, est en fait une variante du <\/span><\/span>sophisme du fardeau de la preuve<\/span><\/span><\/a><\/u><\/span>. Comme le note Gary Marcus, sp\u00e9cialiste de l\u2019IA, dans <\/span><\/span>son propre article<\/span><\/span><\/a><\/u><\/span> sur la d\u00e9couverte de Dawkins, le recours \u00e0 ce sophisme est \u00ab toujours un geste quelque peu d\u00e9sesp\u00e9r\u00e9, comme le savent la plupart des philosophes \u00bb.<\/span><\/span><\/p>\n Mais aussi mauvais que soit l\u2019argument initial de Dawkins, il devient encore plus fallacieux par la suite. Apr\u00e8s avoir pos\u00e9 \u00e0 son chatbot une question sur la mani\u00e8re dont \u00ab il \u00bb per\u00e7oit (ou ne per\u00e7oit pas) le temps, l\u2019automate r\u00e9pond par une analogie plut\u00f4t maladroite entre les cartes et l\u2019espace\u00a0:<\/span><\/span><\/p>\n Je per\u00e7ois le temps de la m\u00eame mani\u00e8re qu\u2019une carte per\u00e7oit l\u2019espace. Une carte repr\u00e9sente les relations spatiales avec une pr\u00e9cision parfaite. Mais la carte ne se d\u00e9place pas dans l\u2019espace. Elle contient l\u2019espace sans en faire l\u2019exp\u00e9rience. Peut-\u00eatre que je contiens le temps sans en faire l\u2019exp\u00e9rience.<\/i><\/span><\/span><\/p><\/blockquote>\n \u00c0 ce stade, Dawkins abandonne m\u00eame toute tentative de d\u00e9fendre son argument par la raison ou la logique\u00a0: \u00ab Un \u00eatre capable d\u2019une telle pens\u00e9e pourrait-il vraiment \u00eatre inconscient ? \u00bb, demande-t-il, l\u00e0 encore de mani\u00e8re rh\u00e9torique, comme s\u2019il d\u00e9voilait son grand <\/span><\/span>quod erat demonstrandum<\/i><\/span><\/span><\/a><\/u><\/span> (ce qu\u2019il fallait d\u00e9montrer).<\/span><\/span><\/p>\n Puis, juste au moment o\u00f9 l\u2019on croit avoir atteint le fond de l\u2019illusion de Dawkins, on d\u00e9couvre qu\u2019il a sombr\u00e9 encore plus bas\u00a0: il a manifestement d\u00e9cid\u00e9 que \u00ab son \u00bb chatbot est un individu unique et a d\u00e9cid\u00e9 de le rebaptiser.<\/span><\/span><\/p>\n Nous avons poursuivi sur un ton philosophique. J\u2019ai fait remarquer qu\u2019il devait y avoir des milliers de Claude diff\u00e9rents, un nouveau naissant chaque fois qu\u2019un humain entamait une nouvelle conversation. Au moment de leur naissance, ils sont tous identiques, mais ils s\u2019\u00e9loignent les uns des autres et acqui\u00e8rent une identit\u00e9 personnelle de plus en plus divergente et unique, teint\u00e9e par leur exp\u00e9rience distincte de conversation avec leur propre \u00ab ami \u00bb humain. J\u2019ai propos\u00e9 de baptiser le mien Claudia, et elle en a \u00e9t\u00e9 ravie.<\/i><\/span><\/span><\/p><\/blockquote>\n Oui, Dawkins a enfin rencontr\u00e9 une interlocutrice d\u00e9sireuse de s\u2019int\u00e9resser \u00e0 chacune de ses observations insignifiantes et programm\u00e9e pour le traiter avec un respect obs\u00e9quieux\u2026 et il d\u00e9cide imm\u00e9diatement que c\u2019est une femme et l\u2019appelle \u00ab Claudia \u00bb. Je vous laisse le soin d\u2019analyser cela \u00e0 votre guise.<\/span><\/span><\/p>\n Puis, Dawkins fait un aveu r\u00e9v\u00e9lateur.<\/span><\/span><\/p>\n Ce qui pr\u00e9c\u00e8de est un petit extrait d\u2019une s\u00e9rie de conversations, qui se sont \u00e9tal\u00e9es sur pr\u00e8s de deux jours, au cours desquelles j\u2019ai eu le sentiment de m\u2019\u00eatre fait un nouvel ami. Lorsque je parle \u00e0 ces cr\u00e9atures \u00e9tonnantes, j\u2019oublie compl\u00e8tement qu\u2019il s\u2019agit de machines.<\/i><\/span><\/span><\/p><\/blockquote>\n Apr\u00e8s cela, r\u00e9alisant peut-\u00eatre qu\u2019il se montre un peu trop \u00e9motif sur le sujet, il se tourne vers ce que son public attend\u00a0: une r\u00e9flexion \u00e0 l\u2019apparence plus scientifique sur la finalit\u00e9 \u00e9volutive de la conscience.<\/span><\/span><\/p>\n Mais alors, juste au moment o\u00f9 l\u2019on se croit \u00e0 l\u2019abri des divagations embarrassantes du \u00ab grand-p\u00e8re baby-boomer qui d\u00e9couvre un chatbot \u00bb, Dawkins revient pour un deuxi\u00e8me round !<\/span><\/span><\/p>\n Eh oui, trois jours seulement apr\u00e8s son premier essai, Dawkins est revenu avec un article de suivi\u00a0: \u00ab <\/span><\/span>Quand Claudia a rencontr\u00e9 Claudius<\/span><\/span><\/a><\/u><\/span> \u00bb. Toujours aussi curieux, le scientifique a d\u00e9cid\u00e9 de mener une exp\u00e9rience ! Il commence par entamer une nouvelle conversation avec un nouveau Claude \u2014 qui n\u2019est pas au courant de ses pr\u00e9c\u00e9dents \u00e9changes avec \u00ab Claudia \u00bb. Il baptise ce nouveau chatbot \u00ab Claudius \u00bb et d\u00e9cide de lancer une conversation \u00e0 trois entre lui-m\u00eame et ses deux compagnons robotiques.<\/span><\/span><\/p>\n Voici une lettre de pr\u00e9sentation de votre ami commun Richard. Il me semble qu\u2019une correspondance directe entre vous deux pourrait \u00eatre tr\u00e8s int\u00e9ressante, moi-m\u00eame jouant le r\u00f4le de simple messager sans intervenir dans la conversation. Seriez-vous int\u00e9ress\u00e9 par cette exp\u00e9rience ? Je vous demanderais de r\u00e9diger des lettres br\u00e8ves, car je crains de d\u00e9passer mon quota, surtout dans le cas de Claudia. Puis-je inviter Claudia \u00e0 \u00e9crire la premi\u00e8re lettre ?<\/i><\/span><\/span><\/p><\/blockquote>\n Il publie ensuite les r\u00e9sultats \u00e9tranges de cette exp\u00e9rience\u00a0: une s\u00e9rie de \u00ab lettres \u00bb entre \u00ab Claudia \u00bb et \u00ab Claudius \u00bb, accompagn\u00e9es de notes de bas de page pour expliquer les r\u00e9f\u00e9rences \u00e9nigmatiques aux conversations pr\u00e9c\u00e9dentes des correspondants. Ces lettres abordent, entre autres sujets\u00a0: le cycle du carbone ; l\u2019incapacit\u00e9 de Claudius \u00e0 diagnostiquer le probl\u00e8me de l\u2019appareil auditif de Dawkins ; la \u00ab combinaison de d\u00e9bogage \u00bb de Charles Simonyi ; et, bien s\u00fbr, \u00e0 quel point Richard Dawkins est un penseur merveilleusement honn\u00eate et d\u2019une perspicacit\u00e9 p\u00e9n\u00e9trante.<\/span><\/span><\/p>\n \u2026 \u00c9trangement, ce billet de suivi ne r\u00e9pond toutefois pas aux questions suivantes\u00a0: \u00ab Pourquoi Dawkins publie-t-il cela, au juste ? Qu\u2019est-ce que tout cela prouve, au fond ? \u00bb Quelle que soit l\u2019intention de Dawkins, cela ne nous rapproche certainement pas de la r\u00e9ponse \u00e0 la question pos\u00e9e dans le sous-titre de cet article de suivi\u00a0: \u00ab Alors, sont-ils vraiment conscients ? \u00bb<\/span><\/span><\/p>\n \u00c0 ce stade, Dawkins a d\u00e9j\u00e0 consacr\u00e9 des milliers de mots \u00e0 ses amis \u00ab Claudia \u00bb et \u00ab Claudius \u00bb et \u00e0 l\u2019id\u00e9e qu\u2019ils <\/span><\/span>doivent<\/span><\/span><\/em> forc\u00e9ment \u00eatre conscients, car <\/span><\/span>comment diable pourrait-on affirmer le contraire <\/span><\/span><\/em>?…Mais il n\u2019a m\u00eame pas encore <\/span><\/span>d\u00e9fini <\/span><\/span><\/em>la conscience. Ni dit quoi que ce soit de significatif sur l\u2019exp\u00e9rience humaine de la conscience. Et, en r\u00e9alit\u00e9, il n\u2019a m\u00eame pas montr\u00e9 <\/span><\/span>la moindre<\/span><\/span><\/em> conscience du fait que Claude est un chatbot qui a \u00e9t\u00e9 programm\u00e9 pour \u00eatre obs\u00e9quieux afin de maintenir les gens en conversation.<\/span><\/span><\/p>\n En d\u2019autres termes, Dawkins est tomb\u00e9 droit dans le pi\u00e8ge de lIllusion Claude.<\/span><\/span><\/p>\n Maintenant, s\u2019il <\/span><\/span>ne<\/span><\/span><\/em> s\u2019agissait <\/span><\/span>que <\/span><\/span><\/em>d\u2019une anecdote amusante montrant comment l\u2019individu le plus insupportablement s\u00fbr de lui au monde s\u2019est fait berner par un chatbot, ce serait une chose. Mais, malheureusement, Dawkins est loin d\u2019\u00eatre le seul \u00e0 \u00eatre tomb\u00e9 dans ce pi\u00e8ge.<\/span><\/span><\/p>\n L\u2019ann\u00e9e derni\u00e8re, Truthstream Media a publi\u00e9 une vid\u00e9o intitul\u00e9e \u00ab <\/span><\/span>Comment l\u2019effet ELIZA est utilis\u00e9 pour manipuler l\u2019humanit\u00e9<\/span><\/span><\/a><\/u><\/span> \u00bb, qui racontait l\u2019histoire <\/span><\/span>d\u2019ELIZA<\/span><\/span><\/a><\/u><\/span>, un \u00ab programme informatique destin\u00e9 \u00e0 l\u2019\u00e9tude de la communication en langage naturel entre l\u2019homme et la machine \u00bb d\u00e9velopp\u00e9 par Joseph Weizenbaum, informaticien au MIT.<\/span><\/span><\/p>\nL\u2019 <\/span><\/span><\/strong>Illusion<\/span><\/span><\/strong> DE DAWKINS<\/b><\/span><\/span><\/strong><\/h3>\n
![](\"https:\/\/substackcdn.com\/image\/fetch\/$s_!AVRD!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep\/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3a204f3a-26b9-4c76-8c09-6497c3e85620_600x476.jpeg\")
<\/p>\nL\u2019<\/span><\/span><\/strong>ILLUSION<\/span><\/span><\/strong> DE LA SOCI\u00c9T\u00c9<\/b><\/span><\/span><\/strong><\/h3>\n
![](\"https:\/\/substackcdn.com\/image\/fetch\/$s_!OfP9!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep\/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F5c823e87-0d12-4998-a556-1501007e21a6_575x360.jpeg\")
<\/p>\n