![](\"https:\/\/images.squarespace-cdn.com\/content\/v1\/5fac380b9cda2c532cffb9e8\/deb50f7f-9755-470b-ac99-6109fbacb15e\/NARRATIVES+PANEL.jpg?format=2500w\")
<\/p>\n<\/p>\n
Les intervenants d\u00e9battent de la \u00ab v\u00e9rit\u00e9 et de la confiance \u00bb lors de \u00ab Synthetic Narratives \u00bb. De gauche \u00e0 droite\u00a0: la mod\u00e9ratrice Camila Galaz<\/a>, Emily Spratt, Avital Meshi, Christopher Meerdo et Fred Grinstein.<\/i><\/p>\n HOBOKEN, 30\u00a0OCTOBRE 2025<\/i>. Une r\u00e9union dans mon universit\u00e9 le week-end dernier m\u2019a fait me sentir un peu mieux, presque malgr\u00e9 moi, \u00e0 propos de l\u2019intelligence artificielle.<\/p>\n Chris Manzione<\/a> et Jonah King<\/a>, artistes et professeurs d\u2019art \u00e0 l\u2019Institut de technologie Stevens, ont organis\u00e9 \u00ab SYNTHETIC NARRATIVE : AI \/ XR + THE FUTURE OF STORYTELLING<\/a> \u00bb. XR d\u00e9signe la r\u00e9alit\u00e9 virtuelle et d\u2019autres \u00ab technologies immersives \u00bb. Des artistes, technologues et penseurs s\u2019y sont r\u00e9unis pour explorer comment l\u2019IA et la XR \u00ab transforment la mani\u00e8re dont nous cr\u00e9ons, vivons et comprenons les histoires \u00bb.<\/p>\n Je m\u2019assois au premier rang pour une session sur la \u00ab V\u00e9rit\u00e9 et la Confiance \u00bb. L\u2019artiste Avital Meshi<\/a> monte sur sc\u00e8ne, portant sur son avant-bras droit un dispositif d\u2019allure cyborg. L\u2019appareil relie Meshi \u00e0 ChatGPT, qui \u00e9coute ses conversations et, en r\u00e9ponse \u00e0 ses sollicitations, lui dit quoi dire en lui soufflant des mots \u00e0 l\u2019oreille.<\/p>\n Meshi a exp\u00e9riment\u00e9 des ChatGPT sur mesure. L\u2019un canalise le dramaturge Samuel Beckett, un autre ne prononce que des mots commen\u00e7ant par la lettre \u00ab a \u00bb. Meshi a port\u00e9 ce dispositif pendant des mois d\u2019affil\u00e9e, une performance qu\u2019elle appelle \u00ab GPT-ME \u00bb.<\/p>\n Ses coll\u00e8gues et amis se sentent mal \u00e0 l\u2019aise en interagissant avec elle, dit-elle, car ils ne savent pas s\u2019ils parlent \u00e0 elle ou \u00e0 l\u2019IA. Je comprends. \u00c0 plusieurs reprises durant sa pr\u00e9sentation, Meshi s\u2019interrompt, attendant une r\u00e9ponse de son IA, et il y a quelque chose d\u2019\u00e9trange dans ces silences.<\/p>\n Meshi avoue que, parfois elle ne sait plus o\u00f9 s\u2019arr\u00eate son \u00ab vrai \u00bb moi et o\u00f9 commence son moi \u00ab artificiel \u00bb. Elle craint de devenir ce que le philosophe David Chalmers appelle un \u00ab zombie philosophique \u00bb, qui para\u00eet conscient, mais ne poss\u00e8de pas de vie int\u00e9rieure.<\/p>\n Lorsque Meshi mentionne Chalmers, je donne un coup de coude \u00e0 l\u2019homme assis \u00e0 ma droite\u00a0: Chalmers.<\/p>\n Meshi dit qu\u2019elle ne sait pas raconter de blagues en anglais, qui n\u2019est pas sa langue maternelle, mais que peut-\u00eatre ChatGPT le peut. Meshi interroge son appareil, attend, \u00e9coute, puis dit\u00a0: Pour cette r\u00e9union, j\u2019ai invent\u00e9 un moi synth\u00e9tique si convaincant que les ressources humaines m\u2019ont d\u00e9nonc\u00e9e pour usurpation d\u2019identit\u00e9.<\/i><\/p>\n Quand le public rit, Meshi semble r\u00e9ellement ravie et surprise. Elle ne semble pas jouer, mais qui sait ? Peut-\u00eatre m\u00eame pas Meshi.<\/p>\n Vient ensuite Fred Grinstein<\/a>, producteur de t\u00e9l\u00e9r\u00e9alit\u00e9, de documentaires et de contenus g\u00e9n\u00e9r\u00e9s par IA, ayant travaill\u00e9 pour A&E, Anonymous Content, HBO, Hulu, History<\/i> et d\u2019autres m\u00e9dias. Grinstein s\u2019interroge\u00a0: \u00ab Comment l\u2019IA acc\u00e9l\u00e8re notre relation d\u00e9faillante avec la v\u00e9rit\u00e9<\/a> \u00bb.<\/p>\n Tout le monde se concentre, \u00e0 juste titre, sur la mani\u00e8re dont l\u2019IA peut \u00eatre utilis\u00e9e pour diffuser de la d\u00e9sinformation, des deepfakes, des absurdit\u00e9s. Mais ces probl\u00e8mes existent depuis les d\u00e9buts de la photographie et du cin\u00e9ma.<\/p>\n Et les contenus g\u00e9n\u00e9r\u00e9s par IA peuvent, selon Grinstein, accro\u00eetre notre conscience de leur potentiel de tromperie d\u2019une mani\u00e8re saine et ludique. Il montre un clip de lapins bondissant sur un trampoline. Apr\u00e8s avoir d\u00e9duit que la vid\u00e9o \u00e9tait g\u00e9n\u00e9r\u00e9e par IA, les spectateurs ont improvis\u00e9, d\u00e9battu de ses qualit\u00e9s esth\u00e9tiques, remplac\u00e9 les lapins par d\u2019autres animaux (chats, ours, rhinoc\u00e9ros).<\/p>\n L\u2019IA peut renforcer le journalisme, ajoute Grinstein, de mani\u00e8re \u00e0 servir la v\u00e9rit\u00e9. Il cite \u00ab Welcome to Chechnya \u00bb, un documentaire de 2020 sur les personnes LGBTQ en Russie, qui prot\u00e8ge l\u2019anonymat des sources en les repr\u00e9sentant par des avatars g\u00e9n\u00e9r\u00e9s par IA.<\/p>\n La transparence est la cl\u00e9 pour gagner la confiance du public. Grinstein propose d\u2019\u00e9tiqueter les contenus assist\u00e9s par IA avec des mentions similaires \u00e0 celles indiquant les ingr\u00e9dients des aliments. La blockchain peut aussi aider \u00e0 \u00e9tablir la provenance des images.<\/p>\n Dans \u00ab L\u2019IA comme m\u00e9diumnit\u00e9<\/a> \u00bb, l\u2019historienne de l\u2019art Emily Spratt parle des \u00ab?griefbots?\u00bb (robotchagrin ou chagrinbot), avatars des morts cr\u00e9\u00e9s \u00e0 partir de publications sur les r\u00e9seaux sociaux et d\u2019autres traces num\u00e9riques. Ces griefbots, d\u00e9j\u00e0 devenus une entreprise commerciale<\/a>, permettent aux endeuill\u00e9s de communier avec les d\u00e9funts.<\/p>\n Les vivants ont depuis longtemps cherch\u00e9 \u00e0 communiquer avec les morts, dit Spratt. Elle projette un papyrus \u00e9gyptien ancien sur lequel un fils se plaint \u00e0 ses parents d\u00e9c\u00e9d\u00e9s de son h\u00e9ritage. Une autre diapositive montre un m\u00e9dium frauduleux qui, lors de s\u00e9ances, invoquait des \u00ab fant\u00f4mes \u00bb faits de draps et de fil de fer. (En l\u2019\u00e9coutant, je me souviens de mes fr\u00e8res et s\u0153urs et moi faisions les imb\u00e9ciles au Ouija quand nous \u00e9tions enfants).<\/p>\n Spratt s\u2019inqui\u00e8te du fait que les simulations g\u00e9n\u00e9r\u00e9es par IA des morts brouillent la fronti\u00e8re entre le sacr\u00e9 et le profane. \u00c0 ce propos\u00a0: une \u00e9glise de Lucerne, en Suisse, propose un J\u00e9sus IA multilingue<\/a> avec lequel on peut discuter dans un confessionnal. Il y a un hic\u00a0: si vous confessez vos p\u00e9ch\u00e9s, rien ne garantit que le Christbot les gardera secrets. Dr\u00f4le, inqui\u00e9tant, blasph\u00e9matoire ? \u00c0 vous de voir.<\/p>\n L\u2019artiste-chercheur Christopher Meerdo parle de \u00ab L\u2019Archive hallucinante<\/a> \u00bb. Meerdo produit des repr\u00e9sentations d\u2019archives g\u00e9n\u00e9r\u00e9es par IA, dont l\u2019une provient des ordinateurs d\u2019Oussama ben Laden compil\u00e9es par la CIA.<\/p>\n Meerdo propose de consid\u00e9rer les \u00ab hallucinations \u00bb de l\u2019IA non pas simplement comme des \u00ab bogues \u00e9pist\u00e9miques \u00bb ou des erreurs, mais comme potentiellement r\u00e9v\u00e9latrices. Les hallucinations peuvent r\u00e9v\u00e9ler des structures profondes et des fissures dans nos \u00ab \u00e9cosyst\u00e8mes post-v\u00e9rit\u00e9 \u00bb. (Oui, je me dis, comme les hallucinations psych\u00e9d\u00e9liques.)<\/p>\n L\u2019IA peut \u00eatre utilis\u00e9e comme arme ou comme outil, pour le mal ou pour le bien, dit Meerdo. Il esp\u00e8re que les artistes et autres cr\u00e9atifs apprendront \u00e0 bidouiller l\u2019IA et \u00e0 l\u2019utiliser \u00e0 leurs propres fins. Sinon, le r\u00e9cit de l\u2019IA sera domin\u00e9 par \u00ab l\u2019imp\u00e9rialisme et le fascisme \u00bb.<\/p>\n Chalmers conclut en parlant, eh bien, de toutes sortes de choses. De la technophilosophie, qui r\u00e9fl\u00e9chit aux implications de la technologie. De savoir si son Roomba a des \u00ab d\u00e9sirs \u00bb. De la d\u00e9finition du moi par son vieil ami Dan Dennett comme \u00ab centre de gravit\u00e9 narrative \u00bb. De la question de savoir si vous \u00eates l\u2019autorit\u00e9 sur votre propre r\u00e9cit\u00a0: que se passe-t-il si vous vous croyez saint, mais que les autres vous prennent pour un imb\u00e9cile ? Du fait qu\u2019au XVII<\/i>e\u00a0<\/i><\/sup>si\u00e8cle,<\/i> John Locke avait anticip\u00e9 l\u2019intrigue de la s\u00e9rie de science-fiction Severance<\/em>, dont les personnages ont leur moi divis\u00e9 en deux.<\/p>\n Le sujet principal de Chalmers est \u00ab \u00c0 quoi parlons-nous lorsque nous parlons \u00e0 des mod\u00e8les de langage<\/a> \u00bb. Il re\u00e7oit des courriels de gens convaincus que les chatbots sont conscients, sensibles, dot\u00e9s d\u2019\u00e9motions r\u00e9elles. Le sont-ils ?<\/p>\n Chalmers doute que les IA actuelles poss\u00e8dent une vie int\u00e9rieure, mais il ne peut l\u2019exclure. En 2017, il a coorganis\u00e9 une conf\u00e9rence \u00e0 l\u2019Universit\u00e9 de New York (\u00e0 laquelle j\u2019ai assist\u00e9<\/a>) sur les esprits animaux. Des scientifiques y ont soutenu que les poissons et les insectes pourraient \u00eatre conscients, alors pourquoi pas les mod\u00e8les de langage ?<\/p>\n Les chatbots agissent certainement comme s\u2019ils avaient<\/i> des peurs, des d\u00e9sirs, des buts, dit Chalmers. Peut-\u00eatre peut-on dire des mod\u00e8les de langage, propose-t-il, qu\u2019ils sont des quasi-personnes<\/i> avec des quasi-moi<\/i> et des quasi-d\u00e9sirs<\/i>. Si vous demandez \u00e0 un chatbot quel est son \u00e9tat mental, sa r\u00e9ponse peut sembler absurde, mais c\u2019est aussi le cas de nombreux humains.<\/p>\n Et les IA \u00e9voluent rapidement, dit Chalmers, alors qui sait o\u00f9 elles en seront dans quelques ann\u00e9es ? Chalmers conclut sur une note l\u00e9g\u00e8rement inqui\u00e9tante\u00a0: le fait que des \u00ab personnes \u00bb IA soient possibles<\/i>, dit-il, ne signifie pas que nous devrions les cr\u00e9er.<\/p>\n L\u2019essor continu de l\u2019IA me terrifie encore, surtout parce que des singes arrogants<\/a> en contr\u00f4lent le r\u00e9cit \u2014 sans parler du financement et de la mise en \u0153uvre<\/a>. Je crains que la fr\u00e9n\u00e9sie autour de l\u2019IA ne culmine dans un BOUM, le genre de catastrophe que William Gibson appelle \u00ab le gros lot \u00bb.<\/p>\n Mais je suis encourag\u00e9 par la curiosit\u00e9 et la cr\u00e9ativit\u00e9 excentriques manifest\u00e9es \u00e0 \u00ab Synthetic Narratives \u00bb. L\u2019IA nous pousse \u00e0 nous voir et \u00e0 \u00eatre nous-m\u00eames<\/i> d\u2019une mani\u00e8re nouvelle. C\u2019est s\u00fbrement une bonne chose. Peut-\u00eatre l\u2019IA nous aidera-t-elle \u00e0 traverser cette \u00e9poque effrayante.<\/p>\n Et si les choses tournent vraiment mal, nous pourrons toujours demander \u00e0 cyber-J\u00e9sus de nous sauver.<\/p>\n