Un chercheur a inventé une fausse affection oculaire appelée bixonimanie, a téléversé deux articles manifestement frauduleux à son sujet sur un serveur académique, et a vu les principaux systèmes d’IA la présenter comme une réalité médicale en quelques semaines.
Le Dr Koch soutient que, comme les ordinateurs dotés d’IA possèdent une structure à propagation avant (feed-forward) semblable fortement à celle du cervelet humain — dont on sait empiriquement qu’il n’est pas impliqué dans la conscience humaine —, nous n’avons aucune raison de nous attendre à ce que ces ordinateurs aient une vie intérieure consciente qui leur soit propre. Il étaye davantage son argument par la prédiction claire et quantifiée de la théorie de l’information intégrée (IIT), selon laquelle les systèmes à faible information intégrée, tels que les ordinateurs à silicium mettant en œuvre de grands modèles de langage, ne ressentent rien de l’intérieur.
Notre civilisation est devenue incroyablement efficace pour produire de nouvelles connaissances technologiques et scientifiques. Pourtant, la dynamique même qui anime ce progrès fait pencher la balance. Elle « privilégie de plus en plus l’action au détriment du simple fait d’être attentif, d’être assis au sommet d’une montagne et d’admirer le paysage », explique Koch. Dans un monde où le comportement a le plus de poids, les machines qui accomplissent les mêmes tâches que nous commencent à nous ressembler de manière troublante. Si les systèmes sont de plus en plus capables de faire ce que nous faisons, demande Koch, est-il important que les machines « ne ressentent peut-être rien » alors que l’humain « ressent quelque chose » ?
Lorsque nous louons le travail de quelqu’un, nous nous intéressons généralement à celui qui l’a réellement accompli. Nous nous demandons si cette personne possède les compétences qui ont rendu cette réalisation possible. Nyholm donne un exemple simple. Si vous voulez savoir si quelqu’un est capable d’écrire de la poésie, et que vous découvrez qu’il a demandé à un grand modèle de langage de produire un poème avant d’y apposer sa signature, vous n’apprenez rien de ses capacités. Le poème en lui-même peut être impressionnant. Il pourrait même remporter un prix. Pourtant, il manque quelque chose d’essentiel.
La seule façon de savoir comment l’IA pourrait affecter les jeunes enfants serait de mener des études longitudinales bien conçues. Mais d’ici à ce que des preuves solides émergent, toute une génération aura grandi en y étant exposée — et s’il existe effectivement des effets néfastes, ceux-ci pourraient être irréversibles.
Même sans fourrure visible dans l’image, vous pouvez facilement reconnaître qu’une photo d’un chat Sphynx représente un chat. Vous ne le confondriez pas avec un éléphant. Pourtant, de nombreux systèmes de vision par intelligence artificielle le feraient. Pourquoi ? Parce que, lorsque les systèmes d’IA apprennent à catégoriser des objets, ils s’appuient souvent sur des indices visuels — comme la texture de surface ou de simples motifs dans les pixels. Cette tendance les rend vulnérables à de petites modifications qui ont très peu d’effet sur la perception humaine.
La pensée est un instrument usé. Je pense qu’elle a atteint ses limites, son point d’attache, car elle n’a pas résolu le problème humain. Alors, y a-t-il une façon de voir qui ne soit pas la pensée, mais qui, au lieu d’aller vers l’extérieur, vers les cieux et tout cela, se tourne vers l’intérieur ? Ce mouvement intérieur est l’infini.
La vraie question n’est donc pas de savoir comment cette technologie d’IA sera utilisée comme arme contre « nos » « ennemis » sur l’échiquier mondial (quels qu’ils soient), mais comment cette technologie sera utilisée comme arme contre nous. Après tout, qui peut voir les essaims de drones, les robots humanoïdes et les robots de combat autonomes sur les champs de bataille sans imaginer que cette technologie sera utilisée par les gouvernements du monde entier principalement contre leurs propres populations ?
En d’autres termes, la vie ne se résume pas à des fragments de matière spécifiques, mais à un type d’organisation particulier à travers lequel la matière et l’énergie circulent. Cette importance accordée à l’« organisation » devient un point central dans l’argumentation de Jonas. Le Dieu laplacien ne peut voir que les états des atomes, c’est-à-dire leur position et leur vitesse, à chaque instant. Sa capacité à voir l’avenir se limite à voir les états atomiques futurs (c’est-à-dire les positions et vitesses futures). Pour Jonas, aucun état momentané d’un corps ne pourrait contenir le secret de la vie, aussi détaillé soit-il.
L’humanité est-elle à l’aube d’un changement profond résultant de l’IA ? Il semble bien que oui. Quand on y réfléchit, il est évident que nos vies ont été bouleversées à presque tous les égards par l’introduction des ordinateurs, qui imprègnent désormais tous les aspects de notre quotidien : guichets automatiques, cartes de crédit, films, Internet, vidéos YouTube, smartphones, voitures, appareils électroménagers, etc. D’une manière ou d’une autre, tout cela est rendu possible par les ordinateurs, c’est-à-dire par l’intelligence artificielle. Mais tout cela soulève une autre question, très différente : pourquoi cela se produit-il maintenant ? Le moment choisi pour cette évolution est-il simplement le fruit du hasard, le résultat de forces historiques aveugles à l’œuvre ? Ou bien y a-t-il quelque chose de plus profond et de plus archétypal qui se produit ?