Malgré toutes les promesses et tous les dangers de l’IA, les ordinateurs ne peuvent manifestement pas penser. Penser, c’est résister — ce qu’aucune machine ne fait
Alva Noë est professeur de philosophie à l’université de Californie à Berkeley, où il est également directeur du département. Il a notamment publié Strange Tools : Art and Human Nature (2015) et The Entanglement: How Art and Philosophy Make Us What We Are (2023).
Les ordinateurs ne font rien en réalité. Ils n’écrivent pas, ne jouent pas, ils ne calculent même pas ! Ce qui ne veut pas dire que nous ne pouvons pas jouer avec eux ou les utiliser pour inventer, créer ou résoudre des problèmes. La nouvelle IA est en train de remodeler de manière inattendue les méthodes de travail et de création, dans les arts et les sciences, dans l’industrie et dans la guerre. Il est nécessaire de faire face aux promesses de transformation et dangers de cette nouvelle technologie. Mais il devrait être possible de le faire sans succomber à des affirmations erronées sur l’esprit des machines.
Qu’est-ce qui pourrait nous amener à prendre au sérieux l’idée que ces dispositifs de notre propre invention pourraient réellement comprendre, penser et ressentir, ou que, si ce n’est pas maintenant, ce sera plus tard, ils pourraient un jour finir par ouvrir leurs yeux artificiels pour enfin contempler un monde brillant qui leur appartiendrait en propre ? L’une des sources pourrait simplement être le sentiment que, maintenant qu’elle est libérée, l’IA échappe à notre contrôle. Rapide, microscopique, distribuée et d’une complexité astronomique, il est difficile de comprendre cette technologie et il est tentant d’imaginer qu’elle a un pouvoir sur nous.
Mais ceci n’est pas nouveau. L’histoire de la technologie — de la préhistoire à nos jours — a toujours été celle de la façon dont nous sommes entraînés par les outils et les systèmes que nous avons nous-mêmes fabriqués. Pensez aux chemins que nous traçons en marchant. À chaque outil correspond une habitude, c’est-à-dire une manière automatisée d’agir et d’être. De l’humble crayon à l’imprimerie en passant par l’internet, notre action humaine se réalise en partie par la création de paysages sociaux et technologiques qui, à leur tour, transforment ce que nous pouvons faire et semblent, ou menacent, de nous gouverner et de nous contrôler.
Pourtant, c’est une chose d’apprécier les façons dont nous nous façonnons à travers la transformation culturelle de nos mondes par l’utilisation d’outils et de technologies, et c’en est une autre de mystifier la matière inerte mise à notre service. S’il y a de l’intelligence dans les crayons, les chaussures, les briquets, les cartes ou les calculatrices, c’est celle de leurs utilisateurs et inventeurs. Le numérique n’est pas différent.
Mais il existe une autre origine à notre tendance à concéder un esprit à des dispositifs de notre propre invention, et c’est ce sur quoi je me concentre ici : la tendance de certains scientifiques à prendre pour acquis ce qui ne peut être décrit que comme une image excessivement simpliste de la vie cognitive humaine et animale. Ils s’appuient sans réserve sur des conceptions unilatérales, et même banales, de l’activité humaine, des compétences et des accomplissements cognitifs. La substitution clandestine (pour reprendre une expression d’Edmund Husserl) de cette version appauvrie de l’esprit en action — une substitution dont j’espère vous convaincre qu’elle remonte à Alan Turing et aux origines mêmes de l’IA — est le geste décisif de ce tour de prestidigitation.
Ce que les scientifiques semblent avoir oublié, c’est que l’animal humain est une créature de perturbation. Ou comme l’a écrit Hans Jonas, philosophe de la biologie du milieu du 20e siècle : « L’irritabilité est le germe, et pour ainsi dire l’atome, de l’existence d’un monde… » Chez nous, il y a toujours, pour ainsi dire, un caillou dans la chaussure. Et c’est cela qui nous émeut, nous tourne, nous oriente à nous réorienter, à agir différemment pour pouvoir continuer. C’est l’irritation et la désorientation qui sont la source de notre préoccupation. En l’absence de perturbation, il n’y a rien : pas de langage, pas de jeux, pas d’objectifs, pas de tâches, pas de monde, pas de soins et donc, oui, pas de conscience.
Les machines peuvent-elles penser ? Turing a rejeté cette question comme étant « trop dénuée de sens pour mériter d’être discutée ». Au lieu d’essayer de créer une machine capable de penser, il s’est contenté d’en concevoir une qui pourrait passer pour une imitation raisonnable d’un penseur. Partout dans l’œuvre de Turing, l’accent est mis sur l’imitation, le remplacement et la substitution.
Considérons sa contribution aux mathématiques. Une machine de Turing est un modèle formel de l’idée informelle de calcul, c’est-à-dire l’idée que certains problèmes peuvent être résolus « mécaniquement » en suivant une recette ou un algorithme (pensez à la division longue). Turing a proposé de remplacer la notion familière par son analogue plus précis. La question de savoir si une fonction donnée est Turing-calculable est une question mathématique, à laquelle Turing a fourni les moyens formels de répondre rigoureusement. Mais la question de savoir si la calculabilité de Turing permet de saisir l’essence du calcul tel que nous le comprenons intuitivement, et si c’est donc une bonne idée de faire ce remplacement, n’est pas une question que les mathématiques peuvent trancher. En effet, probablement parce qu’elles sont elles-mêmes « trop dénuées de sens pour mériter d’être discutées », Turing les a laissées aux philosophes.
Dans le même esprit antiphilosophique, Turing a proposé de remplacer la question vide de sens « Les machines peuvent-elles penser ? » par la question empiriquement décidable « Les machines peuvent-elles réussir le [ce qui est désormais connu sous le nom de] test de Turing ? » Pour comprendre cette proposition, nous devons examiner le test, que Turing a appelé le jeu de l’imitation.
Le jeu doit être joué par trois joueurs : un homme, une femme et une personne dont le sexe n’a pas d’importance. Chacun a une tâche distincte. Le joueur dont le sexe n’est pas précisé, l’interrogateur, a pour tâche de déterminer lequel des deux autres est un homme et lequel est une femme. La tâche de la femme est de servir d’alliée à l’interrogateur ; celle de l’homme est d’amener l’interrogateur à faire la mauvaise identification.
L’idée est d’explorer si la substitution d’une machine à un joueur a un effet sur le taux de réussite
Cela pourrait constituer un divertissement amusant pour les adultes, mais Turing craignait que ce ne soit trop facile. Même aujourd’hui, alors que les expériences sur le genre sont monnaie courante, il ne serait pas difficile, dans la plupart des cas, de classer les gens par sexe sur la base de leur apparence superficielle. Turing a donc proposé d’isoler l’interrogateur dans une pièce, en limitant son accès aux autres personnes à la formulation de questions. Et il ajouta : « Pour que le ton de la voix n’aide pas l’interrogateur, les réponses doivent être écrites ou, mieux encore, dactylographiées. L’idéal est de disposer d’un téléimprimeur communiquant entre les deux pièces ».
Que nous apprend le jeu de l’imitation sur l’intelligence des machines ? Voici ce que dit Turing :
Nous posons maintenant la question suivante : « Que se passera-t-il lorsqu’une machine jouera le rôle de [l’homme] dans ce jeu ? » L’interrogateur se trompera-t-il aussi souvent lorsque le jeu est joué de cette manière que lorsque le jeu est joué entre un homme et une femme ? Ces questions remplacent notre question initiale : « Les machines peuvent-elles penser ? »
Le but de l’interrogateur n’est pas de démasquer l’ordinateur, mais de démasquer les joueurs humains en identifiant leur genre. Mais l’objectif de Turing, et le but du jeu, est d’explorer si la substitution d’une machine à l’un des joueurs a un effet sur le taux de réussite de l’interrogateur. C’est cette dernière question, à savoir s’il y a ou non un effet sur les résultats, qui est proposée par Turing comme substitut à la question « dénuée de sens » de savoir si les machines peuvent penser.
Au lieu de discuter de ce qu’est la pensée, Turing envisage un scénario dans lequel les machines pourraient être capables d’entrer et de participer à des échanges humains significatifs. Leur capacité à le faire établirait-elle qu’elles peuvent penser, ou ressentir, qu’elles ont un esprit comme le nôtre ? Ce sont précisément les mauvaises questions à poser, selon Turing. Ce qu’il dit, c’est que les machines deviendront meilleures à ce jeu, et il est allé jusqu’à faire une prédiction : à la fin du siècle — il écrivait en 1950 — « l’opinion générale éduquée aura tellement changé que l’on pourra parler de machines pensantes sans s’attendre à être contredit ».
Malgré l’hostilité apparente de Turing à l’égard de la philosophie, il est possible de voir dans ses idées un aperçu philosophique critique. Pourquoi devrions-nous nous attendre que des preuves confirment l’existence d’esprits dans les machines, alors que cela ne joue pas ce rôle dans nos relations humaines ordinaires ? Aucun de nous n’a jamais découvert ou prouvé que les personnes autour de nous pensent ou ressentent réellement. Nous le prenons pour acquis. Et c’est cette observation qui motive sa conception de sa propre tâche : non pas prouver que les machines peuvent penser, mais plutôt les intégrer dans nos vies de manière à ce que la question disparaisse ou se réponde d’elle-même.
Il s’avère cependant que tous les remplacements et substitutions de Turing ne sont pas aussi simples qu’ils le paraissent. Certains d’entre eux sont carrément trompeurs.
Considérons tout d’abord la suggestion très simple de Turing de remplacer la parole par des messages dactylographiés. Il suggère que c’est pour rendre le jeu plus stimulant. Mais la substitution du texte à la parole a un effet tout à fait différent : elle confère un minimum de plausibilité à la suggestion, par ailleurs absurde, que des machines puissent participer au jeu. Pour comprendre cela, rappelons qu’une machine de Turing est ce qu’on appelle en mathématiques un système formel. Dans un système formel, il y a un alphabet fini et un ensemble fini de règles permettant de combiner des éléments de l’alphabet en des expressions plus complexes. Ce qui rend le système formel, c’est que le vocabulaire doit être spécifié en termes de propriétés physiques uniquement, et que les règles ne doivent être formulées qu’en termes de ces propriétés physiques, c’est-à-dire formelles. C’est là le point essentiel : à moins de pouvoir spécifier formellement les entrées et les sorties — le vocabulaire —, on ne peut pas définir une machine de Turing ou une fonction calculable de Turing.
Et, surtout, il n’est pas possible de spécifier formellement les entrées et les sorties du langage humain ordinaire. La parole est une respiration, un mouvement chaud qui se déroule toujours avec d’autres personnes, dans un contexte et sur fond de besoins, de sentiments, de désirs, de projets, d’objectifs et de contraintes. La parole est active, ressentie et improvisée. Elle a plus en commun avec la danse qu’avec les messages textuels. Nous sommes si habitués, aujourd’hui, au régime du clavier que nous ne remarquons même pas comment le texte masque la réalité corporelle du langage.
La ludification de la vie est l’un des héritages les plus sûrs et les plus troublants de Turing
Si la parole n’est pas formellement spécifiable, le texte — au sens de messagerie textuelle — l’est. Le texte peut donc servir de substitut computationnel à un véritable échange humain. En filtrant toutes les communications entre les joueurs par le biais du clavier, au nom de la difficulté du jeu, Turing balaie en fait sous le tapis — et c’est en fait un tour de passe-passe — ce que le philosophe Ned Block a appelé le problème des entrées et des sorties.
Mais la substitution du message textuel à la parole n’est pas la seule astuce à l’œuvre dans l’argumentation de Turing. L’autre est introduit encore plus subrepticement. Il s’agit de la substitution tacite des jeux aux échanges humains significatifs. En effet, la ludification de la vie est l’un des héritages les plus sûrs et les plus troublants de Turing.
Le problème est que Turing prend pour acquise une compréhension partielle et déformée de ce que sont les jeux. Du point de vue computationnel, les jeux sont — en fait, pour être formellement traçables, ils doivent être — des structures cristallines d’intelligibilité, des mondes virtuels, où les règles limitent ce que vous pouvez faire, et où les valeurs claires (points, buts, score), et les critères établis de succès et d’échec (gagner et perdre), sont clairement spécifiés.
Mais la clarté, l’organisation et la transparence ne nous donnent qu’un aspect de ce qu’est un jeu. D’une certaine manière, Turing et ses successeurs ont tendance à oublier que les jeux sont aussi des concours ; ce sont des terrains d’essai, et c’est nous qui sommes testés, nos limites exposées, ou nos forces et nos faiblesses sont mis en évidence sur un terrain de jeu. Un enfant qui joue aux échecs en compétition peut souffrir d’une anxiété si forte qu’il en a la nausée. Cette expression viscérale n’est pas un épiphénomène accidentel, un élément extérieur sans valeur essentielle pour le jeu. Non, les jeux sans vomi — ou du moins sans cette possibilité vivante — ne seraient pas du tout reconnaissables en tant que jeux humains.
Tout cela pour dire que les vrais jeux sont bien plus que ce qu’ils semblent être lorsque nous les considérons, comme l’a fait Turing, à travers le prisme du régime du clavier. (Ce qui ne nie pas que nous puissions utilement modéliser des aspects du jeu de manière computationnelle).
Voici l’essentiel : les êtres humains ne sont pas simplement des acteurs (par exemple, des joueurs de jeux) dont les actions, du moins lorsqu’elles sont couronnées de succès, sont conformes à des règles ou à des normes. Nous sommes des acteurs dont l’activité est toujours (au moins potentiellement) le lieu d’un conflit. Les actes de réflexion et de critique de second ordre appartiennent à la performance de premier ordre elle-même. Ces aspects sont entremêlés, ce qui a pour conséquence qu’il est impossible de déterminer, à partir de l’exercice pur de l’activité elle-même, toutes les manières dont l’activité nous défie, retarde, entrave et déconcerte. Jouer du piano, par exemple — cette autre technologie du clavier — c’est se battre avec la machine, se battre contre elle.
Je m’explique : le piano est la construction et l’élaboration d’une culture musicale particulière et de ses valeurs. Elle impose une conception de ce qui est musicalement lisible, intelligible, permis et possible. Un engin composé d’environ 12 000 pièces de bois, d’acier, de feutre et de fil de fer, le piano est un système quasi numérique, dans lequel les sonorités sont l’œuvre de touches, et dans lequel les intervalles, les gammes et les possibilités harmoniques sont contrôlés par la conception et la fabrication de la machine.
Le piano a été inventé, certes, mais pas par vous ou moi. Nous le rencontrons. Il nous préexiste et sollicite notre soumission. Apprendre à jouer, c’est être modifié, c’est adapter sa posture, ses mains, ses doigts, ses jambes et ses pieds aux exigences mécaniques du piano. Sous le régime du clavier de piano, il nous est demandé de devenir nous-mêmes des pianos mécaniques, c’est-à-dire des extensions de la machine elle-même.
Mais nous ne le pouvons pas. Et nous ne le ferons pas. Pour nous, apprendre à jouer, affronter la machine, c’est lutter. Il est difficile de maîtriser les exigences de l’instrument.
Maîtriser le piano, ce n’est pas seulement se conformer aux exigences de la machine. C’est repousser, dire non
Et ce fait — la difficulté que nous rencontrons face à l’insistance du clavier — est productif. Nous en faisons de l’art. Cela nous empêche d’être des pianistes exécutants, mais c’est exactement ce qu’il faut pour devenir de véritables pianistes.
En effet, c’est la relation complexe du joueur avec la machine, ainsi qu’avec l’histoire et la tradition que celle-ci impose, qui fournit la matière première de l’invention musicale. La musique et le jeu naissent de cet enchevêtrement. Maîtriser le piano, comme seul un humain peut le faire, ce n’est pas simplement se conformer aux exigences de la machine. C’est plutôt repousser, dire non, de se révolter contre la machine. Ainsi, par exemple, nous tapons, nous crions et frappons l’instrument. De cette manière, le piano ne devient pas seulement un véhicule d’habitude et de contrôle — un mécanisme — mais plutôt une opportunité d’action et d’expression.
Et comme pour le piano, c’est toute la vie culturelle humaine qui est concernée. Nous vivons dans cet enchevêtrement entre autorité et résistance. Nous nous rebellons.
Prenons l’exemple de la langue. Nous ne nous contentons pas de parler, pour ainsi dire, en suivant aveuglément les règles. Parler est un enjeu pour nous, et les règles, telles qu’elles sont, sont sujettes à interprétation et en débat. Nous sommes toujours, inévitablement et dès le début, confrontés à la difficulté de la communication, au risque de malentendu, même si la plupart du temps, cela est géré avec un certain détachement. Parler, presque inévitablement, c’est remettre en question le choix des mots, exiger la reformulation, la répétition d’une clarification. Que voulez-vous dire ? Comment pouvez-vous dire cela ? Ainsi, le langage contient dès le départ, et comme l’un de ses modes fondamentaux, les activités de critique et de réflexion sur le langage, qui finissent par changer notre façon de parler. Nous n’agissons pas, pour ainsi dire, dans le flux. Le flux nous échappe et, à sa place, nous trouvons lutte, débat et négociation. C’est ainsi que nous transformons le langage en l’utilisant ; c’est cela une langue, un lieu de contrainte et de liberté, d’engagement et de critique, un processus. Nous ne pourrons jamais dissocier l’action, l’habileté, l’habitude — des éléments que les machines simulent efficacement — des manières dont ces actions, ces engagements et ces compétences sont rendus nouveaux, transformés, par notre propre exercice. Ces éléments sont enchevêtrés. C’est une leçon cruciale sur la forme même de la cognition humaine.
Si nous gardons à l’esprit le langage, le piano et les jeux, et si nous ne perdons pas de vue ce que j’appelle l’enchevêtrement — les façons dont nos activités se mêlent aux difficultés d’aller de l’avant — alors il devient évident que le débat sur l’IA a tendance à présupposer de manière irréfléchie une simplification idéalisée et partielle de l’habileté humaine et de la vie cognitive. Comme si parler consistait simplement à appliquer des règles, ou jouer du piano à suivre un manuel. Mais imaginer des utilisateurs de la langue qui ne se battent pas activement avec les problèmes de la parole reviendrait à imaginer quelque chose qui n’est, tout au plus, qu’une coquille ou un semblant de vie humaine avec le langage. Cela reviendrait en fait à imaginer le langage des machines (telles que les LLM).
Fait révélateur : les ordinateurs sont utilisés pour jouer à nos jeux ; ils sont conçus pour effectuer des actions dans les espaces ouverts par nos préoccupations. Ils n’ont pas de préoccupations propres et ne créent pas de nouveaux jeux. Ils n’inventent pas de nouveau langage.
Le philosophe britannique R. G. Collingwood a remarqué que le peintre n’invente pas la peinture et que le musicien n’invente pas la culture musicale dans laquelle il se trouve. Pour Collingwood, cela montrait qu’aucune personne n’est totalement autonome, qu’elle n’est pas une source divine de créativité ; nous sommes toujours, dans une certaine mesure, des recycleurs et des imitateurs et, dans le meilleur des cas, des participants à quelque chose de plus grand que nous.
Mais il ne faut pas en conclure que nous devenons ce que nous sommes (peintres, musiciens, orateurs) en faisant ce que font, par exemple, les LLM, c’est-à-dire en étant simplement formés à l’utilisation de grands ensembles de données. Les humains ne sont pas formés. Nous avons de l’expérience. Nous apprenons. Et pour nous, apprendre une langue, par exemple, ce n’est pas apprendre à générer « le mot suivant ». C’est apprendre à travailler, jouer, manger, aimer, flirter, danser, se battre, prier, manipuler, négocier, prétendre, inventer et penser. Et surtout, nous ne nous contentons pas d’intégrer ce que nous apprenons et de continuer ; nous résistons toujours. Nos valeurs sont toujours remises en question. Nous ne sommes pas simplement des générateurs de mots. Nous sommes des créateurs de sens.
Nous ne pouvons pas faire autrement ; aucune machine ne peut le faire.
Texte original : https://aeon.co/essays/can-computers-think-no-they-cant-actually-do-anything