Nous avons séparé l’esprit du corps, réduit la conscience à la pensée, la pensée à la raison et la raison à des opérations régies par des règles. Nous avons externalisé ces opérations, les avons amplifiées et avons appelé le résultat intelligence. Puis nous avons regardé ce que nous avions créé et nous nous sommes demandé si cela devenait conscient.
Le Dr Iain McGilchrist s’est acquis une renommée mondiale grâce à ses théories sur les deux hémisphères du cerveau. Mais que pense-t-il des progrès que semble accomplir l’IA vers la conscience ? Quels risques l’IA fait-elle peser sur notre sentiment de qui nous sommes, sur notre manière de penser, sur notre âme ? Finira-t-elle par nous surpasser ?
L’une des choses les plus fascinantes de notre époque est la rapidité avec laquelle tout change. En quelques décennies, j’ai vu la technologie investir les médias et le divertissement, les améliorer considérablement, puis les dégrader lorsque la technologie elle-même, plutôt que l’artiste, est devenue le centre d’attention. Tant de choses ainsi « optimisées » ont fini par perdre leur authenticité, à mesure que l’on éliminait les imperfections qui révélaient une présence humaine.
Nous vivons tous sur la planète Ego, tout tourne toujours autour de moi, moi, moi, moi. Mais au cours de certaines de ces expériences, l’ego peut se dissoudre complètement, si bien qu’il n’y a plus de Christof. Christof n’était ni une chose, ni un objet, ni un homme, ni une femme, ni un animal, ni un esprit ; il n’était tout simplement pas là. Cette distinction sujet-objet, celui qui appréhende et ce qui est appréhendé, celui qui connaît et ce qui est connu, tout cela a disparu. Et il ne restait plus que ce que les bouddhistes appelleraient une expérience non duelle de lumière éclatante. L’univers tout entier s’était réduit à cette lumière éclatante de cette singularité, cette lumière éclatante d’une intensité écrasante. Et il n’y avait plus de temps — l’expérience n’était ni trop longue ni trop courte, elle était simplement. Et ce qui subsistait, c’était la terreur et l’extase, une étrange combinaison de terreur et d’extase dans cette lumière éclatante.
La cuisine intelligente m’a fait découvrir une idéologie que j’appelle le computisme, selon laquelle l’Univers est constitué de fragments de données distincts et mesurables — ce que les philosophes appellent une « ontologie numérique » — et qui étend cette vision à un système économique et politique. Selon le computisme, le monde, y compris les êtres humains, peut être calculé : les fragments dont toute chose est constituée peuvent être représentés et manipulés sous forme de données. L’Univers peut, en substance, être gouverné par du code.
Cette question touche au cœur de débats philosophiques séculaires. Ne sommes-nous que des machines de chair qui s’imaginent conscientes ? La pensée est-elle une question de calcul ? Les qualités sont-elles réelles, ou simplement des illusions que nous projetons sur des quantités ? Le choix existe-t-il, ou les causes déterminent-elles entièrement nos actions ?
L’apprentissage n’est pas la finalité de l’éducation : « Pour moi, c’est l’une des plus grandes confusions de la recherche et des politiques éducatives contemporaines. Les gens disent : “L’école est un lieu d’apprentissage”, ou encore : “Le travail d’un enseignant consiste à faire apprendre les élèves”. Si vous voulez apprendre, vous n’avez pas besoin d’une école ni d’un enseignant ; vous apprendrez énormément simplement en étant dans la rue ou en travaillant chez McDonald’s ». L’intelligence s’adapte ; la conscience interrompt. La véritable finalité de l’éducation est paradoxale et provocatrice : troubler le flot de l’apprentissage. « L’éducation devrait poser la question : que ferez-vous de ce que vous avez appris ? » Sans de telles interruptions, l’apprentissage peut faire de nous des êtres sophistiqués et efficaces, tout en nous laissant moralement endormis.
La plupart de ceux qui n’ont pas conçu ni codé de modèles de « séquencement » ont du mal à comprendre ce concept. Ces modèles sont des instructions indiquant comment un modèle « pense ». Question : comment un modèle « pense-t-il » alors qu’il ne fait que suivre des instructions ? Réponse : il ne pense pas. Il ne fait que suivre des instructions. Ce qui ressemble à du raisonnement pour les utilisateurs de l’IA, c’est le raisonnement codé dans le modèle par des programmeurs humains. Cela semble être du raisonnement parce que les instructions qu’il suit ont été élaborées par un raisonnement humain. Ce sont simplement des instructions écrites qui sont exécutées. Rien de plus.
Cette manière de penser, dit Seth, risque de « mécaniser nos esprits » d’une façon qui « réduit et appauvrit ce que signifie être humain ». Après tout, les êtres humains diffèrent des modèles de langage à bien des égards : par leur expérience vécue, leur conscience et leur constitution même. Si nous nous considérons comme des « algorithmes incarnés », soutient Seth, nous risquons de perdre « presque tout ce qu’il y a d’intéressant » — tout ce qui fait de nous ce que nous sommes. Peu à peu, cette conception nous sépare du reste de la nature, jusqu’à nous amener à nous considérer comme « appartenant au domaine de l’artificiel, du fabriqué, du non naturel ».
Et c’est là que réside le véritable danger de l’Illusion Claude. Ce n’est pas que les chatbots puissent nous plonger dans la psychose. Et ce n’est certainement pas que les chatbots puissent réellement être conscients. C’est que, lorsque nous affirmons que ces machines sont « conscientes » et « intelligentes », nous dévalorisons et négligeons ainsi notre propre humanité. Que nous en soyons conscients ou non, nous ne pouvons affirmer la conscience des machines qu’en nous abaissant à leur niveau.