La formation en physique d’Àlex Gómez-Marín transparaît dans la manière dont il dissèque les affirmations exagérées avant d’y répondre.
Au début du mois, dans l’émission Closer to Truth, Robert Lawrence Kuhn a interviewé le physicien espagnol devenu neuroscientifique, Àlex Gómez-Marín, sur la question de savoir si l’IA peut devenir consciente :
Alex Gómez-Marín [0:30] : Je pense que beaucoup d’adeptes de l’IA confondent simulation et instanciation : l’idée que, si quelque chose se comporte comme si c’était autre chose, on peut assimiler les deux choses. C’est une erreur conceptuelle qui s’est déjà produite maintes fois.
Cela arrive pour une raison évidente : ces algorithmes nous impressionnent réellement.
J’aime les considérer comme une sorte de miroirs. [1:00] Pas sûr que ce soient des miroirs sombres, mais des miroirs. Et cela crée une illusion… Comme si nous pouvions faire en sorte que ces choses soient « aussi bonnes que » ; et donc, nous affirmons qu’elles sont la même chose.
C’est en effet une erreur critique dans la manière de penser l’IA. Un chien-robot, conçu et programmé pour se comporter remarquablement comme un chien réel, peut tromper de nombreux observateurs. Mais il n’est pas pour autant devenu un chien. Rien n’en fera jamais un chien : il reste une représentation mécanique fidèle.
C’est précisément ce qui ne va pas avec le célèbre test de Turing, que Gómez-Marín mentionne plus loin : le fait qu’une machine d’intelligence artificielle comme un chatbot puisse tromper des gens (parfois tragiquement) en leur faisant croire qu’ils conversent avec un être intelligent ne fait pas de lui un tel être.
Le problème n’est même pas nouveau
Dans l’histoire de la culture humaine, on a souvent attribué une intelligence humaine aux animaux, aux arbres, aux montagnes. Une grande partie de l’Ancien Testament est consacrée à dénoncer et à mettre en garde contre de telles croyances, jugées fatales à une compréhension claire du monde (sans parler des réalités spirituelles). Ces croyances ont probablement freiné le progrès scientifique dans la majeure partie du monde pendant l’essentiel de l’histoire humaine.
Le chatbot est sophistiqué parce qu’il exploite et restitue une vaste bibliothèque d’interactions humaines antérieures. Mais le principe reste le même : ni l’arbre ni le bot n’interagissent réellement avec nous. Dans un cas, nous travaillons avec notre propre imagination ; dans l’autre, avec la bibliothèque de pensées humaines déjà enregistrées d’un programme.
L’intelligence n’est pas la conscience
Gómez-Marín [1:21] : Un autre problème conceptuel avec l’IA est que, parfois, les gens confondent intelligence et conscience. Ils ont tendance à penser que, parce que quelque chose — en l’occurrence un algorithme — peut résoudre des problèmes et le faire de façon spectaculaire, alors il doit avoir une forme de sensibilité.
À ceux qui le pensent, il suggère de se demander : le télescope spatial James Webb est-il plus intelligent qu’un télescope de jardin ? Si ce n’est pas le cas, pourquoi un chatbot impressionnant serait-il plus « intelligent » qu’un ordinateur de bureau ? Dans les deux cas, il s’agit simplement de machines plus puissantes, plus sophistiquées. Mais comment passe-t-on de là à la conscience des êtres vivants, dont la définition est déjà si difficile ?
Quelles formes de vie sont conscientes est un sujet toujours disputé
Gómez-Marín cite Mike Levin : Alex, nous ne savons pas vraiment quelles choses peuvent incarner la conscience dans le monde, parce que nous avons été constamment surpris.
Certains pensent que les humains ne sont pas conscients. D’autres admettent que oui, les humains le sont, mais pas les animaux… ou pas les plantes. Le champ de la cognition végétale est lui-même traversé de controverses — et même les champignons sont en question.
Ce que je veux dire, c’est que nous ne savons vraiment pas quelles entités pourraient accueillir la conscience. Mais dans le cas de l’IA, il y a clairement un élément de battage médiatique…
Et cet élément de matraquage est bien réel, comme l’ont souligné plusieurs auteurs, car il vise surtout à séduire les investisseurs des startups en IA — tout en étant absorbé par le grand public.
Un bénéfice dans la controverse ?
Il voit certains avantages dans la controverse sur la conscience de l’IA :
Gómez-Marín [2:32] : Je dirais que l’intelligence artificielle constitue aussi une sorte d’invasion algorithmique qui agit comme une onde de choc, obligeant la communauté des chercheurs sur la conscience à se presser et à se dire : d’accord, mais qu’en est-il de ces choses-là maintenant ? Donc, peut-être que c’est une bonne chose, mais il y a beaucoup de confusion, je dirais, sur ce que ces algorithmes peuvent réellement faire, et plus important encore, sur ce qu’ils sont vraiment.
Je ne pense pas qu’ils soient des entités conscientes. Et je doute qu’ils le deviennent, mais peut-être que je me trompe.
Mais là, on en revient à un problème clé : si les théoriciens de la conscience ne s’entendent même pas sur le fait que les humains, les chiens, les arbres ou les champignons soient conscients, comment sauraient-ils si un chatbot l’est ?
La plupart d’entre nous utilisent une définition pragmatique : nous savons que nous sommes conscients nous-mêmes, donc nous supposons que les autres humains le sont. Nous croyons que les chiens et les chats sont conscients parce qu’ils se comportent comme tels. Nous croyons que les arbres et les champignons ne le sont pas parce qu’ils ne se comportent pas ainsi.
Dans cette optique, il n’est pas clair comment une IA inanimée pourrait devenir consciente si ses seules ressources sont des données enregistrées provenant d’êtres humains, habilement réarrangées par un programme — même si cela peut en donner l’impression à des personnes vulnérables.
À l’heure actuelle, il ne semble pas que les recherches sur la conscience puissent nous faire dépasser ce constat.
Source originale : Mind Matters, 29 août 2025
_______________________
Un neuroscientifique alerte sur la guerre cachée contre la conscience
Alex Gómez-Marín, PhD — Hans Busstra, MA
Le physicien et neuroscientifique Dr Àlex Gómez-Marín a prononcé un discours remarquablement engagé à la conférence Science of Consciousness (TSC) à Barcelone en 2025. Il a affirmé que nous vivons aujourd’hui une véritable guerre contre la conscience, où le matérialisme et le transhumanisme forment un cocktail dangereux.
Dr Gómez-Marín est professeur associé au Conseil national espagnol de la recherche à Alicante, en Espagne, et directeur du Pari Center en Toscane, Italie. Hans Busstra s’est entretenu avec lui immédiatement après son discours pour analyser ce que recouvre réellement cette guerre.
Vidéo publiée le 5 septembre 2025 : https://www.essentiafoundation.org/neuroscientist-speaks-out-on-the-hidden-war-on-consciousness/seeing/