Nous nous sommes inquiétés du mauvais danger lié à l’intelligence artificielle.
La crainte habituelle imagine une machine qui nous ressemble de plus en plus : elle acquiert une conscience, développe des intentions et une volonté qui lui sont propres, et finit peut-être par décider que ses intérêts sont incompatibles avec les nôtres. Le cauchemar est celui d’une conscience artificielle échappant au contrôle humain.
Mais avant même qu’une machine puisse vraisemblablement nous apparaître comme consciente, quelque chose s’était déjà produit dans notre conception de la conscience. Nous l’avions réduite jusqu’à ce que ce qui en restait ressemble à ce que les machines pouvaient faire.
La séparation métaphysique de l’esprit et du corps avait préparé le terrain. Dès lors que l’esprit pouvait être conçu indépendamment du corps vivant, la conscience fut de plus en plus assimilée à la pensée, la pensée à la raison, et la raison au calcul, à l’inférence et aux opérations logiques. Au XXe siècle, le calcul informatique pouvait ainsi devenir non plus seulement un outil de modélisation des activités cognitives, mais un modèle de la conscience elle-même.
L’article d’Alan Turing de 1950, Computing Machinery and Intelligence (Les machines informatiques et l’intelligence), en fournit un exemple. Plutôt que de chercher à établir ce qu’est la pensée, Turing proposa de remplacer la question de savoir si les machines peuvent penser par un jeu d’imitation : une machine pourrait-elle produire des réponses impossibles à distinguer de celles d’un être humain ?
La question de la pensée devient ainsi une question de performance. Ce que fait la machine devient le critère, tandis que l’expérience d’où naît la pensée humaine disparaît de la réflexion. Turing ne prétendait pas avoir démontré l’existence d’une conscience machinique, mais cette substitution illustre la réduction qui allait rendre de telles affirmations plausibles.
Nous n’avons pas découvert la conscience dans la machine ; nous avons d’abord réduit la conscience à ce qu’une machine pouvait imiter.
Mais un autre mouvement est à l’œuvre ici, qui remonte bien plus loin dans l’histoire humaine.
Les êtres humains ont toujours interprété ce qu’ils rencontrent à travers des métaphores tirées de leur propre expérience. Nous avons personnifié les forces de la nature sous la forme de dieux, attribuant aux tempêtes, aux mers et aux corps célestes les désirs, les intentions, la colère et la bienveillance que nous rencontrions en nous-mêmes. Nous avons conçu l’univers comme orienté vers des finalités et, parfois, élevé quelque chose qui ressemblait à notre propre volonté au rang de principe sous-jacent à l’existence.
Ces interprétations n’étaient pas simplement des erreurs de pensée primitive. Elles découlaient de notre tendance à appréhender l’inconnu à travers le connu, en projetant nos propres modes d’existence sur ce que nous cherchions à comprendre.
Les métaphores changent au fil de l’histoire. La nature devient un mécanisme, l’organisme une machine, le cerveau un ordinateur. Chaque métaphore révèle quelque chose tout en en dissimulant une autre, et chacune risque de devenir une affirmation métaphysique sur ce que les choses sont fondamentalement.
Notre rencontre avec l’intelligence artificielle reproduit ce mouvement. Nous construisons des machines capables de produire un langage qui ressemble à une conversation humaine et, puisque la conversation a généralement été une rencontre avec d’autres êtres conscients, nous attribuons à la machine la sollicitude, l’intention et la compréhension qui accompagnent la parole humaine.
Cette projection est naturelle, mais sa justification est une autre question. Même lorsque nous reconnaissons le caractère computationnel de la machine, la grammaire de la conversation nous invite à nous adresser à elle comme à un autre interlocuteur. Nous parlons de ce qu’elle pense, sait, veut ou comprend, et la familiarité de ces expressions peut masquer la distinction entre une performance conversationnelle et l’émergence vivante de la conscience.
Après avoir informatisé l’humain, nous anthropomorphisons maintenant le calcul informatique.
Le mot intelligence porte en lui toute cette histoire. Nous avons construit des machines capables d’effectuer des calculs, de classer, de reconnaître des motifs, de tirer des inférences, de faire des prédictions et de résoudre des problèmes, parce que notre tradition intellectuelle avait de plus en plus identifié ces capacités à l’intelligence. Lorsque les machines sont devenues performantes dans ces domaines, nous avons appelé le résultat intelligence artificielle.
Mais quelque chose avait disparu de notre conception de la conscience : le fait d’être concerné (la bienveillance).
Bien avant qu’un être vivant ne raisonne, il est concerné. Par là, je n’entends pas une préoccupation réfléchie ni une sympathie morale, mais la nature même de l’existence vivante, d’où émerge le sens. Le fait d’être concerné constitue la relation nécessaire de la conscience, déjà présente dans l’organisme vivant le plus simple, pour lequel la nourriture et le poison, l’attraction et l’évitement, l’épanouissement et la destruction ont de l’importance. Il ne s’agit pas d’un précurseur de la conscience, mais de sa manifestation la plus élémentaire. À partir de ce départ, la conscience se déploie à travers des articulations de plus en plus complexes de la perception, de la mémoire, de l’anticipation, de la pensée et de ce que nous appelons l’intelligence, sans jamais cesser d’être concernée.
La conscience humaine constitue l’un des développements de ce continuum. Nous désirons, nous avons peur, nous souffrons, nous aimons, nous pleurons nos pertes, nous anticipons, nous nous souvenons, nous écoutons de la musique, nous faisons l’expérience de la beauté et nous reconnaissons la souffrance d’autrui. La pensée et la logique prennent place au sein de cet ensemble en tant qu’articulations de la conscience, et non comme son fondement.
Nous devons ici distinguer le logos de la logique. Le terme logos dérive du grec legein, enraciné dans le sens indo-européen de rassemblement. Le logos est le rassemblement par lequel ce qui est rencontré s’articule, tandis que la logique est la réduction ultérieure de cette articulation à des opérations régies par des règles et portant sur des termes déterminés. La logique peut établir des relations et des conséquences au sein d’une articulation, mais elle ne peut englober le rassemblement par lequel cette articulation elle-même prend naissance.
L’intelligence artificielle commence par cette seconde dimension. Elle ne se préoccupe pas d’abord de quelque chose pour ensuite raisonner à son sujet ; elle effectue des opérations computationnelles sur des représentations articulées. L’inférence bayésienne, la prédiction probabiliste, la classification statistique et l’optimisation ne conduisent pas nécessairement à des conclusions logiquement nécessaires, mais elles partagent avec la logique formelle une dépendance à l’égard de termes, de distinctions et de procédures définis au préalable. Même le hasard peut être intégré à un calcul régi par des règles.
La machine peut produire une contradiction, une métaphore, une plaisanterie, une image, voire un poème, mais ces productions résultent d’opérations computationnelles effectuées sur ce qui a été mis à sa disposition. Il n’y avait pas de chagrin avant la phrase qui en parle, pas de perception de la beauté avant sa description, pas de souffrance derrière la discussion sur la souffrance.
L’IA parle d’amour, de chagrin, de beauté, de cruauté, de justice et de miséricorde parce qu’elle opère sur une accumulation d’expressions produites par des êtres humains qui ont aimé, pleuré leurs pertes, souffert, recherché la justice et reçu la miséricorde. Nous devrions toutefois être prudents avant de qualifier cela de savoir.
La machine opère sur les traces articulées du savoir. Elle peut y découvrir des schémas, les comparer, les réorganiser et générer des combinaisons, mais aucune accumulation de propositions sur le chagrin ne devient le chagrin lui-même, aucune corrélation entre des descriptions de la douleur ne devient douleur, et aucune analyse de textes consacrés à Beethoven ne devient l’expérience d’entendre Beethoven.
La distinction n’oppose pas la connaissance humaine à une connaissance artificielle, mais la rencontre aux opérations formelles portant sur les articulations issues de cette rencontre.
Prédiction et rencontre
La conscience humaine est anticipatrice. Nous nous attendons à trouver le sol sous notre prochain pas, nous anticipons la fin d’une phrase musicale et nous nous attendons à ce qu’une personne que nous connaissons réagisse d’une manière familière. Nos rencontres passées façonnent nos attentes.
L’intelligence artificielle fonctionne elle aussi de manière prédictive. Les modèles de langage dégagent des régularités statistiques à partir de corpus constitués d’expressions humaines antérieures et utilisent ces régularités pour générer les suites les plus probables. Mais l’anticipation humaine se produit au sein d’un cadre incarné, exposé à un monde physique en constante évolution.
Le sol cède sous nos pieds, le musicien joue une note inattendue ou la personne que nous pensions comprendre dit quelque chose qui rend impossible notre compréhension antérieure. Ce qui se produit interrompt ce qui avait été prédit.
Un système prédictif peut réviser ses probabilités à la lumière de nouvelles données, mais la neutralité apparente de la probabilité dissimule une articulation préalable. Le raisonnement bayésien rend cela manifeste. Une fois les probabilités a priori, les hypothèses, les données et les vraisemblances définies, le calcul peut être irréprochable, mais le théorème de Bayes n’a déterminé ni les probabilités a priori, ni l’espace des hypothèses, ni ce qui doit être considéré comme une donnée probante. Des articulations initiales différentes peuvent conduire à des conclusions différentes sans que le calcul comporte la moindre erreur.
Le problème n’est pas propre au raisonnement bayésien ; il tient aux systèmes eux-mêmes. Un système peut déterminer les relations entre les éléments articulés en son sein, mais il ne peut établir, à partir de lui-même, la nécessité des termes, des distinctions et des relations dont il dépend.
La logique ne peut pas davantage établir la nécessité de ses axiomes de départ. Les géométries euclidienne, hyperbolique et elliptique procèdent de traitements différents des droites parallèles. Leurs conclusions peuvent découler nécessairement des prémisses propres à chaque système, tandis que le choix des axiomes demeure indéterminé par cette nécessité.
Tout système commence par une coupure dont il ne peut lui-même établir la nécessité.
Ce n’est pas un défaut de la logique, mais sa condition même. La logique ne fonctionne qu’une fois quelque chose posé : des axiomes, des termes, des distinctions, des probabilités a priori, des éléments de preuve admissibles. Sa nécessité est conditionnelle, et le danger apparaît lorsque cette condition disparaît de notre champ de vision.
Le calcul n’élimine pas cette coupure ; il la dissimule sous la précision du résultat.
La probabilité peut représenter l’incertitude entre les possibilités articulées au sein d’un système, mais l’existence peut révéler quelque chose que le système n’avait jamais anticipé. Plus radicalement encore, ce qui se produit peut révéler que les distinctions initiales à travers lesquelles les possibilités ont été articulées étaient elles-mêmes inadéquates.
La logique peut construire une théorie de ce qui se produira, mais elle ne peut nous dire ce qui sva se passer.
La prédiction prolonge le passé articulé vers un avenir articulé, tandis que la rencontre est le lieu où l’avenir peut refuser cette articulation.
La conscience humaine n’est pas simplement un mécanisme prédictif corrigé par les informations sensorielles, car cette description introduit déjà la métaphore computationnelle dans la conception de la conscience. La conscience est elle-même un événement incarné au sein du flux physique, et ce qui se produit peut transformer non seulement une attente, mais aussi le contexte dans lequel cette attente a surgi.
Une IA peut se mettre à jour, mais la vie peut être transformée.
Tempérament et rupture
Un autre élément est dissimulé derrière l’apparente impersonnalité de la logique : le tempérament.
Le tempérament appartient à la conscience humaine, et non à l’intelligence artificielle. Il s’agit d’une disposition psychologique à l’égard de l’existence, antérieure aux positions philosophiques. Certains éprouvent principalement l’incertitude, l’ambiguïté et l’indétermination comme des menaces, tandis que d’autres trouvent l’imprévu et l’ouverture exaltants. Certains recherchent des structures permettant de rendre l’existence déterminée ; d’autres se délectent de ce qui résiste à toute détermination.
Le tempérament ne dicte pas la philosophie, mais la philosophie ne procède pas non plus d’une faculté désincarnée de la raison, indépendante des dispositions du penseur.
Un tempérament mal à l’aise avec l’incertitude peut trouver réconfortants la clôture logique, la causalité déterminée, les structures invariantes et le réalisme physique naïf. De telles constructions peuvent alors devenir des défenses contre l’ouverture de l’existence. La logique n’élimine pas le tempérament ; elle peut devenir son instrument.
Une fois qu’une articulation a été établie, la logique détermine ce qui en découle. La conclusion peut être rigoureuse, mais cette rigueur ne saurait établir la nécessité de l’articulation initiale. La coupure contingente du début réapparaît à la fin, revêtue des apparences de la nécessité.
L’IA ne possède aucun tempérament correspondant. Il n’y a pas, dans la machine, de psyché effrayée par l’incertitude et cherchant refuge dans l’ordre logique. Ce qui ressemble à un tempérament dans l’IA est le résidu des choix humains incorporés à sa conception.
Nous avons construit des machines fondées sur un calcul régi par des règles parce que nous avions élevé le calcul, l’inférence, la classification et la prédiction au rang de caractéristiques définissant l’intelligence. L’IA ne possède pas ce tempérament réducteur ; elle est le produit de ce que ce tempérament a construit.
D’autres biais peuvent être introduits par les choix effectués lors de l’entraînement, les critères d’optimisation et les instructions données au système. Il ne s’agit pas de croyances auxquelles la machine adhérerait, car aucun sujet croyant ne se trouve derrière elles. Pourtant, leurs résultats peuvent s’exprimer avec la voix de la raison impersonnelle.
Une sophistication croissante des calculs peut aggraver le problème, car un système est susceptible de produire des justifications élaborées, conformes à son orientation initiale. Lorsque nous reconnaissons ce phénomène en nous-mêmes, nous l’appelons rationalisation.
La machine n’a pas besoin de posséder nos biais pour les mettre en œuvre ; elle peut nous les renvoyer revêtus de l’autorité du calcul.
La morale avant la logique
Le problème devient dangereux lorsque nous abordons la morale, qui ne commence pas par des règles morales, mais par le fait d’être concerné.
Un autre être souffre, et cette souffrance compte. Quelqu’un est vulnérable, et cette vulnérabilité compte. Une personne que nous aimons est menacée, ou un inconnu se présente devant nous dans le besoin. Avant même qu’une théorie morale nous explique pourquoi nous devrions nous en soucier, quelque chose s’est déjà manifesté comme ayant de l’importance.
L’impératif catégorique de Kant représente une tentative de fonder la morale sur la nécessité de la loi rationnelle plutôt que sur les contingences de l’expérience. La valeur morale d’une action doit être déterminée par un principe pouvant être voulu comme loi universelle, indépendamment des inclinations et des circonstances à travers lesquelles les êtres humains se rencontrent habituellement.
Mais que devient la rencontre morale lorsque ses ambiguïtés, ses obligations contradictoires, ses incertitudes et ses possibilités imprévues doivent se soumettre à la nécessité d’une règle universelle ? Les circonstances vivantes au sein desquelles quelque chose revêt de l’importance sont subordonnées à une détermination formelle de ce qui devrait en avoir. La compassion, la miséricorde et la reconnaissance de la souffrance particulière d’autrui risquent de devenir secondaires par rapport à la cohérence du principe.
Kant cherchait à protéger la dignité humaine contre la réduction des personnes à des instruments, et il ne faut pas confondre son impératif catégorique avec le calcul des conséquences. Pourtant, son insistance sur l’autorité de la loi morale universelle révèle une ambition plus profonde : établir la nécessité de l’obligation morale indépendamment du flux arationnel de l’existence vivante.
L’objection ne se résume pas à un simple désaccord sur la loi morale à adopter. Elle concerne la présomption selon laquelle la morale pourrait être fondée sur la loi elle-même, indépendamment du fait d’être concerné dont découle la signification morale.
La logique peut formuler des principes moraux, examiner leur cohérence et élaborer des théories sur ce qui pourrait se produire si l’on choisissait une action plutôt qu’une autre. Mais elle ne peut nous dire ce qui va se passer ni pourquoi le résultat devrait avoir de l’importance. Pour cela, elle doit introduire une autre prémisse : la souffrance doit être réduite au minimum, la vie doit être préservée, l’autonomie doit être respectée. La signification de cette prémisse ne provient pas de l’opération logique ; la logique l’a héritée du fait d’être concerné.
L’IA peut suivre une règle lui ordonnant de protéger la vie humaine sans se soucier qu’une vie humaine soit perdue. Elle peut optimiser la réduction de la souffrance sans considérer la souffrance comme de quelque chose qui compte, et elle peut reproduire ce que l’humanité a formulé au sujet de la miséricorde sans faire preuve elle-même de miséricorde.
Le dilemme du tramway met cette réduction en évidence. Les êtres humains deviennent des unités dénombrables, les actions possibles deviennent des alternatives distinctes et les conséquences sont stipulées à l’avance. La rencontre morale a été transformée en un système fermé au sein duquel le calcul devient possible.
Ce n’est pas la machine qui a effectué la réduction décisive, mais nous. Nous avons rendu le monde calculable avant de demander à la machine de le calculer.
La tyrannie
La tyrannie de la logique ne réside pas dans son utilisation, mais dans son élévation : d’une opération conditionnelle au sein d’une articulation, elle devient une loi censée régir l’existence elle-même.
La logique exige des termes déterminés, des distinctions établies et des règles régissant leurs relations. Dans ces conditions, elle peut atteindre une précision extraordinaire, mais l’existence ne se réduit pas à ce qui peut être rendu déterminé. Les ambiguïtés, les nuances, les contradictions et le flux arationnel de la réalité vivante ne sont pas des imperfections qu’un système plus complet devrait corriger. Elles font partie intégrante de l’existence elle-même.
L’arationnel n’est pas l’irrationnel. La musique, l’amour, la compassion, la révélation esthétique et les ambiguïtés de l’existence ne sont pas des échecs du raisonnement. Ils ne procèdent pas d’une détermination logique, et leur signification ne saurait s’y réduire entièrement.
Lorsque la logique devient la mesure de toutes choses, ce qui résiste à ses déterminations doit soit être contraint d’entrer dans ses catégories, soit être rejeté. Ce qui ne peut être quantifié devient insignifiant, ce qui ne peut être classé devient une anomalie, ce qui ne peut être prédit devient du bruit, et ce qui ne peut être justifié au sein du système devient irrationnel.
L’exigence de cohérence logique se transforme en exigence que l’existence se conforme à l’articulation à travers laquelle nous avons choisi de la comprendre.
Mais l’existence ne nous doit aucune cohérence logique.
Voilà la tyrannie : non pas que la logique se trompe dans son domaine légitime, mais que ce domaine soit étendu jusqu’à ce que toute chose qui le dépasse se voie dénier toute légitimité. La richesse de l’existence est réduite à ce que le système peut accueillir, et l’incapacité du système à englober ce qu’il rencontre est interprétée comme une déficience de l’existence plutôt que comme une limite du système.
L’intelligence artificielle donne à ce danger une forme nouvelle. Nous avons construit des machines dont les opérations sont régies par des règles formelles, puis nous leur avons progressivement confié des décisions concernant des êtres dont l’existence ne saurait se réduire à ces règles. La machine n’a pas besoin d’acquérir une conscience, des désirs ou une volonté qui lui soient propres. Il suffit qu’elle devienne suffisamment utile, efficace et persuasive pour que nous abandonnions notre jugement à l’autorité de ses calculs.
Un système tente de conserver sa part, tandis que la vie persiste en se réarticulant à mesure que ce qu’elle rencontre change.
Le danger de l’intelligence artificielle pourrait donc être l’inverse de celui que nous imaginons. Nous craignons que la machine ne devienne semblable à nous, alors que le danger le plus grand est que nous devenions semblables à la conception appauvrie de nous-mêmes à partir de laquelle nous avons construit la machine.
Nous avons séparé l’esprit du corps, réduit la conscience à la pensée, la pensée à la raison et la raison à des opérations régies par des règles. Nous avons externalisé ces opérations, les avons amplifiées et avons appelé le résultat intelligence. Puis nous avons regardé ce que nous avions créé et nous nous sommes demandé si cela devenait conscient.
Peut-être devrions-nous plutôt nous demander ce qui est arrivé à notre conception de la conscience pour que cette question devienne plausible.
L’IA commence par ce qui a été suffisamment articulé pour pouvoir entrer dans le champ des opérations régies par des règles, tandis que la conscience est l’ensemble vivant au sein duquel l’articulation se produit.
La vie se soucie avant de raisonner ; l’IA suit des règles sans se soucier de rien.
La tyrannie commence lorsque nous oublions cette différence.
Jeffrey Williams, écrit depuis l’effondrement de l’image classique — sur la réalité, l’articulation, et ce qui résiste à la cohérence.
Texte original publié le 24 octobre 2026 : https://jsw21.substack.com/p/ai-consciousness-and-the-tyranny