Traduction libre
Nous entendons, aujourd’hui, beaucoup parler d’intelligence artificielle. Il s’agit d’une expression qui fait référence à une sorte d’intelligence avec laquelle les machines peuvent fonctionner, et au cours des dernières décennies, cette fonctionnalité s’est développée extrêmement rapidement. Mais comment est née cette intelligence des machines, et que signifie exactement le fait de qualifier une machine d’« intelligente » ? L’intelligence est un mot qui, depuis des temps immémoriaux, s’applique aux êtres humains et aux autres créatures vivantes, mais qui n’a été appliqué que très récemment aux machines. Comment cette nouvelle intelligence des machines se rapporte-t-elle à notre intelligence humaine et en diffère-t-elle ?
La nature en tant que machine
Pour répondre à ces questions, nous devons d’abord comprendre ce qui, à l’origine, a motivé les gens à insuffler de l’intelligence aux machines. Si nous remontons au Moyen Âge, les premières horloges astronomiques qui ont commencé à apparaître dans les lieux publics au cours des premières décennies du XIVe siècle ont exercé une fascination sur les gens. Personne ne considérait ces horloges comme intelligentes, mais elles étaient clairement une manifestation d’intelligence, car elles étaient capables de représenter avec précision les mouvements du soleil et de la lune (et dans les horloges plus complexes, les mouvements des planètes également) sur fond de constellations zodiacales. Il s’agissait d’une réalisation technologique extraordinaire, qui a conduit les gens à penser que si le mouvement du soleil et des étoiles pouvait être reproduit par un mécanisme, cela impliquait que le cosmos tout entier pouvait être considéré comme une grande machine. Cette idée a commencé à s’imprimer dans la psyché humaine au XIVe siècle, lorsque, par exemple, le philosophe, théologien et astronome Nicole Oresme a proposé l’image de Dieu comme un horloger divin. Selon Oresme, Dieu a conçu et fabriqué l’univers comme un vaste mécanisme, l’a mis en marche, puis l’a laissé fonctionner tout seul [1].
Regarder à travers le cadran d’une horloge surplombant une ville européenne. Les premières horloges astronomiques, construites au Moyen Âge et apparaissant dans les lieux publics, ont joué un rôle dans le changement de mentalité qui a amené les gens à considérer que le cosmos tout entier pouvait être vu comme une grande machine.
Au cours des siècles suivants, alors que l’horloge devenait de plus en plus petite et répandue, pénétrant d’abord dans les maisons des riches, accrochée de manière plutôt inélégante aux murs de leurs salons, et plus tard dans des modèles plus compacts posés sur les cheminées des maisons de la classe moyenne, elle rappelait quotidiennement à un nombre croissant de personnes que l’univers pouvait être imaginé comme une grande machine, et chaque créature qui s’y trouvait comme un mécanisme plus ou moins complexe. À l’époque de la révolution scientifique, au XVIIe siècle, la vision mécaniste du monde était acceptée par de nombreuses personnes instruites. Le temps était venu de la caractérisation par Descartes du corps humain comme une machine, ainsi que celui de toute autre créature vivante [2].
Apprendre à penser comme une machine
Derrière cette idée se cachait une autre idée qui est devenue la force motrice de la révolution scientifique. Si l’univers et toutes les créatures qu’il contient sont des machines, alors pour que les connaissances humaines soient fiables, notre pensée doit s’aligner sur la façon dont le monde est constitué. En d’autres termes, nous devons apprendre à penser de la même manière que le fonctionnement des machines. Pour cela, nous devons d’abord analyser les mécanismes de la nature en les démontant, comme si nous démontions une horloge, en les réduisant à leurs composants les plus petits et les plus simples. De cette façon, la relation entre chaque partie et toutes les autres devait devenir plus évidente, afin d’être alors en mesure de comprendre comment elles s’assemblent pour former un tout. Les Règles pour la direction de l’esprit de Descartes (1629) décrivent en fait exactement comment penser comme une machine. [3] À peu près à la même époque, Francis Bacon écrivait dans la préface de son manifeste de la révolution scientifique, le Novum Organum (1620), que « tout le travail de l’entendement » doit être recommencé et que l’esprit doit être « guidé à chaque étape et que le processus doit être fait comme par une machine » [4]. Ainsi, l’image de la machine a été appliquée à la vie intérieure de l’être humain. Le fonctionnement de la machine est devenu un idéal auquel les êtres humains désireux d’acquérir des connaissances doivent conformer leur propre pensée.
Bacon et Descartes étaient tous deux convaincus que le langage humain ordinaire ne permet pas de le réaliser efficacement, car il est plein de flou et d’imprécision. Si nous cherchons à comprendre un univers composé de parties extérieures à d’autres parties, ils estimaient qu’il était nécessaire de concevoir une science capable d’égaler la précision mécanique de la nature dans son mode d’expression. Pour Descartes, il fallait adopter la précision de la pensée mathématique comme idéal de la recherche scientifique. Cela signifie que l’aspect qualitatif de la nature doit être réexprimé en termes quantifiables, car ce n’est qu’à cette condition que notre connaissance peut atteindre une exactitude suffisante. Ce n’est qu’à cette condition qu’elle peut devenir une connaissance utile, car elle nous permettra de manipuler, de contrôler et d’utiliser ce que nous avons appris à connaître. Comme l’expliquait Descartes, la méthode mathématique nous permettrait de « nous rendre maîtres et possesseurs de la nature » [5].
Il y a toujours eu une sorte de marchandage faustien au cœur de la vision du monde et de la méthodologie mécanistes qui a sous-tendu la révolution scientifique. Pour maîtriser la nature, il fallait la quantifier, ce qui signifiait que ceux qui consacraient leur vie à la science devaient se transformer en calculateurs, engagés dans un certain type de pensée d’où était exclu tout ce qui ressemblait à une expérience ressentie ou à une intuition spirituelle. En d’autres termes, les chercheurs de connaissances devaient restreindre leur vie intérieure. Puisque seul le type de pensée qui était, ou pouvait être, conforme aux mathématiques — à savoir la pensée calculatoire — était considéré comme légitime, ce qui ne pouvait être quantifié ne relevait pas d’une connaissance légitime. Ainsi, pour Galilée, tous les phénomènes qualitatifs doivent être considérés comme illusoires, et seuls les aspects des phénomènes qui peuvent être quantifiés doivent être considérés comme réels [6]. Ce qui était au départ un principe méthodologique est devenu le moyen de redéfinir la réalité étudiée.
En 1642, comme pour rendre tout à fait explicite la nature mécanique de la pensée calculatrice, Pascal invente sa calculatrice mécanique. Il s’agit d’un appareil relativement simple, mais ingénieux, dont le mécanisme rappelle celui d’une horloge. Il était capable d’additionner et de soustraire et, par des additions et des soustractions répétées, de multiplier et de diviser. Ce qui était si révolutionnaire dans la calculatrice mécanique, c’est qu’elle substituait la rotation de roues et de rouages à l’effort mental humain nécessaire pour effectuer des calculs mathématiques. Elle prouvait que certaines fonctions mentales humaines — additionner et soustraire, multiplier et diviser — pouvaient être reproduites par un mécanisme physique. L’esprit humain, fonctionnant de cette manière restreinte, était donc reflété dans la machine, bien que de manière assez grossière. Mais pour ceux qui cherchaient à redéfinir la pensée humaine comme un acte de calcul, cela renforçait l’idée que l’esprit humain pouvait être conçu à l’image de la machine. Lorsque, par exemple, peu après l’invention de la calculatrice mécanique par Pascal, Thomas Hobbes a déclaré que le raisonnement humain se résumait par le calcul, cela impliquait que — puisque les calculs mathématiques pouvaient être effectués par des machines — l’essence même de l’intelligence humaine était mécanique [7].
Un désir secret
Cette vision de l’intelligence humaine exerçait un étrange attrait. Beaucoup de gens se sentaient attirés par elle, comme si elle correspondait à un désir secret de l’âme humaine de se reconcevoir à l’image de la machine. Ainsi, le fantasme du cyborg a lentement mais sûrement émergé et s’est emparé de l’imagination humaine. En 1748, le premier manifeste cyborg est publié par Julien Offray de La Mettrie, sous le titre L’homme machine. La Mettrie considère que la conscience humaine est entièrement le produit du cerveau physique, qu’il décrit comme fonctionnant comme un mécanisme d’horlogerie, avec autant de roues et de ressorts. Une telle image de l’esprit humain ne pouvait admettre aucune liberté à notre vie intérieure : tout était déterminé mécaniquement. La Mettrie a été la première personne à formuler sans ambages l’archétype homme-machine. Bien que son livre ait été accueilli avec la plus grande hostilité par l’Église et l’establishment (des exemplaires du livre ont même été brûlés par les autorités ecclésiastiques), il s’est néanmoins bien vendu, avec trois tirages l’année de sa publication. Il fut rapidement traduit en anglais, où il fut réimprimé à plusieurs reprises ; entre-temps, l’auteur dut fuir sa France natale pour sauver sa vie [8]. Le fait que les gens aient été à la fois repoussés et fascinés par l’archétype de l’homme et de la machine montre à quel point cet archétype était chargé.
Depuis cette époque, l’ombre de l’archétype homme-machine s’est projetée de plus en plus profondément sur nous. Aujourd’hui, nous pouvons l’expérimenter non seulement dans le degré de dépendance que nous avons vis-à-vis de nos machines intelligentes — nos ordinateurs portables, nos tablettes et nos smartphones, nos GPS et nos assistants virtuels — mais aussi dans le degré d’intimité que nous entretenons avec ces machines qui sont devenues nos compagnons quotidiens de toutes heures. Non seulement nous sommes de plus en plus déférents à leur égard, mais nous sommes aussi de plus en plus liés à elles sur le plan émotionnel. Il est difficile pour beaucoup de gens d’imaginer pouvoir vivre sans elles. Qu’est-ce qui se cache derrière tout cela ? S’agit-il d’une simple commodité ou leur présence est-elle en quelque sorte rassurante pour nous ? Nous renvoient-ils une image de nous-mêmes à laquelle nous aspirons secrètement ? L’archétype homme-machine serait-il déjà entré en nous ? À la fin des années 1980, le philosophe postmoderne français Jean-François Lyotard a posé la question suivante : « Et si ce qui est “propre” à l’homme était habité par l’inhumain ? » [9].
Parce que l’inhumain est désormais si proche de nous, cette question est devenue la question de notre temps.
L’Intelligence de la machine
Pour répondre à la question de Lyotard, il faut d’abord préciser quel type d’intelligence peut être automatisé dans une machine. Comme nous l’avons vu, avec les premières calculatrices mécaniques du XVIIe siècle, le modèle d’intelligence automatisée était le calcul. Vous introduisiez des données et la machine calculait la réponse. Vous avez entré 236 et 528. Vous avez tourné la roue dentée de l’addition et la machine a calculé le résultat : 764. Mais à partir du XVIIe siècle, on assiste à un autre développement très important. De nombreux intellectuels ont cherché à configurer la logique aux mathématiques, de sorte que les opérations logiques puissent devenir des calculs, effectués indépendamment du support du langage humain ordinaire. Grâce aux efforts considérables déployés par de nombreux esprits brillants, cet objectif a finalement été atteint au XIXe siècle, de manière décisive par George Boole dans son livre An Investigation into the Laws of Thought (1854). Boole a montré que les calculs pouvaient être effectués sur des données beaucoup plus complexes que les nombres, en assimilant les opérations logiques aux opérations mathématiques, de sorte que l’addition, la soustraction et la multiplication devenaient en fait des opérations logiques. Cela signifie que tant que les données sont introduites dans la machine dans un langage compatible avec la machine (c’est-à-dire calculable) — pour Boole, il s’agit d’une forme d’algèbre — elles peuvent être traitées et analysées par la machine [10]. La machine suit simplement un ensemble d’instructions ou d’opérations logiques, que nous appelons aujourd’hui des algorithmes, qui conduisent aux résultats souhaités. Boole a ainsi jeté les bases du développement de l’intelligence artificielle. Il s’agit essentiellement du traitement des données par la pensée calculatoire ou algorithmique. Plus la machine peut analyser de données et plus elle peut produire rapidement des résultats, plus elle est considérée comme intelligente [11].
Aujourd’hui, nombreux sont ceux qui voudraient nous persuader que l’intelligence humaine se situe exactement sur le même spectre que l’intelligence artificielle. L’opinion de La Mettrie selon laquelle la conscience humaine est réductible aux processus cérébraux est devenue le point de vue scientifique standard. La différence aujourd’hui est qu’au lieu de l’horloge ou de la calculatrice mécanique, l’ordinateur est devenu l’image sous-jacente considérée comme un miroir de la conscience humaine, étant entendu que le cerveau est essentiellement un ordinateur biologique [12]. Parallèlement à cette vision du cerveau en tant qu’ordinateur biologique, on affirme que la pensée humaine n’est rien d’autre qu’une sorte d’analyse de données qui consiste à résoudre les choses logiquement et à faire des calculs pour arriver à un résultat donné, ce qui permet de résoudre le problème ou de gagner l’argument.
Dans la tradition philosophique occidentale, on appelle cela la pensée discursive. Elle est discursive parce qu’elle « court » (dis-currere) d’une pensée ou d’une déduction logique à une autre, jusqu’à ce qu’elle arrive à une conclusion ou atteigne son objectif. Le problème est que si les machines peuvent fonctionner beaucoup plus vite que nous, en traitant des quantités de données beaucoup plus importantes et en proposant des recommandations ou des décisions avant même que nous ayons eu le temps de réfléchir à quoi que ce soit, alors il est clair que nous avons été dépassés ! Il est prévu qu’au cours des vingt prochaines années, une part croissante du travail des avocats, des enseignants et des médecins sera effectuée par des algorithmes spécialisés. Nous pouvons déjà observer ce phénomène. Il existe aujourd’hui des entreprises dont le conseil d’administration est composé d’algorithmes, car ceux-ci sont capables d’analyser d’énormes quantités de données, de prendre en compte tous les facteurs pertinents, puis de faire des recommandations extrêmement judicieuses aux autres membres du conseil sur la base de leur analyse. Parfois, ils disposent même d’un droit de vote au même titre que les autres administrateurs [13].
Un scénario cauchemardesque commence à apparaître dans lequel des machines « superintelligentes » ne se contenteront pas d’assister les êtres humains, mais nous remplaceront complètement. Nous deviendrons superflus. Ce fantasme cauchemardesque a fait trembler la Silicon Valley il y a quelques années. Steve Wozniak, le cofondateur d’Apple, aurait dit : « Si nous construisons ces appareils pour qu’ils s’occupent de tout à notre place, ils finiront par penser plus vite que nous et ils se débarrasseront des humains trop lents pour diriger les entreprises plus efficacement » [14].
Pour ceux qui considèrent que l’intelligence humaine se situe sur le même spectre que l’intelligence artificielle, la solution consiste à s’intégrer davantage aux machines par le biais d’interfaces informatiques directes, de sorte que nous ayons toujours une longueur d’avance sur elles [15]. Mais cela signifierait que notre avenir humain serait un avenir de cyborg. Pour échapper à un scénario cauchemardesque, nous en embrassons un autre, dans lequel les êtres humains s’affranchissent de plus en plus des limites de leur propre biologie, devenant ainsi (aux yeux de certains) « surhumains » [16]. Ainsi, pour en revenir à la question initiale de Lyotard, qu’est-ce qui est « propre » à l’humanité ?
L’intelligence humaine
Dans la tradition philosophique occidentale, issue de Platon et d’Aristote, une distinction très nette est faite entre la pensée discursive, qui « court » en reliant une pensée à une autre par des déductions logiques, et la pensée contemplative, qui est à bien des égards l’opposé de la pensée discursive. La pensée contemplative ne court pas, mais s’arrête. Elle ne bouge pas, mais se repose dans sa propre activité, qui est une attention focalisée, à la fois ouverte et réceptive. Contrairement à la pensée discursive, la pensée contemplative ne traite pas les données : elle ne relie pas une pensée terminée à une autre selon un ensemble d’instructions ou de règles logiques. Elle va derrière les pensées et s’attarde sur l’activité de pensée qui les produit. En matière d’« intelligence artificielle », la pensée contemplative a la valeur zéro, car elle est ralentie jusqu’à s’immobiliser. Mais cet arrêt est un espace créatif que l’intelligence artificielle ne reconnaît pas et ne peut pas reconnaître.
Du point de vue de l’intelligence artificielle, la pensée contemplative semble totalement inutile, car elle ne se préoccupe pas d’analyse ou de résolution de problèmes. Elle ne cherche pas à obtenir des résultats. Il s’agit d’une activité engagée pour elle-même. Et cette activité implique que l’on tourne son attention vers l’intérieur, vers le monde spirituel, en prenant conscience de ce qui s’élève dans l’âme — au-delà des données, au-delà des informations, au-delà de nos opinions favorites. Ce qui surgit dans la véritable activité contemplative, ce sont des intuitions et des perceptions du sens profond des choses, dont la pensée mécanique ne sait rien. Ces intuitions et insights peuvent être informés par les images primordiales des réalités archétypales qui remontent du monde imaginal et auxquelles on ne peut tout simplement pas accéder par la déduction logique ou la pensée calculatrice. Dans la pensée contemplative, nous arrivons également à nous tenir sur le terrain de notre propre liberté intérieure, car il s’agit d’un espace ouvert qui n’est pas conditionné par des habitudes de pensée ou d’opinion, mais qui est plutôt une réceptivité active à une source de connaissance plus intérieure. C’est à partir de cette source que la voix de la conscience peut être entendue, et qu’un sentiment de certitude morale sur ce que nous devons faire peut nous venir. C’est quelque chose que l’on ne peut atteindre par simple calcul.
Ces expériences, et d’autres, fondamentales pour ce que signifie être humain et non une machine, sont le don de la contemplation. Le mot « contemplation » a enfoui en lui le mot latin désignant un espace sacré, qui abrite la présence divine. Le templum de « templation » se traduit par « temple ». Le mot « contemplation » lui-même nous indique que pour contempler, nous devons trouver le chemin de ce temple intérieur, cet espace sacré en nous-mêmes, où nous pouvons nous ouvrir à la dimension spirituelle de l’existence [17]. L’intelligence de la machine ne peut atteindre cet espace sacré, ni l’activité contemplative qui le crée, quelle que soit la quantité de données qu’elle traite et la vitesse à laquelle elle les traite.
Les philosophes et les mystiques ont maintes fois parlé de l’activité de contemplation comme étant au cœur de notre humanité. Nous entrons actuellement dans une période de grand péril pour l’humanité, car nous tombons collectivement de plus en plus sous le charme de la machine, et de la pensée machinale. Il nous incombe, à nous tous qui cherchons à défendre des valeurs véritablement humaines dans une ère dominée par des machines intelligentes, de nous enraciner dans l’activité contemplative propre à l’intelligence humaine, au sujet de laquelle Aristote a déclaré il y a longtemps qu’il s’agit de « quelque chose en nous qui est divin… la chose la plus élevée en nous, car bien qu’elle soit petite en volume, en puissance et en valeur elle surpasse de loin tout le reste » [18].
***
Ce qui précède est basé sur une courte conférence donnée par l’auteur pour présenter son livre In the Shadow of the Machine : La préhistoire de l’ordinateur et l’évolution de la conscience.
Extrait de New Dawn 170 (Sept Oct. 2018)
__________________________________________________
1 Nicole Oresme, Le Livre du Ciel et du Monde (1377), 2.2.
2 René Descartes, Traité de l’homme (1629) in Ralph M. Eaton, ed., Descartes: Selections (London: Charles Scribner’s Sons, 1927), p. 350 and p.354: “toutes les fonctions [du corps humain]… suivent toutes naturellement en cette machine, de la seule disposition de ses organes, ni plus ni moins que font les mouvements d’une horloge, ou autre automate, de celle de ses contrepoids et de ses roues”.
3 René Descartes, Rules for the Direction of the Mind in Elizabeth Anscombe and Peter Thomas Geach, eds., Descartes: Philosophical Writings (Sunbury-on-Thames: Thomas Nelson and Sons, 1970).
4 Francis Bacon, Preface to Novum Organum (1620) in Rose-Mary Sargent, ed., Francis Bacon: Selected Philosophical Works (Indianapolis: Hackett Publishing Inc., 1999), p.87.
5 René Descartes, Discours de la Méthode, in the Philosophical Works of Descartes, vol.1, ed. Elizabeth S. Haldane and G. R. T. Ross (Cambridge: Cambridge University Press, 1980), p.119.
6 Galileo, Il Saggiatore (1623), in Stillman Drake, Discoveries and Opinions of Galileo (New York: Doubleday, 1957), p.274: “Je ne crois pas que les corps extérieurs, en vue d’exciter en nous des goûts, des odeurs et des sons, aient besoin d’autre chose que d’une taille, d’une figure, d’un nombre et de mouvements lents et rapides ; et je juge que si l’on enlevait les oreilles, la langue et les narines, la figure, les nombres et le mouvement resteraient en effet, mais pas les odeurs ni les goûts ni les sons….”
7 Thomas Hobbes, Leviathan (1651 ; Londres : J. M. Dent and Sons, 1973), p.18 : ‘En somme, dans toute matière où il y a une place pour l’addition et la soustraction, il y a une place pour la raison ; et là où celles-ci n’ont pas de place, là la raison n’a rien à faire du tout. Car la raison, en ce sens, n’est rien d’autre que l’estimation (c’est-à-dire l’addition et la soustraction)…’
8 Justin Leiber, Introduction à La Mettrie, Man a Machine (Indianopolis/Cambridge : Hackett Publishing Company, Inc., 1994), pp.4-6.
9 Jean-François Lyotard, The Inhuman (Cambridge: Polity Press, 1993), p.2.
10 Ainsi, ajouter x à y représentait un type d’opération logique, multiplier x par y un autre. Boole a vu que le signe plus correspondait à la disjonction logique (‘soit… soit’), le signe de multiplication à la conjonction logique (‘les deux… et’). Peu importe pour la machine ce que sont x et y : ce sont des entités déjà prédéfinies, ou pré-conceptualisées. Elles n’ont aucune signification pour la machine, qui les soumet simplement à l’analyse, en suivant les instructions ou ‘algorithmes’ qui produisent les résultats souhaités.
11 Ray Kurzweil, The Singularity is Near (Londres : Duckworth, 2005), pp.70-72.
12 Stephen Pinker, How the Mind Works (New York : W. W. Norton, 2009), p. 324: “L’esprit est ce que fait le cerveau ; plus précisément, le cerveau traite l’information, et la pensée est une sorte de calcul.”
13 Yuval Noah Harari, Homo Deus (Londres : Penguin Random House, 2016), p.322.
14 Steve Wozniak, entretien avec Paul Smith, Financial Review, 23 mars 2015.
15 Rick Perera, ‘Hawking: Re-engineer humans or risk machine rule’, PC World, 4 septembre 2001 rapporte les propos de Hawking : ‘Les humains doivent développer une interface qui permette de connecter directement le cerveau humain à un ordinateur, afin que le cerveau artificiel contribue à l’intelligence humaine, au lieu de s’y opposer.’
16 Harari, Homo Deus, pp.43-47.
17 Henri Corbin, Temple et contemplation (Londres : KPI, 1986), pp.386-388.
18 Aristote, Éthique à Nicomaque, X.VII.8.