Traduction libre
L’ordinateur est une intelligence artificielle ; il peut apprendre, se corriger, écrire, composer de la musique, etc. L’ordinateur, la machine inventée par l’homme, change donc la société. Il modifie la structure de l’existence humaine extérieure. Que vous le sachiez ou non n’a peut-être que très peu d’importance, mais c’est en cours, c’est en train de se produire. Si la machine peut faire tout ce que la pensée peut faire — inventer des gourous, des rituels, des dieux, écrire des poèmes, battre un grand maître aux échecs — qu’est-ce que l’homme ? C’est une question importante qu’il faut se poser. Je ne pense pas que beaucoup d’entre nous se rendent compte de la situation dangereuse dans laquelle nous nous trouvons.
Krishnamurti à Bombay 1981, entretien 6
L’intelligence artificielle représente un défi croissant dans nos vies. Récemment, elle est devenue un sujet de conversation majeur en raison de la capacité de l’IA à générer rapidement du texte, des images et même des vidéos, et en raison de ses implications plus larges sur tous les aspects de notre vie.
Krishnamurti a commencé à utiliser le terme « intelligence artificielle » au début des années 1980. Dès les années 1950, il parlait du cerveau humain programmé comme un ordinateur et, avant cela, de la pensée mécanique. À mesure que l’utilisation des ordinateurs se développait, Krishnamurti, comme toujours, renvoyait le phénomène à nous-mêmes, en posant des questions essentielles. Quelle est notre place si les ordinateurs et l’IA peuvent faire la plupart des choses que nous pouvons faire plus rapidement et plus efficacement ? Quel est l’avenir de l’humanité ? Quelles sont la nature et la place de la pensée ? Existe-t-il un autre type d’apprentissage qui n’est pas de la programmation ? Quelle est la nature de l’intelligence ? Face à ce défi technologique, est-il possible que l’aspect de nous-mêmes qui ne pourra jamais être reproduit ou touché par la technologie soit mis en avant ?
Cet article met en lumière les principaux aspects des propos de Krishnamurti sur l’IA, les ordinateurs, les robots, la cybernétique et le défi fondamental qu’ils représentent pour l’humanité et chacun d’entre nous.
De grands changements se produisent dans le monde, dans le domaine scientifique et dans le domaine de la médecine. Il y a l’ordinateur, il y a l’automatisation ; tout cela va donner à l’homme beaucoup de loisirs. Ce loisir n’est probablement pas encore arrivé, mais il arrive. L’homme aura une grande liberté et le loisir de faire ce qu’il veut. La science étudie la question de la prolongation de la vie à l’infini, de la procréation par différentes méthodes, etc. Tout cela est en train de se produire et va révolutionner l’ensemble de la société. La famille et les relations vont être révolutionnées. Un grand changement est en cours dans le monde, sur le plan économique, social, scientifique et médical. Que va-t-il arriver à l’homme — c’est-à-dire à vous et à moi — dans cette formidable révolution qui est en train de se produire ?
Krishnamurti à Bombay 1966, entretien 3
Vidéo : Les ordinateurs prennent le pouvoir
À l’extérieur, il y a une énorme révolution dans la cybernétique et l’automatisation. On a dû se demander s’il était possible de changer, non pas par rapport aux événements extérieurs, non pas par rapport à une simple répétition ou à une continuité modifiée, mais par rapport à une révolution radicale, à une mutation totale de l’esprit. Lorsque l’on se rend compte, comme on a dû le constater en soi-même, que l’on ne change pas, on devient terriblement déprimé ou on s’échappe de soi-même. La question inévitable qui se pose alors est la suivante : peut-il y avoir un quelconque changement ? Y a-t-il un changement chez les êtres humains ? Avez-vous changé ? Il y a peut-être eu une modification à la périphérie, mais en profondeur, radicalement, avez-vous changé ? Peut-être ne voulons-nous pas changer, parce que nous sommes relativement à l’aise. Nous avons un gouvernement qui s’occupe de nous, un État-providence, un emploi assuré, des pensions et tout le reste ; il n’y a donc peut-être pas de raison de changer. Lorsqu’il y a un motif de changement, il s’agit d’un changement dans le domaine du connu.
Krishnamurti à Londres 1965, Discussion 5
Quelle est la différence entre le cerveau humain et l’ordinateur ?
L’ordinateur peut faire ce qu’un être humain fait : acquérir de l’expérience, stocker de la mémoire, répondre, apprendre et ajouter des connaissances. Il peut jouer aux échecs avec un expert, un maître. La première fois, il est battu, mais il apprend les mouvements et pourquoi il a été battu. Cet apprentissage est stocké dans la mémoire. La deuxième fois, il apprend davantage ; la troisième ou la quatrième fois, il bat tous les maîtres d’échecs. C’est ainsi que fonctionne notre cerveau : apprentissage, connaissances, échecs, connaissances supplémentaires et, peu à peu, nous devenons des experts.
Quelle est la différence entre le cerveau humain et l’ordinateur ? Je ne suis pas un expert, mais j’ai parlé à des experts en Californie, en Europe et en Inde. Si vous l’avez un peu étudié, vous verrez que c’est ce que fait l’ordinateur : apprendre en permanence, acquérir des connaissances afin de pouvoir réagir instantanément. Et c’est ce que fait notre cerveau. Quelle est donc la différence entre le cerveau humain et l’ordinateur ? Il n’y en a pas. Je me demande si vous voyez cela. Si une machine peut le faire et que le cerveau humain peut le faire aussi, il n’y a pas de grande différence. Mais le cerveau humain a une autre qualité : celle de découvrir ce qu’est l’intelligence. Si l’ordinateur peut faire ce que le cerveau humain peut faire, alors nous ne sommes pas intelligents. Il doit y avoir une qualité de l’intelligence que nous sommes les seuls à pouvoir découvrir.
Krishnamurti à Madras 1980, entretien 2
Le problème auquel l’humanité est confrontée
Les ordinateurs peuvent faire tout ce que la pensée peut faire. L’ordinateur peut apprendre, se corriger et, à partir de cette correction, apprendre davantage. L’ordinateur peut faire tout ce que la pensée peut faire — il peut dire « Je crois en Dieu », parce qu’il a été programmé de cette façon, comme nous, les êtres humains, avons été programmés, câblés pour dire « Je suis hindou », ou bouddhiste, ou « Je crois en Dieu ». L’ordinateur, programmé comme nous, peut dire exactement ce que vous dites. Je me demande si vous en mesurez les conséquences.
La technologie moderne s’est emparée de votre cerveau. C’est en train de se produire ; ce n’est pas l’invention de l’orateur. Les experts en informatique sont très clairs : tout ce que la pensée peut faire, l’ordinateur peut le faire. Et avec le robot, l’ordinateur peut faire du travail mécanique dans une usine, produire des voitures sans l’aide de l’homme. Que devient donc l’homme ? Que devient-il lorsque ce qu’il pense, ce qu’il ressent, ce qu’il a — toute cette pensée — la machine peut le faire ? Comprenez-vous la gravité de la situation ? Nous devons faire face à une crise énorme. C’est un problème auquel l’humanité est confrontée : la machine, inventée par la pensée, prend en charge toute l’activité de la pensée et laisse l’homme avec quoi ? Que lui reste-t-il alors ?
L’ordinateur fait tout ce que la pensée peut faire.
On peut lui dire comment méditer, et il vous dira comment méditer — il devient votre gourou ! Ne riez pas, c’est très sérieux. Je ne pense pas que vous réalisiez ce qui se passe. Il vous donnera un nouveau mantra. Il prendra en charge toute l’activité de la pensée, et où est l’homme alors ? Si l’ordinateur et le robot prennent la place de l’homme, qu’est-ce que l’homme est alors ? Soit il recherche le plaisir, le divertissement, le football, la télévision, le sexe, ou tout le cirque qui se déroule au nom de la religion, qui est une autre forme de divertissement, soit il se tourne vers l’intérieur. Vous avez ce choix devant vous. Il arrive, c’est votre défi. Si vous poursuivez le divertissement, inventé par la pensée à travers les ordinateurs, votre vie devient alors totalement vide. Ou bien vous vous tournez vers la recherche psychologique, vers l’intérieur.
C’est donc à cela que vous êtes confronté en tant qu’être humain. Si vous vous sentez concernés et acceptez donc ce défi, vous vous tournez vers l’intérieur ou vous recherchez le plaisir et le divertissement. Vous avez vécu de la pensée. Votre activité est basée sur la pensée. Votre pensée a nié l’amour. Votre pensée a créé l’ordinateur. Et vous, en tant qu’être humain, avez été privé de tout ce que la pensée a fait. Vous devez donc faire face à cela. Si vous êtes enclin à vous divertir jusqu’à la fin de votre vie, qu’arrivera-t-il à votre cerveau ? Soit il s’étiole, se décompose lentement parce que l’ordinateur fait tout ce que la pensée peut faire, soit vous vous tournez vers la structure psychologique qui est la vôtre. Cette structure psychologique est la conscience.
Krishnamurti à Bombay 1981, entretien 2
Vidéo : L’ordinateur apprend-il comme nous ?
Qu’adviendra-t-il de l’être humain ?
Avez-vous entendu parler du génie génétique ? Les scientifiques essaient de modifier votre comportement, que vous le vouliez ou non ; ils essaient de changer votre façon de penser. C’est ce qu’on appelle le génie génétique. Ainsi, lorsque le génie génétique et l’ordinateur se rencontreront, comme ils le feront bientôt, que serez-vous ? Qu’êtes-vous en tant qu’êtres humains ? Votre cerveau va être modifié, votre comportement va changer. Ils peuvent tout à fait supprimer votre peur, votre chagrin, supprimer tous vos dieux. Ils vont le faire — ne vous y trompez pas. Tout cela se termine soit par la guerre, soit par la mort. C’est ce qui se passe actuellement dans le monde : le génie génétique d’un côté et l’ordinateur de l’autre. Lorsqu’ils se rencontreront, comme ils le feront inévitablement, que serez-vous en tant qu’être humain ?
Votre cerveau est en fait une machine.
Votre cerveau est en fait une machine. Vous êtes né en Inde et vous dites : « Je suis un Indien ». Vous êtes enfermé dans cette machine. Ou bien vous êtes né en Russie — c’est la même chose. Vous êtes une machine. Ne vous sentez pas insulté. Je ne vous insulte pas. Vous êtes une machine qui répète, répète, ou pense être différente. N’imaginez pas qu’il y a quelque chose de divin en vous — ce qui serait charmant — quelque chose de saint, d’éternel. L’ordinateur aussi vous le dira. Alors, que devient l’être humain ? Qu’est-ce que vous devenez ?
Krishnamurti lors de sa dernière intervention publique, Madras 1986, Talk 3
Il faut se pencher sur toute cette question de la mémoire, de la mémoire accumulée sous forme de connaissances et d’expériences, stockée par association et tout le reste, comme dans l’ordinateur mécanique. Dans l’ordinateur mécanique, le cerveau électronique, l’homme a construit une série de mémoires en couches, des banques de mémoires. Lorsque l’on fait appel à ces mémoires, l’ordinateur commence à penser. En nous, la mémoire devient le « je », à partir duquel il y a la pensée — une réaction en tant que pensée. Si vous comprenez cela, alors il n’y a que la pensée, pas le contrôle de la pensée. On comprend alors tout le mécanisme de la pensée.
Krishnamurti à Bombay 1964, entretien 6
Nous devenons des imitations d’ordinateurs.
Il me semble que l’intérêt premier de tout esprit sain doit porter sur les faits tels qu’ils sont. Un être humain vivant dans ce monde doit non seulement se nourrir, se vêtir et se loger, mais aussi résoudre des conflits psychologiques, des tensions, des contraintes et des peurs. Pour cela, la première chose à faire est de se connaître soi-même — non pas en tant qu’idée, mais pour comprendre le mouvement de la pensée qui n’est pas logique, qui est capricieux, vagabond et généralement sans but. Il faut comprendre tout le mécanisme de la pensée, non pas logiquement, mais réellement. Notre logique, qui n’est jamais spontanée, mais qui est un processus raisonné et calculé, ne peut être que comme un ordinateur. C’est ce que nous sommes en train de devenir. Nous sommes en train de devenir de piètres imitations de ces machines extraordinaires que sont les ordinateurs. Si nous nous contentons de nous regarder logiquement, de cultiver la mémoire, qui dirige ce que nous devons faire et ne pas faire, alors cette action logique consécutive conduira inévitablement à une activité mécaniste — celle de l’ordinateur.
Une qualité de spontanéité
Je ne sais pas si vous suivez tout ce qui se passe dans le monde. Nous, les êtres humains, que nous soyons religieux, scientifiques ou extraordinairement intelligents, nous devenons des imitations d’ordinateurs, notre principale préoccupation étant de cultiver la mémoire : « J’ai fait ceci, je dois faire cela ; je ne suis pas cela, mais je vais faire un effort pour le devenir ». Tout cela est basé sur la mémoire logique, et la mémoire logique conduit à une vie d’ordinateur. Je ne dis pas qu’il faut être illogique ; au contraire, nous devons être conscients du processus d’un esprit qui ne fonctionne qu’avec la mémoire. Il doit y avoir une qualité de spontanéité. C’est-à-dire qu’il faut se découvrir à nouveau, se voir comme quelque chose qui change tout le temps. Si vous pouvez l’observer, le voir spontanément, alors le processus mécanique de la mémoire n’a que très peu d’importance.
Krishnamurti à Bénarès 1963, Entretien 2
L’Intelligence suprême
Krishnamurti : Êtes-vous certain — aussi certain que de savoir qu’un cobra est venimeux — que la pensée ne peut en aucun cas atteindre l’intelligence ? Les gens utilisent la pensée pour créer une machine qui peut penser, un super ordinateur, une intelligence artificielle. Ils travaillent à la création d’un cerveau qui sera comme le nôtre, qui sera mécanique. Ils utilisent leur formidable connaissance du cerveau pour produire un cerveau artificiel basé sur la pensée.
Voyez-vous cela comme un fait ? Le voir comme un fait, c’est voir que la pensée ne peut en aucun cas avoir l’autre. Si la pensée n’est plus l’instrument d’enquête, alors vous n’avez rien d’autre à enquêter. Vous ne pouvez pas enquêter. Alors qu’est-ce que l’intelligence qui n’est pas basée sur la recherche ?
L’intelligence artificielle est capable de détruire le monde.
Je veux m’enquérir de la vérité. Je n’en sais rien. Je ne veux dépendre de personne pour la découvrir. Je dois donc me débarrasser de tout le passé. Je veux découvrir ce qu’est l’intelligence suprême. Puis-je me débarrasser de tout ce que je sais ? Le seul instrument dont je dispose est la pensée. Je peux penser clairement parce que j’ai été formé à penser non pas de manière sentimentale, mais objective. La pensée qui peut produire une soi-disant intelligence est alors au même niveau que la pensée qui a produit la guerre. Ce n’est donc pas de l’intelligence. Donc en aucune circonstance, la pensée n’aura une perception de cela. Je dois être absolument clair. Si je ne suis pas clair inconsciemment, profondément, alors la pensée va interférer.
Avant toute chose, je veux effacer le tableau. Est-ce possible ? Je vois que ce qu’ils font ne leur permettra pas d’y arriver. Ils vont créer une intelligence mécanique, artificielle, semblable à l’intelligence humaine. Elle est capable de détruire le monde. La pensée et tous les instruments que la pensée a inventés pour explorer cela — la méditation, les divers types de silence, les divers types d’abnégation — sont exclus. Les technologies ne l’accepteront pas, mais la vraie recherche, c’est cela. Et ils ne l’ont pas trouvée. Ils sont ancrés dans la pensée et se déplacent par la pensée. Ils ne veulent pas accepter que la pensée, en aucune circonstance, puisse y parvenir. Alors que me reste-t-il pour comprendre que la pensée, quelles que soient les circonstances, ne peut pas produire d’intelligence ?
Krishnamurti à Madras 1980, Discussion en petits groupes 1
Texte original : https://kfoundation.org/krishnamurti-on-ai/