« Toutes les technologies de l’information jusqu’au XXIe siècle étaient des réseaux organiques fondés sur notre cerveau organique ».
Yuval Noah Harari voit un problème criant au cœur de notre quête d’un monde dirigé par l’IA : l’incompatibilité entre les humains et les cycles d’information en continu. Harari met en garde : les êtres organiques qui tentent de s’imposer dans ces cycles inorganiques 24 h/24 finiront par échouer et provoquer leur propre destruction. Sa solution ? Une délimitation claire de l’information inorganique et un régime strict pour votre consommation.
Transcription
Ce qui suit est une transcription véritable, prise directement de la vidéo. Elle restitue exactement la conversation telle qu’elle a eu lieu.
Si les humains sont si intelligents, comment en est-on arrivé là ?
Si les humains sont si intelligents, pourquoi sommes-nous si stupides ? Nous avons réussi à atteindre la Lune, à fendre l’atome, à déchiffrer l’ADN, et pourtant, avec toute notre connaissance et notre sagesse, nous sommes au bord de l’effondrement écologique, peut-être d’une troisième guerre mondiale. De plus, nous développons une technologie extrêmement puissante, l’IA, qui pourrait nous échapper et nous asservir ou nous détruire. Avant même d’y réfléchir en termes de risques, de menaces ou d’opportunités, il faut simplement penser à ce que cela signifierait si nous vivions de plus en plus notre vie enfermés dans les artefacts culturels issus d’une intelligence artificielle.
Machines automatiques contre IA
Il y a tellement de battage autour de l’IA, surtout sur le marché. Si vous voulez vendre quelque chose aujourd’hui, vous l’appelez IA. Mais toute machine automatique n’est pas une IA. Ce qui fait de l’IA une IA, c’est sa capacité à apprendre et à évoluer par elle-même, et à produire des décisions et des idées que nous n’anticipons pas, que nous ne pouvons pas anticiper.
L’acronyme IA, il serait plus exact d’y voir un acronyme pour « intelligence étrangère ». Chaque année qui passe, l’IA devient de moins en moins artificielle et de plus en plus étrangère, dans le sens où nous ne pouvons pas prédire quels types de nouvelles histoires, d’idées ou de stratégies elle inventera. Elle pense, elle se comporte d’une manière fondamentalement étrangère. C’est cela l’IA, et ce n’est pas seulement de la théorie, nous le voyons tout autour de nous. Je suis Yuval Noah Harari. Je suis professeur d’histoire à l’Université hébraïque de Jérusalem et l’auteur de Nexus : Une brève histoire des réseaux d’information, de l’âge de pierre à l’intelligence artificielle.
Comment les nouvelles technologies transforment notre tissu social
Chaque fois qu’une nouvelle technologie est inventée, elle change toutes les structures sociales, économiques et politiques, et le fait souvent de manière non déterministe. Par exemple, au XXe siècle, l’essor des médias de masse et des technologies de l’information de masse, comme le télégraphe, la radio et la télévision a, d’un côté, constitué la base de systèmes démocratiques à grande échelle et, de l’autre, de systèmes totalitaires à grande échelle.
Avant l’essor des technologies modernes de l’information, les rois mésopotamiens, les empereurs romains ou les empereurs chinois avaient une capacité très limitée à recueillir des informations. Ils ne pouvaient pas microgérer la vie sociale, économique et culturelle de chaque individu dans le pays. Ils n’avaient pas les informations nécessaires pour le faire. Toutes les technologies de l’information jusqu’au XXIe siècle étaient des réseaux organiques fondés sur notre cerveau organique.
Cycles organiques fondés sur les rythmes humains
Nous fonctionnons par cycles. Parfois c’est le jour, parfois c’est la nuit. Il y a l’hiver et l’été. Il y a la croissance et le déclin. Il y a des moments d’activité, puis des moments de sommeil et de repos. Pensez à Wall Street. Wall Street obéissait aussi, jusqu’à aujourd’hui, à cette logique organique. Le marché n’ouvre que du lundi au vendredi et le week-end est fermé. C’est ainsi que fonctionnent les êtres organiques. Même les banquiers, les investisseurs, les financiers, tant qu’ils sont des humains et non des algorithmes, il y a toujours des pauses et il y a toujours un temps privé.
Jusqu’à l’essor de l’IA, même les régimes les plus totalitaires, comme l’Union soviétique, ne pouvaient pas surveiller tout le monde en permanence. L’Union soviétique n’avait pas assez d’agents du KGB pour suivre chaque citoyen soviétique 24 heures sur 24. Même si vous parveniez d’une manière ou d’une autre à suivre toutes les personnes en permanence, il n’y avait pas assez d’analystes pour passer en revue toutes les informations et leur donner un sens. Les réseaux d’information organiques fonctionnent toujours par cycles : il y a toujours des moments de repos et il y a toujours une part de vie privée.
Cycles inorganiques fondés sur l’IA
Mais nous voyons maintenant émerger un nouveau type de réseau d’information, inorganique, fondé sur l’IA. Il n’a pas besoin de pauses. Il est toujours actif et, par conséquent, il pourrait nous forcer à l’être aussi, toujours observés, toujours surveillés. C’est destructeur pour des animaux organiques comme nous. Si vous forcez un être organique à rester actif en permanence, il finit par s’effondrer et mourir.
Nous le voyons partout autour de nous avec un cycle de nouvelles 24 heures sur 24 qui ne s’arrête jamais, des marchés qui ne s’arrêtent jamais, une politique qui ne s’arrête jamais. Tout ce que vous faites ou dites, à tout moment, peut être observé et enregistré. Cela peut vous rattraper dans 10 ou 20 ans. En gros, toute la vie devient comme un long entretien d’embauche. Tout cela est rendu possible par le fait que l’IA est la première technologie de l’histoire capable de prendre des décisions par elle-même. Jusqu’à aujourd’hui, tous nos grands réseaux d’information étaient gérés, peuplés par des bureaucrates humains.
Les IA doivent-elles devenir des personnes morales ?
Un fait curieux est qu’au moins aux États-Unis, il existe déjà une voie juridique ouverte pour que les IA deviennent des personnes morales. Les entreprises sont considérées comme des personnes morales qui ont même des droits comme la liberté d’expression. Par exemple, elles peuvent ouvrir un compte bancaire. Les entreprises ouvrent des comptes bancaires, pourquoi l’IA ne le ferait-elle pas ? C’est une entreprise. Elle peut gagner de l’argent, puis investir cet argent. Comme elle est si performante pour prendre des décisions d’investissement, elle gagne des milliards et des milliards. Nous pourrions nous retrouver dans une situation où la personne la plus riche des États-Unis n’est pas un être humain. La personne la plus riche des États-Unis est une IA constituée en société.
La voie juridique et pratique vers cette situation est ouverte. Ce à quoi nous faisons face n’est pas, vous savez, un scénario de science-fiction hollywoodien d’un grand ordinateur maléfique essayant de dominer le monde. Non, ce n’est rien de tel. C’est plutôt des millions et des millions de bureaucrates IA auxquels on confie de plus en plus d’autorité pour prendre des décisions nous concernant, dans les banques, dans les armées, dans les gouvernements. Là encore, il y a aussi un potentiel positif. Elles peuvent nous fournir les meilleurs soins de santé de l’histoire.
Les immenses risques d’un monde centré sur l’IA
Mais, bien sûr, il y a d’énormes risques. Que se passe-t-il si vous ne comprenez plus pourquoi la banque a refusé de vous accorder un prêt ? Pourquoi le gouvernement ou l’armée a fait ceci ou cela ? Lorsque le pouvoir passe des humains organiques à ces IA inorganiques étrangères, il devient de plus en plus difficile pour nous de comprendre les décisions qui façonnent notre vie.
La plus grande idée fausse sur l’information
La plus grande idée fausse sur l’information est que l’information est la vérité. La plupart de l’information n’est pas la vérité. La vérité est un type d’information très rare, coûteux et précieux. Pensons aux images et aux portraits. Au cours des 2000 dernières années, les hommes ont créé des milliards et des milliards de portraits de Jésus. Pas un seul n’est une représentation authentique, car nous n’avons aucune idée de l’apparence de Jésus. Il n’existe aucun portrait fait de son vivant. La Bible ne dit pas un seul mot sur son apparence.
Il est très facile de créer de l’information fictive, car il n’est pas nécessaire de faire de recherches. Vous n’avez pas besoin de preuves. Vous inventez simplement quelque chose et vous le dessinez. Si vous voulez peindre un portrait véridique de quoi que ce soit — d’une personne, d’une économie, d’une guerre —, vous devez investir beaucoup de temps, d’efforts et d’argent dans la recherche pour vous assurer de faire le bon choix. Si nous inondons simplement le monde d’informations et espérons que la vérité flottera à la surface, elle ne le fera pas, elle sombrera.
Comment nous protéger à l’ère de l’IA
Pour faire face à l’ère de l’IA, il doit être clair que nous ne pouvons pas anticiper comment cette technologie évoluera au cours des prochaines décennies. Ce dont nous avons besoin, ce sont d’institutions vivantes, dotées des meilleurs talents humains, ayant accès aux meilleures technologies et capables d’identifier et de réagir aux dangers et aux menaces au fur et à mesure qu’ils apparaissent.
Je ne parle pas de réglementation rigide à l’avance, je parle de la nécessité de nouvelles institutions, car on ne peut jamais compter uniquement, vous savez, sur la lettre de la loi ou sur un individu charismatique, un génie pour le faire. Dans l’histoire, les humains rencontrent sans cesse ces problèmes et la solution est toujours la même : les institutions.
De bonnes institutions se caractérisent par de solides mécanismes d’autocorrection. Un mécanisme d’autocorrection est un mécanisme qui permet à une entité d’identifier et de corriger ses propres erreurs. Vous n’avez pas à compter sur l’environnement, sur quelque chose d’extérieur, pour corriger vos erreurs. Vous pouvez corriger vos propres erreurs. C’est une caractéristique fondamentale de tout organisme fonctionnel.
L’autocorrection et l’interdiction des faux humains
Comment un enfant apprend-il à marcher ? Principalement par autocorrection. Cela s’applique aussi à des pays entiers. C’est le cœur des systèmes démocratiques. Que sont les élections ? Les élections sont un mécanisme d’autocorrection. Vous donnez le pouvoir à un certain parti ou individu, essayons vos politiques. Après un certain temps, si vous pensez que vous avez fait une erreur, que c’était la mauvaise politique, le mauvais parti, il y a un autre tour d’élections, essayons autre chose cette fois.
Toute la signification de la démocratie est que de grands nombres de personnes conversent sur les enjeux du moment. Ce n’est pas un hasard si la conversation démocratique se délite partout dans le monde parce que les algorithmes la détournent. Nous avons la technologie de l’information la plus sophistiquée de l’histoire et nous perdons la capacité de parler les uns avec les autres, de tenir une conversation raisonnée. Pour protéger la conversation entre les gens, nous devons interdire aux bots de participer. Nous devons interdire les faux humains. Les IA ne devraient être les bienvenues pour converser avec nous que si elles s’identifient comme des IA.
Adopter un régime informationnel
Et en tant qu’individus, ma meilleure recommandation est d’adopter un régime informationnel, de la même façon que les gens suivent des régimes alimentaires. L’information est la nourriture de l’esprit. Plus d’information n’est pas toujours bonne pour vous. Il est même bénéfique, de temps en temps, de jeûner d’information. Quand nous n’absorbons plus rien de nouveau, nous digérons et nous nous détoxifions. De la même manière, nous devons surveiller la qualité de l’information que nous donnons à notre esprit. Si nous nourrissons notre esprit de toutes ces informations toxiques, pleines de cupidité, de haine et de peur, nous aurons des esprits malades.
Transcription originale publiée le 16 août 2025 : https://bigthinkmedia.substack.com/p/how-to-safeguard-your-mind-in-the-670