Traduction libre
5 février 2024
Vous vous souvenez comment il y a deux ans, le « Conseil de Gouvernance de la Désinformation », totalement anticonstitutionnel, autoritaire à la couleur pastel, et complètement dingue, avec sa directrice qui se déguisait en Mary Poppins, atteignant un niveau d’autosatire digne de Monty Python, a été lancé comme une demi-blague, demi-test bêta d’une version du ministère de la Vérité de 1984 ?
Ugh
Eh bien, les gars, je n’irais pas vraiment jusqu’à dire que c’est de l’échec 4D ou quelque chose du genre, mais bien sûr, tout cela n’était qu’un appât. Cette parodie et son retrait rapide nous rassurent sur le fait que rien de tel ne pourrait avoir lieu, tout en semant un modèle de diversion visible pour nous montrer à quoi nous devrions nous attendre en matière d’efforts de propagande éhontés de nos jours.
Pendant ce temps, il y a actuellement d’énormes efforts en coulisses et sous la surface, partout sur le terrain, visant à mettre en œuvre la technologie des mégadonnées et de l’IA non seulement à des fins de propagande classique, de plus en plus obsolète, ou de simple surveillance. Non, cette fois, nous explorons des méthodes entièrement nouvelles de modification du comportement et de contrôle narratif destinées à DEVANCER la cristallisation des discours et même la formation des identités et des visions du monde.
Ils veulent contrôler la formation et la reproduction des « imaginaires sociaux ».
L’idée est donc d’utiliser la collecte massive de données et la reconnaissance des formes par l’IA pour perturber de manière préventive la formation de récits, de discours ou de modèles d’information significatifs sur le plan comportemental.
Grâce à ces outils de « diagnostic précoce » des informations susceptibles de perturber la structure du pouvoir et ses objectifs, il devient possible de les étouffer dans l’œuf à un stade incroyablement précoce, bien avant que ces informations n’aient été rassemblées en quelque chose comme des récits cohérents ou des modèles significatifs d’explication ou de conclusions (précaires) ultérieures.
Au cours des deux dernières décennies, l’engagement du département américain de la défense (DoD) en faveur de ce qu’Edwards (1996) a analysé comme un « monde fermé » d’endiguement et de domination militaire a pris un nouvel essor. Le passage, au cours des années 1990, d’un cadre de conflit entre superpuissances à ce que l’on appelle la guerre irrégulière, à savoir les opérations de contre-insurrection et de lutte contre le terrorisme, s’est bien aligné avec la mise en place d’infrastructures en réseau. Pourtant, la révolution des affaires militaires qui en a découlé a moins entraîné la disparition du « brouillard de la guerre » persistant que son intensification. Considérés comme un manque d’intégration de l’information, les désordres intransigeants de la guerre justifient des investissements sans cesse croissants dans ce que j’appellerai un fantasme résistant de commandement et de contrôle basés sur les données. La mise en place de systèmes de capteurs, de traitement des signaux, de stockage et de transmission des données s’est avérée plus simple que la traduction des données en ce que l’on appelle, en termes militaires, le « renseignement exploitable ». Alors que l’excès de données menace désormais de déstabiliser l’imaginaire technopolitique de l’information en temps réel, l’intelligence artificielle (IA) est présentée comme la solution prometteuse pour automatiser l’analyse des données et refermer le monde.
Suchman, L. (2022). « Imaginaires de l’omniscience : Automating intelligence in the US Department of Defense ». Social Studies of Science (Vol. 53, Issue 5, pp. 761-786). SAGE Publications. https://doi.org/10.1177/03063127221104938
L’ensemble du processus fonctionnerait de la manière suivante.
L’IA explore les énormes quantités de données collectées en temps réel par les médias sociaux et les réseaux de communication numérique, y compris tout ce qui va des transcriptions de téléphones portables aux applications de messagerie instantanée (pourquoi pensez-vous que WhatsApp [qui appartient maintenant à Meta, anciennement connu sous le nom de Facebook] vous permet d’appeler gratuitement n’importe qui dans le monde ?)
Vous avez ensuite entraîné les algorithmes à repérer les schémas « perturbateurs » dans les communications qui précèdent les différents types de développements que vous souhaitez éviter, comme le fait qu’une information devienne virale, mais vous voudriez également identifier des foyers d’informations potentiellement solides qui ne deviendront pas nécessairement virales rapidement, mais qui ont la capacité de générer des cadres narratifs forts et durables qui, avec le temps, pourraient menacer le statu quo. Il peut s’agir de phénomènes complexes tels que des mouvements de réforme religieuse et politique, des approches contre-culturelles novatrices ou même des projets artistiques susceptibles d’influer sur l’élaboration du sens par les gens.
Vous identifiez ensuite les principaux « influenceurs », c’est-à-dire les nœuds ou les nœuds potentiels dans les modèles de communication, et l’ajout crucial et totalement sournois aux approches courantes telles que le bannissement invisible (shadow banning) ou d’autres types de censure douce, qui est nouveau à ce stade de la propagande numérique, est l’ensemencement proactif de contre-récits qui peut être effectué à ce stade.
Il s’agit donc d’« encourager » doucement et prudemment les individus potentiellement perturbateurs dans la direction souhaitée, de modeler et de façonner les flux d’informations sur lesquels ils ont une influence, avec pour objectif final de façonner ou de bloquer activement la cristallisation de toute formation virale ou de tout récit potentiellement solide ou de tout nouvel « imaginaire social ».
Domination narrative à tous les niveaux.
Comme l’a rapporté Lee Fang, une société qui est apparue récemment et dont l’objectif est de « surveiller » les conversations en ligne et d’employer activement des « contre-mesures » à la demande des grandes entreprises et des gouvernements occidentaux, porte le nom de « Logically.AI ».
L’entreprise expérimente même des modèles de langage naturel, selon une divulgation de l’entreprise, « pour générer des contre-discours efficaces qui peuvent être exploités pour fournir de nouvelles solutions pour la modération de contenu et la vérification des faits ». En d’autres termes, des robots dotés d’intelligence artificielle qui produisent, en temps réel, des arguments originaux pour contester les contenus qualifiés de désinformations.
Lee Fang. « Logically.AI of Britain and the Expanding Global Reach of Censorship ». RealClear Wire.
Logically.AI, dont le siège social américain se trouve à Arlington, en Virginie, c’est-à-dire à côté du Pentagone et de DARPA, est aussi sinistre que possible et aurait été fondée à l’âge de 22 ans par un fantôme étrangement introuvable portant le nom invraisemblable de « Lyric Jain ».
Ils sont très proches des principaux acteurs de la Silicon Valley, notamment Microsoft, Google, TikTok, tandis que Facebook (« Meta ») les utilise pour la « vérification des faits » et l’évaluation des messages en vue de leur suppression ou de leur déclassement dans tous les fils d’actualité des médias sociaux. Ils travaillent également en étroite collaboration avec les gouvernements occidentaux et les partenaires alignés dans le monde entier, avec un rôle avoué dans la guerre psychologique pour contrer l’influence de la Russie et de la Chine en particulier, ainsi que pour sauvegarder « l’intégrité des élections » des États occidentaux face à des récits indésirables.
Logically.AI est également le petit chouchou des médias grand public, adulé par tous les suspects habituels, tels que The Guardian, Washington Post, BBC &c, et a conclu des partenariats officiels avec des institutions académiques du monde entier.
Tout cela nous donne une image de leur portée globale (et de leur expansion incroyablement rapide, ce qui en soi soulève de nombreuses questions) qui sert à illustrer l’étonnant potentiel d’influence qu’une opération de ce type peut posséder.
Nous pouvons alors voir comment le partenariat étroit entre les acteurs étatiques et les entreprises fournit les intentions et les objectifs pour l’utilisation de ces outils, ainsi que l’accès aux énormes banques de données numériques et aux plateformes en ligne pour le discours, leur portée, leur précision et leur impact à l’étranger sont amplifiés en les associent aux services de renseignement, et les médias traditionnels qui fournissent des multiplicateurs de force stratégiques pour les récits comportementaux significatifs que vous voulez encourager et reproduire.
La notion de « malinformation », c’est-à-dire d’éléments d’information véridiques ou factuels, mais qui alimentent des récits indésirables, est un ajout très intéressant à la boîte à outils de la surveillance de masse, de la censure et de l’ingénierie sociale numérisées contemporaines, qui est également prise en compte ici. En d’autres termes, il s’agit simplement de choses vraies qu’ils ne veulent pas que vous sachiez ou auxquelles ils ne veulent pas que vous pensiez. Cela revient en quelque sorte à abandonner tout le jeu. Cela ne concerne pas la vérité ou les faits, bien sûr, mais le contrôle de récits socialement significatifs, et rien d’autre.
Il pourrait être utile de souligner que contrer une telle « malformation » en brouillant les pistes ou en composant des récits contradictoires équivaut par définition à la définition même de la « désinformation » à laquelle souscrivent ces entités chargées de contrôler la pensée. Bien sûr, ce n’est pas un problème lorsque nos propriétaires le font.
Quoi qu’il en soit, à quoi ressemblerait alors le mode de fonctionnement global ?
Imaginons que vous ou moi exprimions une certaine « malinformation » dans nos interactions en ligne et que celle-ci soit repérée par l’un de ces algorithmes de reconnaissance de modèles formés à la détection d’éléments d’information potentiellement perturbateurs. Disons que cette déclaration particulière, tout à fait véridique, est étiquetée avec le risque modéré de soutenir un ensemble de conclusions qui pourraient avoir un impact négatif sur l’une des grandes marques pharmaceutiques ayant des liens étroits avec la structure du pouvoir État-entreprise. Exemple totalement aléatoire.
L’ingénieux système de propagande de l’IA se charge alors d’isoler automatiquement cette déclaration par le bannissement invisible, le déclassement et d’autres formes de dissimulation dans les flux d’informations. Il nous marque également comme un agent potentiellement perturbateur, ce qui accroît la surveillance de nos activités en ligne et hors ligne. Bien entendu, il est également possible de séparer efficacement les « agents perturbateurs » les uns des autres en rétrogradant automatiquement leurs messages dans les flux des autres, peu importe le contenu, et en dressant toutes sortes d’obstacles à leur interaction en ligne. Mais il s’agit là de stratégies anciennes.
À cela s’ajoute la diffusion de contre-récits, et les deux façons évidentes d’y parvenir consistent à placer la déclaration pertinente dans un contexte d’informations contrastées ou discordantes, de sorte que l’« agent perturbateur » et les autres destinataires de l’information reçoivent un message clair indiquant que cet élément d’information est à la fois contesté ET qu’il s’agit d’un point de vue minoritaire et décalé, susceptible d’être ostracisé par la société.
Cette démarche peut être renforcée par la promotion contre-intuitive du message sur Facebook ou sur un forum dans les flux de réseaux d’utilisateurs particuliers qui ont été identifiés comme des partisans « loyalistes » des opinions préférées (le corps de police de la pensée bénévole), afin de provoquer leur critique et leur rejet du message.
Un autre aspect potentiel de cet ensemencement proactif de contre-récits est l’utilisation de robots. Il s’agit d’utilisateurs fictifs qui, grâce à des modèles de langage génératifs, fournissent des réponses ciblées à des informations potentiellement perturbatrices. Une autre possibilité intéressante consiste à générer de faux messages courts par les utilisateurs réels de votre réseau social pour produire ces réponses ciblées — des messages qui ne peuvent pas être vus par eux-mêmes et qui ne génèrent donc aucune interaction, tout en imitant leur style et leur teneur.
Vous savez, comme ils le font déjà avec les utilisateurs décédés de Facebook, en entraînant l’IA sur l’historique des messages pour en générer de nouveaux à la consonance plausible. Il y a aussi un épisode de la série Black Mirror sur ce thème.
C’est en train de se produire : des personnes recréent des êtres chers décédés grâce à l’IA
En résumé, nous avons ces organisations extrêmement connectées, avec des tentacules dans les médias traditionnels et numériques, étroitement associées aux gouvernements et aux services de renseignement militaire, qui proclament fièrement l’application de l’IA à un type entièrement nouveau de propagande générative, réactive et prédictive.
Ces opérations ne seront pas seulement capables d’employer des techniques traditionnelles de bannissement, de cartographie et de surveillance avec une efficacité incroyable grâce aux connexions en synergie avec les données massives (big data).
Ils promettent également de contrôler la genèse même des récits humains. Les embryons de nos schémas de pensée collectifs, en perturbant leurs stades semi-formés avant qu’ils ne puissent se cristalliser en cadres cohérents que vous et moi pourrions utiliser de manière indépendante pour naviguer et donner un sens au monde.
Et ce qui est génial, c’est que la plupart des gens ne seront pas en mesure de faire le lien. Si ces systèmes fonctionnent comme prévu, ces types d’activités rationnelles d’ordre supérieur, potentiellement subversives, ne trouveront jamais un terrain stable sur lequel s’appuyer.
En outre, ces formes plus avancées de contrôle comportemental et de manipulation narrative et psychologique ne sont techniquement pas de la censure en soi. Même si ces structures et garde-fous n’ont pas été saisis, cette nouvelle forme de propagande prédictive ne peut être ciblée par nos régimes juridiques traditionnels et n’est pas prise dans le réseau de notre mécanisme constitutionnel actuel ou de notre législation sur les droits. Elles passent au travers de tout cela.
+++
Les êtres humains. Nous sommes à peine sortis des arbres. Comment vous et moi pouvons lutter contre une telle chose ?
Un ami m’a envoyé un e-mail sur la question de savoir comment s’organiser, politiquement, socialement, dans notre situation actuelle. Je réfléchis encore à la manière d’y répondre.
Une chose est sûre. Les anciens modèles ne fonctionnent pas. Ils sont soit récupérés, soit mal adaptés à la nouvelle situation. Le XIXe siècle n’a pas été confronté à un régime mondial de modification du comportement perpétré par une alliance de l’ensemble des médias d’entreprise mondiaux, des services de renseignement, de l’industrie de la publicité, de la plupart des législatures et gouvernements régionaux et nationaux, des institutions dirigeantes supranationales et, enfin et surtout, des structures technologiques elles-mêmes.
Mais les mouvements révolutionnaires et réformateurs qui ont vu le jour il y a environ deux siècles étaient tout aussi isolés. Ils se heurtaient également à un ordre mondial compact qui refusait violemment de reconnaître leurs besoins et intérêts légitimes.
Ils ont dû trouver des moyens de contourner ce problème, et nous aussi.
Johan Eddebo
Texte original : https://shadowrunners.substack.com/p/ai-and-the-new-kind-of-propaganda
Johan Eddebo est un philosophe et un chercheur basé en Suède. Vous pouvez lire ses écrits sur son site Substack.
Voir aussi la chaîne YouTube de Momochi qui donne de nombreuses informations sur ces sujets en français