🔥 Les essentiels de cette actualité
- Le Pentagone utilise l’IA pour créer des campagnes d’influence à grande échelle, visant à étouffer les voix dissidentes à l’étranger.
- Le SOCOM cherche des systèmes d’IA capables de contrôler les récits et influencer le public en temps réel, avec un minimum de contrôle humain.
- Les technologies de manipulation sociale prévues par le Pentagone pourraient transformer internet en champ de bataille invisible pour les esprits.
- Les dangers des systèmes de propagande automatisée inquiètent les spécialistes, qui craignent pour notre liberté d’information.
Selon des documents internes du Pentagone que s’est procuré The Intercept, l’armée américaine cherche à utiliser l’intelligence artificielle pour accomplir ce que les propagandistes humains ne peuvent pas faire : créer et diffuser des campagnes d’influence à la vitesse d’internet, tout en étouffant systématiquement les voix d’opposition à l’étranger.
Les renseignements militaires américains n’en sont pas à leur premier coup d’essai en matière de manipulation de l’opinion publique. Cette fois, ils misent sur la technologie plutôt que sur leurs agents habituels.
En 2022, le commandement central américain a tenté de diffuser des messages anti-russes et anti-iraniens via un réseau de comptes de médias sociaux, mais cette opération s’est soldée par un échec cuisant, qualifiée de « honte pour le Pentagone » par l’institut Brookings.
Aujourd’hui, l’IA permettrait d’industrialiser cette propagande à une échelle jamais vue, ciblant potentiellement des millions de personnes simultanément.
Les ambitions inquiétantes du SOCOM
La liste d’achats classifiée dévoile les ambitions du SOCOM : déployer des « systèmes d’IA agentiques ou multi-LLM » capables « d’influencer des audiences étrangères ciblées » et d’étouffer les arguments dissidents, le tout avec un minimum de contrôle humain.
Cette branche militaire américaine recherche activement des contractants pouvant leur fournir des systèmes automatisés fonctionnant à une vitesse et une échelle jamais vues.
« Disposer d’un programme conçu pour soutenir nos objectifs peut nous permettre de contrôler les récits et d’influencer le public en temps réel », indique le document.
Les détails de ce programme font froid dans le dos. La capacité de manipuler l’opinion publique à l’étranger sans véritable surveillance humaine pourrait transformer internet en champ de bataille invisible où les esprits deviennent les cibles principales.
Le contrôle de l’information par le SOCOM
L’urgence avec laquelle le SOCOM cherche à mettre en œuvre ces technologies suggère qu’ils ont peut-être déjà commencé à les tester.
Le contrôle de l’information n’a jamais été aussi stratégique pour Washington, qui semble bien déterminé à façonner les narratifs internationaux selon ses intérêts.
« L’environnement de l’information évolue trop rapidement pour que les militaires puissent s’engager et influencer de manière adéquate un public sur Internet », avoue le document.
Selon The Intercept, le Commandement des opérations spéciales américain (SOCOM) prépare des systèmes d’IA bien plus intrusifs qu’on ne l’imagine.
Ces technologies ne se contenteront pas de générer du contenu banal. Elles seront capables de ratisser l’environnement informationnel, analyser la situation et répondre avec des messages alignés sur les objectifs des opérations d’influence militaire (MISO).
Plus inquiétant encore, l’armée américaine ambitionne de créer des programmes capables d’accéder aux profils, réseaux et systèmes des individus ou groupes qui tentent de contrer ou discréditer ses messages, afin de les neutraliser.
Le contrôle orwellien de l’information
Le Pentagone prévoit d’utiliser ces technologies pour une manipulation sociale d’envergure, créant « des modèles complets de sociétés entières pour permettre aux planificateurs d’opérations d’influence militaire d’expérimenter ou tester divers scénarios ».
Les États-Unis ne sont pas seuls dans cette course à la manipulation par l’IA. La Chine, par exemple, via l’entreprise GoLaxy, a développé des systèmes capables de remodeler l’opinion publique pour le compte de son gouvernement, avec des campagnes menées à Hong Kong et à Taïwan, ainsi que la collecte de données sur des figures influentes américaines.
De son côté, la Russie utilise des programmes d’IA pour automatiser ses opérations d’influence, bien que, selon Emerson Brooking de l’Atlantic Council, « ce programme n’est pas très performant » et « l’IA tend à rendre ces campagnes plus stupides, et non plus efficaces ».
Les dangers des systèmes de propagande automatisée
Le porte-parole des forces spéciales américaines, Dan Lessard, a défendu ce programme :
« Toutes les capacités basées sur l’IA sont développées et utilisées dans le cadre du protocole d’Intelligence Artificielle Responsable du Département de la Défense, qui garantit responsabilité et transparence grâce à une supervision et une prise de décision humaines. »
Mais les spécialistes s’inquiètent des dérives potentielles liées aux systèmes de propagande automatisée. Cette technologie, qu’on nous vend comme une protection, pourrait bien se retourner contre nous.
« Présenter l’utilisation de l’IA générative et autonome comme un simple moyen de contrer les adversaires déforme la réalité de cette technologie, car ses usages offensifs et défensifs sont les deux faces d’une même pièce », a averti Heidy Khlaaf, ancienne ingénieure en sécurité chez OpenAI.
Ces systèmes d’IA, capables de produire de la propagande de masse sans intervention humaine, représentent un danger considérable pour notre liberté d’information.
Participez au débat, et partagez votre opinion !
Faites avancer la discussion en donnant votre avis à la communauté.