🔥 Les essentiels de cette actualité
- En septembre, des soldats et aéronefs américains ont été mobilisés pour intercepter un navire chinois, sur la base d’un renseignement généré par un chatbot, finalement faux.
- Pourquoi les décideurs militaires ont-ils planifié une opération sans questionner l’origine automatisée du renseignement avant le dernier moment ?
- Pendant cet incident, le débat public était monopolisé par la menace d’une superintelligence hypothétique, au détriment d’un risque avéré et immédiat.
- Quelles conséquences pour la stabilité stratégique mondiale si la confiance institutionnelle continue de se substituer au jugement humain dans des contextes militaires ?
Le 18 septembre dernier, CNN révélait une affaire qui aurait pu virer au désastre. Selon plusieurs sources interrogées par la chaîne américaine, un rapport de renseignement transmis au sein de l’armée américaine affirmait qu’un navire chinois traversant le Moyen-Orient transportait des composants liés à un programme d’armes nucléaires. Des aéronefs militaires étaient déjà en vol et des soldats armés se préparaient à intercepter et à monter à bord du bâtiment. Puis, au dernier moment, des responsables ont décidé de vérifier davantage le renseignement. Ils ont découvert qu’un analyste du commandement des opérations spéciales avait utilisé un chatbot pour déterminer la nature de la cargaison, puis de nouveau l’intelligence artificielle pour rédiger le rapport. L’information était fausse. Une source a affirmé à CNN que l’affaire avait « presque déclenché une guerre ». L’épisode n’ayant pas encore été confirmé indépendamment par d’autres grands médias, il serait excessif de parler comme d’un fait établi d’une Troisième Guerre mondiale évitée. Mais qu’une opération militaire contre un navire chinois ait pu être préparée sur la base d’un renseignement produit de cette manière suffit déjà à montrer jusqu’où l’aveuglement technologique peut conduire.
Le problème n’est même plus que l’IA se trompe. Tout système peut produire une erreur. Le scandale potentiel se trouve dans la chaîne humaine qui aurait laissé un renseignement généré avec l’aide d’un chatbot remonter assez haut pour déclencher une préparation opérationnelle avant qu’une véritable vérification n’intervienne. Dans une entreprise, une hallucination peut produire un mauvais rapport. Dans un hôpital, elle peut contaminer un dossier médical. Dans une armée, elle peut faire décoller des avions, armer des soldats et placer deux puissances nucléaires face à face. Le danger n’est donc pas une machine devenue consciente. Le danger est une institution qui traite un outil statistique comme s’il possédait un jugement.
Pendant qu’on fantasme sur la superintelligence, l’IA actuelle peut déjà produire des catastrophes
Au même moment, une grande partie du débat politique américain se concentrait sur un scénario beaucoup plus spectaculaire : celui d’une future superintelligence capable de dépasser l’homme. Le départ de Jacob Coxon d’Anthropic, après ses avertissements sur une course vers une IA capable de s’améliorer elle-même, a nourri cette peur. Gavin Newsom a demandé en Californie la création d’un mécanisme permettant de couper certains systèmes d’IA. Kathy Hochul explore une approche comparable à New York. Le 23 septembre, Bernie Sanders et Greg Casar ont présenté le Ban Artificial Superintelligence Act, visant à interdire le développement et le déploiement d’une superintelligence artificielle et à suspendre certaines capacités avancées. Pendant que Washington prépare des garde-fous contre une intelligence hypothétique de demain, les systèmes bien réels d’aujourd’hui entrent déjà dans le renseignement, la médecine et les chaînes de ciblage militaire.
Timnit Gebru et Emily Bender, auteures de la chronique du Guardian, dénoncent précisément cette diversion. Depuis leur article de 2021 sur les « perroquets stochastiques », elles rappellent que les grands modèles de langage ne vérifient pas la réalité de ce qu’ils produisent. Ils génèrent des séquences de mots statistiquement plausibles, souvent avec une fluidité et une assurance capables de tromper leurs utilisateurs. C’est là toute la perversité du système : plus le texte paraît professionnel, plus l’erreur peut devenir crédible. Un chatbot n’a pas besoin de comprendre un renseignement militaire pour rédiger un document qui ressemble suffisamment à un rapport militaire pour être pris au sérieux.
« Les préjudices documentés de ces produits sont apparus parce que les gens les croient superintelligents, et non parce qu’ils le sont réellement. »
Voilà le cœur du problème. Le risque le plus immédiat n’est peut-être pas une machine qui décide seule d’attaquer l’humanité. Il est beaucoup plus banal, et donc probablement plus dangereux : une machine produit une erreur convaincante, puis des humains lui délèguent suffisamment d’autorité pour transformer cette erreur en décision réelle. La superintelligence appartient encore au domaine du débat prospectif. Les hallucinations, les faux positifs, le biais d’automatisation et la tendance humaine à faire confiance à un écran lorsqu’il parle avec assurance sont déjà là. Le danger ne vient donc pas seulement de ce que les machines pourraient devenir. Il vient de ce que les institutions commencent déjà à croire qu’elles sont.
L’IA militaire avance plus vite que les garde-fous
Cette dérive devient géopolitique parce que les armées sont engagées dans une véritable course à l’automatisation. En janvier 2026, le Pentagone a publié une stratégie destinée à accélérer fortement l’intégration de l’IA dans les opérations militaires, du renseignement à la planification en passant par l’aide à la décision et le ciblage. Le document revendique des calendriers rapides, des expérimentations intensives et une intégration accélérée. La logique est implacable : aucun État ne veut prendre le risque de laisser son adversaire obtenir un avantage technologique décisif. Mais cette peur du retard peut produire un autre danger : mettre en service des systèmes avant d’avoir réellement compris où, comment et à quelle vitesse ils peuvent se tromper.
Gebru et Bender s’attaquent également au discours commercial qui accompagne cette course. Selon elles, présenter ces systèmes comme mystérieux, autonomes ou quasiment surhumains participe d’une « mystification délibérée » entretenue par certains acteurs qui ont intérêt à vendre l’idée d’une rupture technologique absolue. Cette accusation ne peut pas être généralisée à toute l’industrie, mais le conflit d’intérêts est évident : plus une IA semble révolutionnaire, plus elle attire capitaux, contrats publics et budgets militaires. Lina Khan, ancienne présidente de la Federal Trade Commission, rappelle pourtant une évidence presque oubliée au milieu de la propagande technologique : un logiciel d’IA reste un produit. S’il est dangereux, trompeur ou vendu sur la base de promesses mensongères, le droit commun s’applique. Le mot « intelligence » ne transforme pas un produit défectueux en miracle technologique.
Les conséquences ne sont déjà plus théoriques. En Australie, un logiciel de transcription médicale assisté par IA a inscrit à tort dans le dossier d’une patiente qu’elle consommait des champignons psychédéliques. Mais le cas de Minab, en Iran, montre jusqu’où les défaillances peuvent aller lorsque l’automatisation rencontre la guerre. Plus de 150 personnes, dont au moins 123 enfants, ont été tuées lors de la frappe américaine du 28 février 2026. Selon Bloomberg, des responsables impliqués dans l’enquête interne du Pentagone estiment que des renseignements périmés, des failles dans la chaîne de vérification et une dépendance excessive aux capacités d’intelligence artificielle du système Maven ont contribué au désastre. Palantir, qui développe Maven, conteste toute responsabilité de son logiciel et rappelle que l’armée reste responsable des données injectées dans le système. Le rapport complet du Pentagone n’a toujours pas été rendu public. Mais une chose est déjà claire : lorsqu’une technologie imparfaite entre dans une chaîne militaire imparfaite, les erreurs ne restent pas virtuelles.
La vraie question n’est donc pas de savoir si l’IA est « bonne » ou « mauvaise », ni de parier sur la date d’apparition d’une hypothétique superintelligence. Elle est beaucoup plus immédiate : pourquoi autorise-t-on déjà ces systèmes à intervenir dans des décisions où une seule erreur peut tuer ? Un outil qui rédige un courriel n’a pas besoin du même niveau de fiabilité qu’un système utilisé pour identifier une cible, recommander un traitement ou analyser la cargaison d’un navire chinois. Dans les domaines militaires, médicaux ou vitaux, la vérification indépendante, la traçabilité des sources et la capacité réelle d’un humain à bloquer la décision devraient constituer des exigences absolues, pas de simples recommandations affichées dans des chartes d’éthique.
L’épisode révélé par CNN résume peut-être le danger le plus profond de l’intelligence artificielle actuelle. Le chatbot n’aurait pas décidé de déclencher une guerre. Il n’aurait pas développé de volonté propre. Il aurait simplement produit une information fausse avec suffisamment de crédibilité pour que des humains commencent à préparer une opération militaire. C’est précisément ce qui devrait inquiéter. La catastrophe n’a pas besoin d’une IA consciente, hostile ou superintelligente. Il suffit d’institutions assez fascinées par la technologie pour abandonner progressivement leur propre jugement à des machines capables de se tromper avec une assurance parfaite.
IMPORTANT - À lire
La crédulité institutionnelle face à l'IA militaire, ce n'est qu'un exemple. Chaque mois, notre revue papier décrypte les rapports de force géopolitiques que l'actualité effleure à peine.
Pour aller plus loin que les écrans, recevez des analyses approfondies, sans raccourcis, directement dans votre boîte aux lettres. Découvrez la revue.
Source : theguardian.com
