Les enquêteurs du Pentagone affirment qu’une dépendance excessive à l’IA de Palantir a contribué à la frappe américaine qui a tué 123 enfants iraniens

La frappe du 28 février contre l’école primaire Shajarah Tayyebeh, à Minab, dans le sud de l’Iran, a tué plus de 150 personnes, dont au moins 123 enfants. Deux missiles Tomahawk américains ont frappé le bâtiment et son enceinte lors de la première journée de la guerre contre l’Iran. Pourtant, Washington n’a toujours pas officiellement reconnu sa responsabilité. Donald Trump avait même affirmé le 7 mars que l’attaque avait, « selon lui », été commise par l’Iran, sans fournir de preuve. Six mois plus tard, Bloomberg révèle que des responsables directement impliqués dans une enquête interne du Pentagone décrivent une tout autre réalité : renseignement périmé, vérifications insuffisantes, pression opérationnelle extrême et dépendance excessive de certains personnels à un système d’intelligence artificielle développé par Palantir.

L’enquête de Bloomberg, fondée sur les témoignages de responsables participant directement à la révision interne du Pentagone, reconstitue une chaîne de défaillances qui dépasse largement la seule question d’une erreur de ciblage. Certains personnels américains savaient, quelques heures après la frappe, que les États-Unis avaient touché l’école. L’enquête interne a débuté en mars et son rapport serait quasiment achevé depuis plusieurs mois, sans avoir été rendu public. Le Pentagone affirme que l’incident reste sous enquête. Mais les éléments déjà connus soulèvent une question fondamentale : que se passe-t-il lorsqu’une armée accélère massivement sa chaîne de ciblage grâce à l’intelligence artificielle tout en réduisant parallèlement les mécanismes humains chargés d’en contrôler les conséquences ?

Quand l’outil devient une autorité

Au cœur de cette chaîne se trouve le Maven Smart System de Palantir, devenu en peu de temps une pièce centrale de l’appareil militaire américain. Maven agrège et organise de nombreuses sources de renseignement afin d’accélérer l’analyse, la planification et le ciblage. Le site de Minab figurait depuis plusieurs années dans les bases américaines comme une installation des Gardiens de la révolution. Cette classification n’avait pas été correctement mise à jour malgré la transformation visible du lieu. Le site a donc été intégré à Maven avec d’autres cibles potentielles et a finalement émergé parmi les objectifs recommandés pour le premier jour de l’offensive. Selon les responsables interrogés par Bloomberg, une partie du travail de préparation des listes de cibles, qui pouvait auparavant nécessiter plusieurs heures, a été condensée en quelques minutes.

Le problème documenté n’est pas que Maven aurait inventé une cible inexistante. Il est que certains personnels du CENTCOM ont accordé au système des capacités de vérification qu’il ne possédait pas. Ils s’attendaient notamment à ce que Maven signale automatiquement des renseignements périmés ou des contradictions dans les données sous-jacentes. Bloomberg précise qu’on ne sait pas clairement pourquoi ces utilisateurs pensaient que le système devait remplir cette fonction. Un document du département de la Défense consacré à Maven rappelle pourtant que l’utilisateur reste censé confirmer les identifications produites par l’intelligence artificielle et les croiser avec d’autres renseignements avant validation d’une cible. La technologie devait accélérer l’analyse, pas remplacer la vérification humaine.

Palantir rejette toute responsabilité directe. L’entreprise affirme qu’elle « n’est pas responsable des données sous-jacentes ni de l’identification des lacunes du renseignement » et qu’aucune preuve ne démontre une défaillance de son logiciel lors de la frappe. Mais Bloomberg révèle qu’après Minab, Palantir a ajouté à Maven de nouvelles capacités destinées à réexaminer les renseignements sous-jacents, identifier des éléments susceptibles de disqualifier une cible et signaler des incohérences ou inexactitudes éventuellement manquées lors de la vérification humaine. Ces capacités supplémentaires ont donc été développées après le désastre de Minab. Elles auraient déjà permis de détecter certaines anomalies.

« Les États-Unis ne ciblent pas des civils. »
— Un haut responsable de l’administration américaine, cité par Bloomberg

Cette réponse résume précisément le problème. L’enquête ne démontre pas que les États-Unis avaient l’intention de tuer des enfants. Elle décrit quelque chose de plus inquiétant pour une armée qui affirme disposer de systèmes de ciblage parmi les plus sophistiqués au monde : une succession de décisions, de données obsolètes et de contrôles insuffisants a permis à une école parfaitement identifiable de rester classée comme objectif militaire jusqu’au lancement des missiles. La question n’est donc pas celle de l’intention proclamée, mais de la fiabilité réelle de la chaîne qui transforme des données numériques en décisions létales.

Des garde-fous humains démantelés au moment où l’IA accélère les frappes

Les renseignements utilisés contre Minab étaient anciens. Des images satellites commerciales montrent que des murs et des entrées séparant clairement l’école de la base militaire voisine avaient été construits dès 2017. Une image de 2018 laisse apparaître des murs vivement colorés, un terrain de football, des zones de rassemblement et des marquages caractéristiques d’une cour de récréation. Le site disposait de son propre site internet et était identifié comme école sur Google Maps. Malgré cela, la principale base de renseignement militaire américaine utilisée pour le ciblage continuait de le cataloguer comme une installation des Gardiens de la révolution.

Plus grave encore, un analyste américain avait repéré les modifications du site dès 2019 et consigné ses observations. Mais ces remarques avaient été enregistrées dans un système qui n’était pas connecté à la principale base de données utilisée pour constituer les cibles militaires. Elles n’ont donc jamais atteint les personnels qui ont préparé le paquet de frappe de Minab. La faiblesse du renseignement humain dans le sud de l’Iran a encore aggravé cette situation, mais les informations disponibles en sources ouvertes montraient depuis plusieurs années que le site avait changé de fonction. L’erreur n’est donc pas seulement celle d’un renseignement manquant : certaines informations existaient, mais l’architecture américaine n’a pas réussi à les faire parvenir au bon endroit au moment décisif.

Dans le même temps, selon les responsables participant à l’enquête interne cités par Bloomberg, les effectifs des équipes spécialisées dans la prévention des dommages civils avaient été réduits d’environ 90 %, à moins de vingt personnes à l’échelle du département de la Défense. Au CENTCOM, l’équipe était passée de dix personnes à une seule. Aucun membre de ces équipes n’a examiné le site de Minab avant le lancement des missiles. Bloomberg précise que cette absence résultait à la fois des réductions d’effectifs et d’une décision de ne pas intégrer l’équipe au processus de planification de l’opération. Plus de 1 000 cibles iraniennes ont été frappées pendant les premières vingt-quatre heures de l’offensive. Au moment même où le rythme des frappes explosait grâce aux outils numériques, l’un des principaux mécanismes humains conçus pour réduire les pertes civiles avait donc été presque entièrement vidé de ses effectifs.

La mission internationale indépendante d’établissement des faits des Nations Unies sur l’Iran est allée beaucoup plus loin que le Pentagone dans ses conclusions publiques. Elle estime qu’il existe des motifs raisonnables de croire que la frappe contre Minab constituait une attaque indiscriminée et un crime de guerre. Les enquêteurs considèrent que les États-Unis ont « manqué à leur obligation de faire tout ce qui était faisable pour vérifier » que l’école constituait bien un objectif militaire et que cette défaillance « allait au-delà de la simple négligence ». Selon eux, les forces américaines ont lancé la frappe tout en étant conscientes d’un risque substantiel de toucher un bien civil. Le département de la Défense a refusé de commenter publiquement ces conclusions.

Minab révèle donc moins une intelligence artificielle devenue autonome qu’un système humain qui commence à s’habituer à aller aussi vite que ses machines. Renseignement périmé, bases de données incapables de communiquer correctement entre elles, équipes de prévention des dommages civils réduites à presque rien, plus d’un millier de cibles à valider en quelques heures et utilisateurs attribuant à Maven des capacités de contrôle qu’il n’avait pas : aucun de ces éléments, isolément, n’explique le massacre. Ensemble, ils dessinent une architecture dans laquelle l’accélération technologique peut réduire le temps disponible pour le doute, la contradiction et la vérification. Et lorsqu’un système privé comme celui de Palantir s’installe au cœur de cette chaîne de ciblage, une question devient impossible à éviter : qui assume réellement la responsabilité lorsque la machine accélère une décision humaine irréversible et que les garde-fous censés la contrôler ont déjà été démantelés ?

IMPORTANT - À lire

Minab, c'est l'illustration brutale de ce qui arrive quand le contrôle humain s'efface derrière la vitesse et l'automatisation. Des dynamiques qu'on décrypte chaque mois.

Notre revue papier approfondit ces analyses géopolitiques et stratégiques que l'actualité survole. Pour aller plus loin, abonnez-vous.

Découvrir la revue mensuelle Géopolitique Profonde   →

Source : gizmodo.com