🔥 Les essentiels de cette actualité
- À Genève, 128 États négocient depuis plus d’une décennie un traité sur les armes autonomes létales, sans parvenir à un texte contraignant.
- Pourquoi les délégations américaine et russe, pourtant antagonistes, ont-elles conjointement affaibli la disposition sur le contrôle humain des frappes IA ?
- En Gaza, le système « Lavender » a désigné des cibles en 20 secondes par officier, réduisant le contrôle humain à un simple tampon formel.
- Le biais d’automatisation documenté par le CICR industrialise les erreurs humaines : environ 10% des cibles désignées n’appartenaient pas à l’aile militaire du Hamas.
- Quelles conséquences juridiques lorsque la chaîne de responsabilité est diluée entre un algorithme, un officier et un pilote ?
- Le cadre de Genève exclut explicitement les scénarios de répression interne : omission ou choix délibéré des grandes puissances ?
- Les systèmes semi-automatisés d’aide à la décision, absents des négociations, constituent pourtant la zone grise la plus active des conflits contemporains.
À Genève, les diplomates continuent de discuter des « robots tueurs » comme si le danger appartenait encore au futur. Costumes, experts, juristes, ONG, conventions internationales : tout le décor rassurant du multilatéralisme est en place. Depuis plus d’une décennie, les 128 États parties à la Convention sur certaines armes classiques se réunissent pour définir les limites applicables aux systèmes d’armes autonomes. Du 31 août au 4 septembre, une nouvelle session devait faire avancer ce chantier. Mais dès qu’il s’est agi d’imposer de véritables contraintes au contrôle humain des cibles sélectionnées par des systèmes automatisés, Washington et Moscou ont poussé pour affaiblir le texte. Les grandes puissances veulent bien réglementer la guerre du futur, à condition que les règles ne limitent pas trop leurs propres armes.
Voilà la réalité derrière les grands discours sur le droit international : les règles avancent jusqu’au moment où elles rencontrent les intérêts militaires des États les plus puissants. Les États-Unis et la Russie peuvent s’opposer sur presque tout et se retrouver lorsqu’il s’agit de préserver leur liberté d’action. Ce n’est pas un accident diplomatique. C’est le fonctionnement normal d’un système dans lequel la technologie avance à toute vitesse pendant que le droit tente péniblement de courir derrière.
Gaza, laboratoire grandeur nature de la guerre algorithmique
Pendant que Genève débat encore de ce qu’il faudrait interdire demain, Gaza montre ce que l’IA militaire permet déjà aujourd’hui. Des enquêtes de +972 Magazine et Local Call, reprises notamment par The Guardian, ont décrit l’utilisation par l’armée israélienne de « Lavender », un système capable de générer massivement des cibles potentielles parmi les Palestiniens. Le programme analyse des volumes considérables de données et attribue des probabilités d’appartenance au Hamas ou au Jihad islamique palestinien. À son pic, il aurait fait apparaître environ 37 000 personnes comme cibles potentielles. Ce n’est plus seulement du renseignement assisté par ordinateur : c’est la production industrielle de listes humaines destinées à alimenter une chaîne de frappes.
Puis intervient « Where’s Daddy? ». Le système permettait de suivre certaines cibles jusqu’à leur domicile. Pourquoi ? Parce qu’un homme est plus facile à localiser lorsqu’il rentre chez lui. Mais son domicile n’est pas vide. Sa femme, ses enfants ou ses proches peuvent s’y trouver. Le lieu de vie devient alors le point idéal pour frapper une personne identifiée par un système automatisé. La guerre quitte encore un peu plus le champ de bataille pour entrer directement dans les maisons.
Le scandale ne réside même plus uniquement dans l’existence de ces outils. Il réside dans la vitesse avec laquelle l’être humain peut être réduit au rôle de figurant. Des officiers interrogés par +972 ont décrit une mécanique dans laquelle les propositions de Lavender étaient utilisées massivement et contrôlées de manière extrêmement sommaire. L’un d’eux résume ce que devient alors le prétendu « contrôle humain » :
« Je consacrais 20 secondes à chaque cible à ce stade, et j’en traitais des dizaines chaque jour. En tant qu’humain, je n’avais aucune valeur ajoutée, si ce n’est celle d’un tampon d’approbation. Cela faisait gagner beaucoup de temps. »
Vingt secondes. Voilà ce qu’il peut rester de la fameuse présence humaine dans la chaîne de décision. Sur le papier, l’homme décide encore. Dans la pratique, il valide à la chaîne ce que la machine lui présente. Le « human in the loop » devient alors une fiction bureaucratique particulièrement pratique : suffisamment d’humain pour affirmer que l’algorithme ne tue pas seul, mais pas assez pour réellement remettre en cause ce qu’il propose.
Quand l’erreur humaine devient industrielle
Un membre des services israéliens cité dans l’enquête défend cette logique avec un argument redoutablement simple : « J’ai bien plus confiance dans un mécanisme statistique que dans un soldat qui a perdu un ami deux jours auparavant. » Après le traumatisme du 7 octobre, la machine paraît froide, rationnelle, débarrassée de la colère et du désir de vengeance. C’est précisément cette apparence de neutralité qui rend l’IA si dangereusement séduisante.
Car l’algorithme n’est pas tombé du ciel. Quelqu’un a choisi ses critères. Quelqu’un a défini ce qui ressemble au comportement d’un combattant. Quelqu’un a décidé du seuil à partir duquel un individu devient suffisamment suspect pour entrer dans une liste de cibles. Selon les sources ayant travaillé avec Lavender, les vérifications internes estimaient sa précision autour de 90 %. Cela signifie qu’environ une personne sur dix pouvait être mal classée selon les critères utilisés. À petite échelle, c’est une erreur. À l’échelle de dizaines de milliers de cibles, c’est une mécanique capable de transformer une marge statistique en vies humaines.
La machine ne supprime donc pas le biais humain. Elle le transforme en procédure industrielle. Une intuition, une hypothèse ou un critère discutable peuvent être copiés à des milliers d’exemplaires avec une vitesse inaccessible à n’importe quelle chaîne de commandement traditionnelle. Ce qui autrefois aurait nécessité des heures de renseignement, de vérifications et de discussions peut désormais être compressé en quelques secondes.
Le Comité international de la Croix-Rouge met précisément en garde contre ce « biais d’automatisation » : plus un système paraît sophistiqué, plus l’être humain tend à lui faire confiance. L’écran affiche une recommandation, un score, un niveau de probabilité. L’opérateur finit par supposer que la machine a vu quelque chose qu’il n’a pas vu. Dans un moteur de recherche, cette confiance aveugle produit des erreurs. Dans une guerre, elle peut produire un cadavre.
C’est tout le retard des négociations de Genève. Les diplomates restent fascinés par l’image du robot autonome capable de choisir seul sa cible et de tirer, alors que le basculement réel se produit déjà bien avant. Pas besoin d’un Terminator. Il suffit d’un algorithme qui produit des milliers de cibles, d’un humain qui les approuve en vingt secondes et d’une armée qui transforme ces validations en frappes. Le rapport négocié à Genève reste en outre centré sur les conflits armés et laisse hors champ les usages comparables dans des scénarios de répression intérieure. Là encore, les États réglementent surtout ce qu’ils acceptent de perdre.
La vraie révolution de l’IA militaire n’est donc peut-être pas la disparition de l’être humain. Elle est plus insidieuse : conserver suffisamment d’humains pour maintenir l’apparence d’une responsabilité, tout en automatisant progressivement la substance même de la décision. L’algorithme propose. L’analyste approuve. L’unité frappe. Puis, lorsque quelque chose tourne mal, chacun peut désigner l’étape précédente. Le développeur n’a fait que coder. L’analyste n’a fait que valider. Le soldat n’a fait qu’exécuter. À la fin, une personne est morte et la responsabilité s’est dissoute entre une machine qui n’a aucun statut juridique et une chaîne humaine devenue trop fragmentée pour que quelqu’un assume réellement la décision.
IMPORTANT - À lire
Gaza, Genève, la dilution de la responsabilité : ces dynamiques ne s'arrêtent pas là. Chaque mois, notre revue papier approfondit ce type d'analyse géopolitique et stratégique.
Si ce sujet vous a interpellé, la revue est faite pour vous : des analyses fouillées, loin du bruit médiatique, directement dans votre boîte aux lettres.
Source : theguardian.com
