🔥 Les essentiels de cette actualité
- Le sous-comité sur la cybersécurité de la Chambre américaine a auditionné des experts le 4 juin sur les menaces concrètes de l’IA contre les infrastructures critiques.
- Des outils comme Mythos et GPT-5.5 permettent désormais à des acteurs malveillants de rivaliser avec des experts humains en cybersécurité, à une échelle inédite.
- Quelles protections juridiques existent lorsqu’un système d’IA déployé par une municipalité prend une décision erronée aux conséquences graves pour les citoyens ?
- Des systèmes de surveillance pilotée par l’IA se déploient dans écoles, hôpitaux et logements sociaux américains sans transparence ni mécanisme de recours identifié.
Pendant que les salles de cinéma continuent de rejouer en boucle le scénario de la rébellion des machines, une audition du sous-comité sur la cybersécurité et la protection des infrastructures de la Chambre des représentants des États-Unis, tenue le 4 juin, s’est attachée à une réalité moins spectaculaire, mais autrement plus concrète : ce que l’intelligence artificielle fait déjà, aujourd’hui, à la sécurité des infrastructures critiques et aux libertés civiles ordinaires.
Le contraste est saisissant. Le débat public sur l’IA oscille entre deux pôles également improductifs : l’enthousiasme béat de ceux qui voient dans chaque nouvel algorithme une promesse de progrès, et la terreur eschatologique de ceux qui anticipent une singularité technologique où des machines conscientes décideraient du sort de l’humanité. Entre ces deux postures, les menaces effectives passent largement inaperçues.
Des armes numériques à portée de tous
Ce que les témoins entendus par le sous-comité ont exposé mérite d’être pris au sérieux dans sa précision. Sandra Joyce, de Google, a posé le cadre : « Cette technologie a eu un impact profond sur la cybersécurité, tant pour le défenseur que pour l’attaquant. » Jack Cable, directeur général et cofondateur de Corridor Security Inc., a été plus direct encore en citant nommément des outils comme Mythos et GPT-5.5 :
« Les hackers disposent d’outils plus puissants que jamais. Ces modèles ne sont pas du simple battage médiatique. Ils commencent véritablement à rivaliser avec les humains, voire à les surpasser, sur les tâches de sécurité informatique, et ce à une échelle sans précédent. »
Joyce a nuancé ce tableau en observant que les acteurs malveillants n’ont même pas besoin des outils les plus sophistiqués pour causer des dégâts considérables. Autrement dit, la démocratisation de ces technologies ne profite pas qu’aux utilisateurs légitimes : elle abaisse aussi le seuil d’entrée pour quiconque souhaite mener des attaques par rançongiciel contre des hôpitaux, des réseaux d’énergie ou des systèmes de distribution d’eau.
Ce point est structurellement important. La puissance offensive en matière de cybersécurité n’est plus l’apanage d’États disposant de ressources considérables ou de groupes criminels organisés de longue date. Elle devient accessible. Ce nivellement par le bas de la capacité offensive constitue un défi de gouvernance réel, indépendamment de tout scénario futuriste.
Quand l’IA surveille ses propres citoyens
Mais c’est l’autre versant de l’audition qui mérite une attention au moins égale. Matthew Guariglia, analyste senior à l’Electronic Frontier Foundation, a posé la question dans des termes qui méritent d’être cités intégralement :
« La question n’est pas de savoir comment encadrer l’IA, mais comment encadrer les agences qui déchaîneraient l’IA contre le public américain. »
Cette formulation déplace le centre de gravité du problème. Ce n’est pas l’algorithme qui est, en lui-même, la menace principale : c’est l’usage qu’en font des institutions disposant déjà d’un pouvoir considérable sur les individus. Guariglia a rappelé que l’appareil sécuritaire américain utilise déjà des outils capables de collecter des données sans cause probable et d’inférer, parfois de manière erronée et avec de graves conséquences, les opinions politiques, la vie personnelle, la religion ou la localisation géographique d’une personne.
La représentante Delia Ramirez, démocrate de l’Illinois, a prolongé cette analyse en observant que des systèmes de surveillance pilotés par l’IA se déploient dans les écoles, les logements sociaux et les hôpitaux « sans transparence sur leur fonctionnement, sans possibilité de les contester, et sans recours lorsqu’ils se trompent ». L’absence de recours est ici le nœud du problème : une technologie qui prend des décisions conséquentes sur la vie des gens sans que personne ne puisse en être tenu responsable constitue un vide juridique et démocratique, pas simplement un défi technique.
Un échange particulièrement révélateur a eu lieu autour d’un scénario hypothétique mais plausible : un système d’IA qui désignerait à tort l’eau d’une ville comme contaminée et en bloquerait l’accès aux habitants. Guariglia et Ramirez ont convenu que, dans le cadre juridique américain actuel, la transparence sur les causes de l’incident serait laissée à la discrétion de la municipalité ayant déployé le système, tandis que la question de la responsabilité resterait largement indéterminée. Ce vide n’est pas une hypothèse d’école : il reflète l’état réel du droit face à des systèmes automatisés déjà en cours de déploiement.
Guariglia a également noté, non sans ironie, que l’IA « a déjà montré sa capacité à se tromper », en citant de fausses références juridiques générées automatiquement ou une erreur majeure qui avait envoyé des recrues du département de la Sécurité intérieure sur le terrain sans formation adéquate. Il a ajouté qu’il existe « probablement des exemples plus graves que nous ignorons, parce que la classification empêche un bilan plus complet ». Ce point est crucial : les défaillances les plus sérieuses se produisent précisément là où la transparence est la plus faible.
Ce que cette audition met en lumière, finalement, c’est moins une révolution technologique imminente qu’une accélération de dynamiques déjà à l’œuvre. Les outils de surveillance de masse existaient avant l’IA générative. Les attaques par rançongiciel contre les infrastructures critiques ne datent pas d’hier. Ce que l’IA modifie, c’est l’échelle, la vitesse et l’accessibilité de ces phénomènes, tout en rendant plus difficile l’imputation de responsabilités lorsque les choses tournent mal. La vraie question posée par cette audition n’est pas technologique : elle est institutionnelle. Qui décide de déployer ces systèmes ? Selon quelles règles ? Avec quels mécanismes de contrôle et de recours ? Ce sont ces questions, infiniment moins cinégéniques que la rébellion des machines, qui détermineront concrètement le rapport entre technologie et liberté dans les années qui viennent.
Source : zerohedge.com
L’I.A. est un logiciel programmé par un humain, l’I.A. ne pense pas et encore moins de penser ce qu’elle pense comme l’humain L’I.A. crachera ce que l’humain lui aura programmé!!