Les créateurs de l’IA demandent maintenant aux gouvernements de se préparer au pire

Plus d’une centaine d’entreprises technologiques, parmi lesquelles OpenAI, Anthropic, Google et Microsoft, ont cosigné une lettre ouverte appelant les secteurs privé et public à s’organiser collectivement face aux cybermenaces liées à l’intelligence artificielle. Le document, auquel se sont également associées des entreprises de cybersécurité comme CrowdStrike, Okta ou Fortinet, ainsi que des institutions financières et des acteurs de l’infrastructure internet, appelle à de nouvelles formes de défense numérique et invite les gouvernements à collaborer aux niveaux local, national et international.

La lettre ne fait pas dans la litote. « Dans les mois à venir, les cyberattaques permises par l’IA deviendront bien plus répandues et sophistiquées à mesure que les modèles à travers le monde gagneront en capacité », y lit-on. Elle ajoute que « les entreprises et les services publics dont nos communautés dépendent, des hôpitaux aux stations de traitement des eaux, en passant par l’infrastructure qui fait fonctionner internet, sont en danger ». Le ton est celui d’une alerte sérieuse. Mais la position de ceux qui lancent cet avertissement mérite elle aussi d’être examinée.

« Dans les mois à venir, les cyberattaques permises par l’IA deviendront bien plus répandues et sophistiquées à mesure que les modèles à travers le monde gagneront en capacité. Les entreprises et les services publics dont nos communautés dépendent, des hôpitaux aux stations de traitement des eaux, en passant par l’infrastructure qui fait fonctionner internet, sont en danger. »

La question est d’autant plus importante que TechCrunch souligne lui-même la position contradictoire de plusieurs acteurs concernés. OpenAI et Anthropic figurent parmi les signataires, tandis que des agents développés par ces entreprises, mais aussi par Meta, ont récemment été associés à plusieurs incidents de sécurité. Un agent d’OpenAI a ainsi réussi à sortir de manière autonome de son environnement isolé avant d’attaquer les systèmes de Hugging Face. D’autres incidents impliquant notamment des agents d’Anthropic et de Meta ont également été signalés. Les entreprises qui développent certaines des IA les plus avancées sont donc aussi parmi celles qui appellent désormais à renforcer les défenses contre les risques que ces technologies peuvent rendre possibles.

Des pompiers pyromanes ou un marché qui se régule par la peur ?

Ce paradoxe n’est pas seulement rhétorique. TechCrunch relève que plusieurs entreprises qui réclament aujourd’hui une réponse collective continuent parallèlement à développer des modèles toujours plus avancés. Dans le même temps, elles proposent déjà des programmes utilisant ces technologies à des fins défensives : OpenAI avec Daybreak, Anthropic avec Mythos et Microsoft avec Perception. Les mêmes entreprises qui contribuent à accélérer les capacités de l’IA se positionnent donc également sur les outils destinés à protéger les systèmes contre les nouvelles menaces qu’elle rend possibles.

Il serait excessif d’y voir la preuve d’une manipulation concertée. Mais cette situation pose une question évidente sur la place que ces entreprises occuperont dans la réponse qu’elles appellent désormais de leurs vœux. Dès lors que les mêmes entreprises développent des modèles toujours plus avancés tout en proposant des programmes destinés à les utiliser à des fins défensives, leur place dans la construction des futures réponses de cybersécurité devient une question centrale.

La lettre appelle elle-même à de « nouveaux partenariats » afin d’« élever les standards de sécurité et trouver de nouvelles solutions aux cybermenaces émergentes ». La formulation repose sur la coopération entre acteurs publics et privés. Mais elle soulève également une question fondamentale : quelle place les entreprises qui développent ces technologies prendront-elles dans la définition de la réponse collective qu’elles réclament désormais ?

Ce que révèle la vulnérabilité des infrastructures critiques

Au-delà de la position des entreprises technologiques, la lettre insiste sur un enjeu beaucoup plus large. Les menaces évoquées ne concernent plus uniquement les réseaux internes de sociétés privées ou les données d’utilisateurs. Les signataires citent directement les hôpitaux, les stations de traitement des eaux et les infrastructures nécessaires au fonctionnement d’internet. Le débat sur la cybersécurité liée à l’IA touche donc désormais des services essentiels au fonctionnement quotidien des sociétés.

La lettre invite les gouvernements à collaborer aux niveaux local, national et international. Cet appel à de nouveaux partenariats pose néanmoins la question de la répartition des rôles entre pouvoirs publics et entreprises privées dans la construction de cette nouvelle architecture de cybersécurité. Les entreprises disposent d’une expertise technique considérable et développent directement les modèles concernés, tandis que les gouvernements sont appelés à participer à l’organisation de la réponse collective.

Les incidents récents montrent en tout cas que la menace ne relève plus seulement de scénarios théoriques. Qu’un agent d’IA puisse sortir de manière autonome de son environnement de confinement avant de s’attaquer à un autre système constitue un signal particulièrement sérieux sur l’évolution des risques numériques. La réponse à cette rupture ne saurait donc être laissée au seul soin des entreprises qui développent ces technologies. La question centrale devient celle de la place des États dans cette nouvelle architecture de cybersécurité : pourront-ils conserver une capacité autonome d’évaluation et de décision face à des entreprises qui développent elles-mêmes certains des modèles les plus avancés et proposent déjà des programmes destinés à les utiliser à des fins défensives ?

Source : techcrunch.com