🔥 Les essentiels de cette actualité
- Avec plus de 600 millions de caméras déployées, la Chine affiche des visages de débiteurs inscrits sur liste noire sur des panneaux géants en temps réel.
- Pourquoi le cofondateur d’Oracle, Larry Ellison, partenaire de l’administration Trump, affirme-t-il que les citoyens « se comporteront de leur mieux » grâce à la surveillance permanente ?
- La surveillance de masse par IA détruit la liberté avant toute sanction : l’individu s’autocensure par anticipation, rendant impossible toute évolution sociale progressive.
- Les démocraties libérales disposent-elles de la volonté politique nécessaire pour encadrer ces technologies, alors que leurs propres services de renseignement les utilisent activement ?
La surveillance de masse propulsée par l’intelligence artificielle ne ressemble à aucune des formes de contrôle social que l’histoire moderne nous a données à observer. C’est là son danger fondamental. Et c’est précisément ce que soulignent Bruce Schneier, spécialiste de la sécurité des systèmes à l’université Harvard, et Jon Penney, professeur de droit à l’Osgoode Hall Law School de Toronto, dans leurs travaux récents sur ce qu’ils appellent les chilling effects, les effets paralysants que la surveillance exercée à grande échelle produit sur les comportements individuels et collectifs.
Le mécanisme est connu dans ses grandes lignes. Mais l’ampleur inédite que lui confère l’IA mérite qu’on s’y arrête avec précision. Ce n’est plus la surveillance ciblée des régimes autoritaires du XXe siècle, nécessairement limitée par les ressources humaines disponibles. Ce n’est plus non plus la collecte de métadonnées révélée par Edward Snowden en 2013, qui permettait de savoir à qui l’on parlait, mais non ce qu’on se disait. Ce qui est désormais possible, c’est une fusion inédite : reconnaissance faciale en temps réel dans l’espace public, analyse du contenu des communications, croisement de bases de données massives et signalement immédiat des comportements jugés problématiques, qu’il s’agisse d’un feu rouge grillé ou d’une opinion jugée indésirable.
De Pékin à Washington : deux logiques, un même outil
La Chine a montré la voie. Avec plus de 600 millions de caméras de surveillance selon certaines estimations, le pays a construit une infrastructure d’observation sans précédent dans l’histoire humaine. Le cas de Lao Duan, citoyen chinois inscrit sur liste noire après s’être retrouvé dans l’incapacité de rembourser des prêts, illustre la brutalité concrète du système : identifié par reconnaissance faciale à un carrefour de Pékin, son visage, son nom et son numéro d’identification nationale ont été affichés en temps réel sur un panneau électronique géant, accompagnés du message qu’il était une personne jugée peu digne de confiance. Cette architecture s’inscrit désormais dans un ensemble de dispositifs de surveillance en ligne, de censure et de mécanismes dits de « crédit social ».
Mais réduire cette dynamique à une singularité chinoise serait une erreur d’analyse. Aux États-Unis, le département de la Sécurité intérieure développe ses propres capacités de surveillance par IA, incluant la reconnaissance faciale et la surveillance des réseaux sociaux. Les populations ciblées sont, selon un rapport récent, les migrants, les dissidents, les journalistes, les observateurs légaux et les manifestants. Larry Ellison, cofondateur, président exécutif et directeur de la technologie d’Oracle, entreprise technologique travaillant étroitement avec l’administration Trump, a formulé sans ambages la logique sous-jacente : « Les citoyens se comporteront de leur mieux parce que nous enregistrons et signalons tout en permanence. » Ce n’est pas une description, c’est un programme.
« Les citoyens se comporteront de leur mieux parce que nous enregistrons et signalons tout en permanence. » Larry Ellison, cofondateur, président exécutif et directeur de la technologie d’Oracle
La différence entre les deux systèmes est une différence de degré et de contexte institutionnel, non de nature. Dans un cas, l’État-parti exerce un contrôle direct. Dans l’autre, une alliance entre l’appareil d’État et des entreprises technologiques privées produit un résultat fonctionnellement comparable. La souveraineté de l’individu face au pouvoir de surveillance est mise en cause dans les deux configurations.
Ce que la surveillance détruit avant même d’agir
L’effet le plus redoutable de ces systèmes n’est pas la sanction qu’ils infligent. C’est la sanction qu’ils font anticiper. Schneier et Penney rappellent que les mécanismes de l’autocensure, surveillance, personnalisation, incertitude, autorité, se combinent et se renforcent mutuellement. Plus le système est omniprésent, plus l’individu intègre ses contraintes avant même d’avoir commis quoi que ce soit. La liberté n’est pas confisquée par la force : elle est abandonnée par précaution.
Cette dynamique a des effets qui dépassent la sphère individuelle. Les auteurs soulignent que les transformations morales et juridiques qui ont permis, dans plusieurs sociétés occidentales, la normalisation des relations homosexuelles ou de l’usage récréatif du cannabis, ont nécessité des décennies d’expérimentation sociale dans des espaces de relative tolérance. Des comportements d’abord perçus comme illégaux ou immoraux ont progressivement conquis leur légitimité, précisément parce qu’il était possible de les pratiquer, d’en débattre, de les défendre. Une surveillance de masse capable de tracer et de sanctionner chaque déviance naissante aurait rendu ce processus impossible. Ce n’est pas une vue de l’esprit : c’est une implication directe de l’infrastructure qui se déploie.
Il est tentant de comparer ces systèmes aux précédents historiques les plus sombres. Mais comme le notent eux-mêmes les auteurs, la comparaison tourne court. Le programme COINTELPRO du FBI dans les années 1950 et 1960, écoutes téléphoniques, ouverture du courrier, réseau d’informateurs, fichiers papier, apparaît aujourd’hui artisanal. Le réseau de surveillance humain de la Stasi est-allemande, fascinant dans sa capillarité sociale, reste limité dans sa capacité d’analyse et de traitement. Même le « télécran » d’Orwell, symbole littéraire de la surveillance totale, appartient à une époque révolue. Ce à quoi nous faisons face n’a pas encore de nom stabilisé dans la pensée politique.
La question qui se pose n’est pas seulement celle des régimes autoritaires qui s’emparent de ces outils. Elle concerne aussi les démocraties libérales qui les développent, souvent en dehors de tout cadre législatif clair, et les entreprises technologiques qui les fournissent indifféremment aux uns et aux autres. L’absence de régulation internationale crédible sur ces technologies n’est pas une lacune accidentelle : elle reflète l’intérêt bien compris des États les plus puissants à conserver une liberté d’action maximale dans ce domaine. C’est une observation réaliste, non un reproche moral.
Des réponses existent en théorie : interdiction de la reconnaissance faciale dans certains usages, renforcement des protections sur les données personnelles, encadrement réglementaire de l’IA, contrôle des concentrations entre puissance publique et acteurs technologiques privés. Plusieurs de ces pistes sont évoquées, notamment en Europe, où le règlement sur l’IA adopté en 2024 pose quelques jalons. Mais entre les textes et leur application effective, entre les déclarations de principe et les pratiques réelles des services de renseignement ou de contrôle aux frontières, la distance reste considérable. La question de savoir si les démocraties ont la volonté politique et la cohérence institutionnelle nécessaires pour se fixer à elles-mêmes des limites dans ce domaine reste, pour l’heure, entièrement ouverte.
Source : theguardian.com
Participez au débat, et partagez votre opinion !
Faites avancer la discussion en donnant votre avis à la communauté.