Techno-totalitarisme : l’entreprise Anthropic construit un système de police prédictive pour réprimer les opposants à l’IA

Et si vous pouviez être arrêté avant même d’avoir commis un crime ou un délit ? Ce rêve de tous les totalitarismes, la firme étasunienne Anthropic, déjà sous le feu de l’actualité après le départ fracassant d’un de ses ingénieurs et son cri d’alerte, travaille sur des systèmes de surveillance s’apparentant à de la police prédictive. Il s’agit de recourir à des systèmes de décisions algorithmiques pour prévenir de supposées infractions avant qu’elles n’aient lieu. Une dérive sécuritaire de plus, contraire aux droits humains et qui nous plonge tout droit vers une société cauchemardesque.

En effet, le nouveau système de surveillance qu’est en train de développer Anthropic vise essentiellement des activistes qui s’opposeraient à l’IA, donc aux intérêts directs de la firme. Dans un monde où les intelligences artificielles font courir un péril imminent à l’humanité, l’entreprise veut se prémunir de toute forme de résistance. Elle vient par ailleurs de révéler que plusieurs scientifiques auraient utilisé ses modèles IA pour développer des armes bactériologiques… Son concurrent Open AI avoue le même jour qu’elle empêche ses agents de pirater le réseau électrique des USA.

Dans un podcast diffusé aux USA, Keon Ellison et Zach Melvin, des hauts placés d’Anthropic, glorifient les nouveaux usages de leurs technologies de pointe, accompagnés du PDG de Samdesk, une entreprise spécialisée dans la «détection des risques». Ils y expliquent par exemple comment leurs outils de surveillance de masse leur permettent de récolter des informations en temps réel sur des manifestations en cours. Ellison vante par ailleurs le «suivi des personnes présentant un intérêt particulier» par les services de sécurité d’Anthropic, ainsi que leur étroite collaboration avec la police.

Concrètement, l’entreprise dénonce des utilisateurs ayant un «comportement préoccupant» ainsi que «des tendances à l’escalade» en livrant l’identité et les informations qu’elle détient sur les utilisateurs en question. Cerise sur le gâteau, Anthropic ne dévoile pas le contenu des messages que la plateforme échange avec ces fameux utilisateurs, en invoquant sa politique interne. Sans aucune garantie procédurale, l’entreprise fiche donc selon son bon vouloir les utilisateurs qu’elle estime dangereux pour elle, qui sont parfois arrêtés par les forces de l’ordre sur la base de dénonciations de la machine.

Par ailleurs, la maison mère de l’IA générative Claude recrute désormais de plus en plus de contrats liés à la «sécurité nationale». Pourtant, Anthropic s’est longtemps présenté comme l’alternative «raisonnable» face à son concurrent OpenAI, qui développe lui les modèles Chat-GPT. L’entreprise avait par exemple refusé un contrat avec le ministère de la Défense étasunienne concernant l’usage d’outils de surveillance de masse et d’armes dite «autonomes». Force est de constater que dans la course à l’IA, la prudence, l’éthique et les droits humains ne sont même plus des arguments marketing depuis longtemps.

La police prédictive s’articule par ailleurs avec une surveillance et des collectes de données privées pour faire tourner ses algorithmes. Algorithmes eux-mêmes bourrés de biais racistes, misogynes et discriminatoires en tout genre car programmés par les services de sécurité et les techno-fascistes.

Aux États-Unis, les polices fédérales sont friandes de ce type de logiciel. Le programme Geolitica utilise des statistiques qui indiquent aux agents les endroits où des délits sont censés avoir le plus de chance de se produire. Avec la collecte massive de données – crimes passés, appels d’urgence, rapports d’arrestations – il crée des cartes numériques représentant les «zones à risque». La police envoie ensuite des équipages surveiller les périmètres définis par le système. Ce qui conduit fatalement les policiers à la recherche pro-active d’infractions, la multiplication des contrôles amenant à de nouvelles arrestations en cas de délit. Et les nouvelles données collectées viendront ensuite nourrir l’algorithme dans un cycle infernal de répression sans fin. Cet outil vient renforcer le contrôle social et la répression des populations précaires et non-blanches.

Loin de se cantonner aux États-Unis, la police prédictive est déjà une réalité en Europe, normalement en Suisse, où un programme baptisé PRECOBS cherche par exemple à prédire les cambriolages. De son côté, la France n’est pas en reste et cherche à rester dans la course à la sécurité. D’un point de vue politique, l’introduction de nouveaux délits ces derniers années, comme l’apologie du terrorisme ou l’association de malfaiteurs, peuvent relever d’une police politique prédictive. L’association de malfaiteurs, en se fondant partiellement sur l’analyse d’une intention, et d’une menace potentielle, c’est-à-dire une hypothèse, s’éloigne de la matérialité des faits et donne un pouvoir discrétionnaire énorme aux forces de police.

En 2024 à Paris, la mise en place de la Vidéo Surveillance Algorithmique (VSA) a été testée lors JO. L’expérience devait être «temporaire» mais a été prolongée jusqu’en 2030 grâce à l’adoption de la loi RIPOST. La VSA avait été dénoncée par Amnesty International. L’ONG alertait sur les «risques de stigmatisation» qui viserait les personnes déjà vulnérables. Les systèmes de décision informatisés sont à l’image de la société. Ils reproduisent voire amplifient les biais du système qui les conçoit : une société raciste produira nécessairement des caméras racistes.

En janvier 1956, l’écrivain de science-fiction Philip K.Dick publiait « Minority Report ». Il y dépeignait une société dystopique, régit par un ordre policier totalitaire, où une unité de police prédictive arrête les personnes avant qu’elles ne commettent leur crime dans le futur. Ces arrestations préventives sont réalisées à l’aide de mutants, «les précogs», qui posséderaient des dons de prescience en matière criminelle. Dans sa nouvelle, K. Dick y démonte la justice préventive, non sans un certain cynisme. Force est de constater que les savants fous de la tech’ essayent de dépasser la fiction.