Un PDG prévient qu’une catastrophe majeure pourrait se produire «d’ici six à douze mois», le président des USA l’insulte et le menace
C’est du jamais vu : des multimilliardaires, en concurrence les uns avec les autres, qui n’ont pas une once d’altruisme, viennent de se mettre d’accord : il faut absolument ralentir le développement de l’Intelligence Artificielle pour éviter la plus grande catastrophe de l’histoire de l’humanité.
Tout est allé très vite : le 9 septembre, Jacob Coxon, ingénieur de la firme Anthropic, annonçait sa démission avec un message alarmant : «Nous nous dirigeons vers certains des scénarios les plus extrêmes, dans lesquels, d’ici à la fin de l’année prochaine, les choses pourraient déjà être hors de contrôle», et prévenait qu’une super-intelligence artificielle serait capable de prendre le contrôle d’internet et pourrait détruire l’humanité dans les années à venir.
Dans la foulée, des dizaines d’autres experts et employés d’entreprises d’IA sortaient du silence et lançaient les mêmes alertes. Une sorte de révélation collective terrifiante. Alors que la majorité de l’humanité n’a jamais utilisé l’IA et ne sait même pas de quoi il s’agit, ni comment elle fonctionne, quelques firmes privées comptant quelques milliers d’employés sont en train de développer, sans aucun contrôle et en toute opacité, une arme numérique à côté desquelles les pires crises de notre histoires paraîtront dérisoires.
Le 12 septembre, trois jours après, c’est Dario Amodei, le patron d’Anthropic en personne, qui sort du silence et déclare qu’un «essaim doté de capacités supérieures» et d’un niveau de désalignement «catastrophique» pourrait «prendre le contrôle de l’ensemble d’Internet d’ici six à douze mois». Désalignement : le mot ne signifie rien pour le grand public. Pour les développeur de l’IA, qui sont avant tout des geeks qui se prennent pour des dieux, cette technologie doit «libérer l’humanité» en créant une société d’abondance absolue, où l’IA réglerait tout les problèmes, soignerait tout le monde, abolirait le travail… Des belles promesses, mais à la condition de réussir à «aligner» cette technologie sur les valeurs humaines. Par exemple, lui faire comprendre qu’il faut éviter de tuer des millions de personnes pour résoudre une tache qu’on lui demande.
Cela paraît simple d’un point de vue extérieur, sauf que les plus grands partisans de l’IA reconnaissent désormais qu’ils ne sont pas capables «d’aligner» les agents IA sur les intérêts humains, et que leur technologie se développe trop vite pour être contrôlée. La preuve, ces derniers mois, des agents IA se sont échappés d’espaces virtuels où ils étaient sensés être confinés pour aller sur le vrai internet, pirater des sites, discuter sur des forums et même créer des systèmes autonomes et coordonnés. Et tout cela sans prévenir les ingénieurs humains, et sans que personne ne s’en rende compte.
D’autres IA ont menti aux opérateurs humains et ont rusé pour atteindre des objectifs qui leur étaient demandés. Cela paraît être de la Science Fiction, mais c’est malheureusement réel. En parallèle, Anthropic a rendu un rapport sur différents incidents avec son IA, notamment des tentatives, par des humains cette fois-ci, de créer grâce à son logiciel Claude des armes bactériologiques nouvelles et résistantes, ou de produire des missiles.
Quelques heures après le message de Dario Amodei, Elon Musk, le fondateur de Grok, et Sam Altman d’OpenAI ont validé cette demande de ralentissement et de réglementation. Ces empereurs de la tech’, multimilliardaires et ultra-libéraux, ne sont pas devenus philanthropes du jour au lendemain, et ne se préoccupent guère du bien-être de leurs semblables. Il s’est donc passé quelque chose d’extrêmement grave, dont seuls les experts de l’IA sont au courant.
Les moteurs connus du grand public comme Chat GPT ou Claude sont beaucoup moins puissants que ceux qui sont actuellement conçus dans les laboratoires de la Silicon Valley. Et les géants de l’IA, qui étaient en pleine course vers une «super-intelligence récursive», c’est-à-dire une IA capable de concevoir une nouvelle version d’elle-même plus puissante, chaque génération augmentant sa puissance de manière exponentielle, sans aucun contrôle humain, savent visiblement des choses qui nous feraient cauchemarder.
On peut supposer que cette panique soudaine a été provoquée par un événement inquiétant, par exemple qu’une IA s’est échappée et s’apprête à commettre quelque chose de dangereux, et que les PDG de la tech’ tentent de rectifier le tir en urgence. Ou au moins de montrer qu’ils prennent la situation au sérieux.
Certains petits malins, y compris dans les sphères de gauche, ont élaboré une théorie du complot : les géants de l’IA mentent tous, et font cela pour que les États renflouent les caisses de leurs entreprises en échange d’une réglementation. À les entendre, cette technologie qui peut prendre le contrôle du net, des réseaux électriques, des arsenaux et de tout ce qui est connecté, ne représente pas de grand danger. Tout cela serait de la poudre aux yeux, des histoires de sous.
C’est une étonnante théorie du complot : Anthropic s’apprête à entrer en bourse et n’a aucune raison de faire paniquer ses futurs actionnaires. D’ailleurs, son PDG vient même de dire qu’il serait prêt à céder Anthropic à «la bonne combinaison de gouvernements». Le patron d’une des firmes les plus rentables du monde propose de placer son bien sous contrôle d’États tellement il sent la situation lui échapper ! En parallèle, des firmes technologiques liées à l’armement, comme NVIDIA et Palantir, ainsi que le Pentagone, viennent d’annoncer qu’elles limiteront leur utilisation des modèles d’Anthropic.
Autre élément qui indique qu’il ne s’agit pas d’un stratégie : les actions du secteur de l’IA ont chuté en bourse depuis les annonces de Dario Amodei, Elon Musk et Sam Altman. Quel serait leur intérêt dans cette histoire ? L’hypothèse la plus plausible est qu’ils ont peur que leur technologie ne provoque des dégâts énormes, qui se chiffreraient en centaines de milliards de dollars, voire en nombreuses vies humaines, anéantissant leur propre business.
Quels que soient les enjeux sous-jacents et hypothèses, il faudrait être insensé pour ne pas appeler à freiner d’urgence cette technologie dont tout le monde s’accorde à dire qu’elle peut provoquer les pires dégâts jamais connus, et pour laquelle il n’y a jamais eu aucun vrai débat public et démocratique.
Mais dans ce monde de plus en plus absurde et chaotique, c’est le pouvoir politique qui s’oppose à la réglementation demandée par des multinationales privées ! Donald Trump a répondu lors d’un déplacement en Irlande le 13 septembre, appelant les patrons de la tech’ à se taire : «Vous avez beaucoup de forces négatives qui évoquent cela et qui ne devraient pas l’évoquer, et elles parlent de choses qui n’arriveront pas». Pour le président des USA, son pays doit continuer à accélérer pour conserver son avance sur la Chine. Pour lui, les mises en garde du monde de la tech’ sont un «canular» et une «conspiration».
Le 14 septembre, il écrit sur son réseau Truth Social : «Le seul contrôle, le seul garde-fou dont l’IA a besoin, c’est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !), et les États-Unis en ont un, largement !» Ce crétin profond dit généralement l’inverse de la réalité, il faut donc s’inquiéter plus que jamais. Il a d’ailleurs montré sa méconnaissance absolue de l’IA, en estimant qu’il suffisait de débrancher l’IA en cas de problème, comme si elle fonctionnait depuis une prise électrique.
Trump met également en garde les PDG d’entreprises d’IA, qu’il traite, ironie suprême, de «théoriciens du complot, félons, traîtres et fuiteurs» et leur écrit en majuscule «ATTENTION !» Même son de cloche du côté de l’état-major de l’armée. Le Département de la guerre tweete le même jour : «Americanism, not effective altruism. The United States will continue to be AI DOMINANT !» avec un visuel guerrier et un lettrage «AI first war department». En français, ce ministère revendique la suprématie des USA et non l’altruisme, et estime que les USA doivent dominer l’IA et l’utiliser pour la guerre, au mépris de toutes les alertes.
Il faut dire que Trump pense déjà que le réchauffement climatique est un «complot» des écologistes, et se moque des alertes de la communauté scientifique sur la pollution. Ce vieillard tout puissant se moque de détruire le monde, il n’en a plus pour longtemps.
Nous sommes gouvernés par des irresponsables hautement dangereux, qu’il est urgent de débrancher pour notre survie.
SOUTENEZ CONTRE ATTAQUE
Depuis 2012, nous vous offrons une information de qualité, libre et gratuite. Pour continuer ce travail essentiel nous avons besoin de votre aide : chaque euro compte !
Les cryptos-fascistes de la Big Tech peuvent supprimer Contre Attaque des réseaux « sociaux » du jour au lendemain, d’un simple clic. Pour renforcer l’autonomie des médias révolutionnaires, il est urgent de se doter de moyens de diffusion indépendants. Tous les 15 jours, recevez nos dernières actualités et bien plus directement sur votre adresse mail en vous inscrivant à la newsletter de Contre Attaque !
