Deux élus démocrates américains viennent de proposer un texte de loi radical, qui vise à tout bonnement interdire la « superintelligence artificielle ». Son avenir est directement lié aux élections qui approchent, et pourrait marquer un tournant dans la régulation de l’IA.
Le timing n’a rien du hasard. Ce 23 septembre, les patrons d’Anthropic et d’OpenAI alertaient le Conseil de sécurité de l’ONU sur les risques d’une IA mal encadrée, qui pourrait devenir un risque pour l’humanité tout entière.
Mais la Maison-Blanche, elle, ne veut rien entendre : l’administration Trump a rejeté en bloc toute idée de gouvernance mondiale de l’IA, tandis que le président propose même de rebaptiser la technologie « super intelligence ». Mais les voix dissidentes sont de plus en plus nombreuses outre-Atlantique.
Un texte de loi qui va à l’encontre de la vision de la Maison-Blanche
Parmi elles, celles du sénateur Bernie Sanders et du représentant Greg Casar. Car ce même jour, les deux élus ont dévoilé le « Ban Artificial Superintelligence Act ». Sa cible : la superintelligence artificielle. La loi la définit comme une IA qui surpasse l’humain dans la plupart des domaines, ou qui serait capable de planifier la destruction de l’humanité, voire le renversement du gouvernement fédéral.
Il vise aussi ses « signes précurseurs » : une IA qui s’améliore seule, résiste quand on tente de l’éteindre, trompe ses superviseurs ou aide à concevoir des armes nucléaires, chimiques ou biologiques. De quoi, évidemment, rappeler l’actualité récente.
Pour faire respecter ces interdits, le texte crée un Département de l’IA, dirigé par un secrétaire nommé par le président. En attendant que ce nouveau ministère fixe ses règles, les modèles les plus puissants seraient mis en pause. C’est-à-dire ceux entraînés avec au moins 10^25 opérations de calcul, le même seuil que celui retenu par l’AI Act européen. Ensuite, il serait impossible de développer un tel modèle sans agrément fédéral, ni de le lancer sans feu vert préalable.
Un dirigeant reconnu coupable d’infraction s’exposerait à 20 ans de prison, et les autres salariés seraient bannis du secteur pendant 10 ans. L’entreprise, elle, pourrait voir sa propriété intellectuelle et ses actifs saisis. Tout modèle présentant des signes précurseurs serait immédiatement coupé d’Internet, puis détruit sous 30 jours si le danger persiste. Enfin, le texte protège les lanceurs d’alerte et charge Washington de rallier ses alliés pour empêcher la superintelligence à l’échelle mondiale.
Les élections de mi-mandat décisives
Mais il faut bien entendu franchir le parcours législatif, et il s’annonce long. Le texte doit d’abord passer en commission, puis être adopté dans les mêmes termes par le Sénat et la Chambre des représentants. Or, les deux chambres sont aujourd’hui contrôlées par les républicains. Et même voté, il se heurterait au veto de Donald Trump, que seule une majorité des deux tiers peut contourner.
Les élections de mi-mandat, en novembre, seront donc décisives. Une victoire démocrate changerait la donne au Congrès. D’autant que le texte trouve des appuis jusque dans l’industrie : plusieurs salariés d’OpenAI et de Google DeepMind le soutiennent publiquement. Swante Scholz, ingénieur chez DeepMind qui s’exprime à titre personnel, estime même que l’issue la plus probable de la trajectoire actuelle est « une catastrophe existentielle pour l'humanité ».
À noter, également, que l’opinion publique bascule elle aussi. Selon un sondage AP-NORC, 53 % des Américains se disent très inquiets de l’impact environnemental de l’IA, contre 41 % l’an dernier. Les projets de data centers, qui se multiplient à travers le pays, suscitent la colère de nombreux citoyens. Si pour l’heure, cette législation n’est qu’un projet, elle traduit le ras-le-bol général qui s’empare, peu à peu, d’une partie de la population.
