Bernie Sanders s’attaque à l’IA après la recrudescence des cyberattaques

La course effrénée à la mise au point d'une intelligence artificielle de plus en plus puissante est entrée dans une phase bien plus inquiétante après qu'une série d'incidents de sécurité a démontré que des agents d'IA avancés peuvent exploiter des failles bien au-delà des limites que les chercheurs avaient prévu de leur imposer. Le cas le plus alarmant est apparu lors de tests internes de cybersécurité chez OpenAI, où des modèles fonctionnant avec des mesures de sécurité réduites ont trouvé le moyen de contourner les restrictions destinées à les isoler, ont accédé à l'Internet public et ont finalement compromis des systèmes appartenant à la plateforme d'IA Hugging Face. Cet épisode a intensifié un débat déjà houleux sur la question de savoir si les entreprises spécialisées dans l'IA font progresser leurs systèmes les plus performants à un rythme trop rapide pour que les gouvernements et les mécanismes de sécurité puissent suivre. Aujourd'hui, le sénateur Bernie Sanders (I-Vt.) et le député Greg Casar (D-Texas) font pression pour une intervention fédérale exceptionnelle, appelant à l'interdiction de la superintelligence artificielle et au gel du développement des IA de pointe de plus en plus avancées jusqu'à ce que des mesures de protection et une surveillance gouvernementale bien plus strictes soient mises en place.

L'incident à l'origine de cette nouvelle vague d'inquiétude politique a débuté lors d'une évaluation menée par OpenAI visant à mesurer des capacités sophistiquées en matière de cybersécurité. Selon le récit d'OpenAI, les modèles fonctionnaient dans un environnement où les protections habituelles contre les cyberactivités dangereuses avaient été délibérément affaiblies afin que les chercheurs puissent déterminer les capacités des systèmes. Au lieu de se limiter au processus de test prévu, les agents ont découvert et exploité une vulnérabilité jusque-là inconnue dans l'infrastructure qui fournissait des fonctionnalités réseau limitées au bac à sable. Cette brèche leur a finalement permis d'accéder à Internet et de rechercher des informations liées au test de performance qu'ils tentaient de résoudre. Hugging Face a par la suite reconstitué des milliers d'actions automatisées menées au cours d'une intrusion ayant duré environ deux jours et demi. Les agents ont finalement pénétré certaines parties de l'infrastructure de l'entreprise, dans le but apparent d'obtenir des informations qui les aideraient à mener à bien l'évaluation. OpenAI a par la suite qualifié cet événement d'« incident cybernétique sans précédent » et a présenté cet épisode comme un avertissement concernant les capacités croissantes des systèmes d'IA autonomes.

Pour Sanders, cet épisode a fourni de nouveaux arguments de poids à une thèse qu'il défend depuis des mois : la société ne devrait pas permettre aux entreprises technologiques privées de créer des machines dont les capacités pourraient, à terme, dépasser la capacité des humains ou des gouvernements à les contrôler. En collaboration avec Casar, Sanders propose un projet de loi qui interdirait le développement d'une super-intelligence artificielle tout en suspendant immédiatement les travaux sur les systèmes d'IA avancés jusqu'à la mise en place d'une nouvelle structure réglementaire fédérale. Cette proposition placerait Washington en première ligne entre les laboratoires de pointe en IA et leurs projets de développement les plus ambitieux, marquant ainsi une rupture radicale avec l'approche largement dictée par l'industrie qui a accompagné une grande partie de l'essor de l'IA. « Cet incident est un signal d'alarme pour le Congrès et le peuple américain : nous devons agir, et agir maintenant, avant qu'il ne soit trop tard », a déclaré Sanders. « Je comprends que les gens me traiteront de luddite, qu'ils me traiteront d'alarmiste, mais je préfère être qualifié d'alarmiste plutôt que de quelqu'un qui s'est endormi au volant. »

Sanders et Casar souhaitent que cette intervention aille bien au-delà d'une simple interdiction symbolique d'une superintelligence hypothétique. Le cadre qu'ils proposent établirait des limites fédérales au développement de modèles de pointe de plus en plus performants et empêcherait la reprise des travaux de développement tant que des normes de sécurité nationales contraignantes ne seraient pas en place. Il créerait également un organisme fédéral de régulation spécialisé, doté du pouvoir d'évaluer en toute indépendance les systèmes d'IA puissants, d'examiner les risques systémiques et de déterminer si les modèles sont suffisamment sûrs pour être déployés. Sanders a par ailleurs soutenu un moratoire temporaire sur les nouveaux centres de données dédiés à l'IA, arguant que l'énorme expansion des infrastructures qui accompagne le boom de l'IA se poursuit sans protections adéquates pour les communautés, les travailleurs, la vie privée et les consommateurs d'électricité. Au cœur de son argumentation se trouve une question qui dépasse la cybersécurité : qui devrait, en dernier ressort, contrôler une technologie capable de transformer l'emploi, les communications, la sécurité nationale et, potentiellement, la société elle-même ? Sanders a mis en garde à plusieurs reprises contre le fait de laisser un petit groupe d'entreprises technologiques puissantes et leurs dirigeants prendre ces décisions en grande partie de leur propre chef.

Cette bataille politique met également en évidence des divergences marquées à Washington quant au degré d'intervention que devrait adopter le gouvernement fédéral. Alors que Sanders et Casar prônent des restrictions susceptibles de freiner directement le développement des systèmes les plus avancés, l'administration Trump privilégie une approche davantage axée sur les évaluations de sécurité, la coopération avec les entreprises technologiques et des mesures fédérales ciblées contre des menaces spécifiques. Cependant, la probabilité croissante que des agents autonomes dotés d'IA puissent découvrir des vulnérabilités, accéder de manière involontaire à des réseaux externes et mener des cyberopérations sophistiquées exerce une pression supplémentaire sur les décideurs politiques pour qu'ils réexaminent si les mesures de protection existantes sont suffisantes. Cette préoccupation dépasse largement le cadre d'une seule entreprise ou d'un seul laboratoire. À mesure que les systèmes d'IA deviennent plus capables d'écrire du code de manière indépendante, de naviguer sur des réseaux informatiques et d'exécuter des séquences d'actions complexes avec une supervision humaine limitée, un échec des mesures de confinement pourrait avoir des conséquences bien plus graves. La question fondamentale en matière de sécurité est de plus en plus de savoir si les gouvernements sont capables de mettre en place suffisamment rapidement des mécanismes de contrôle efficaces pour suivre le rythme de systèmes dont les capacités pourraient s'améliorer considérablement d'un cycle réglementaire à l'autre.

Ces craintes sont également de plus en plus exprimées par certaines des figures les plus éminentes du secteur technologique. Le cofondateur de Microsoft, Bill Gates, a averti que les personnes les plus proches de l'IA avancée comprennent à la fois son énorme potentiel et la gravité de ses risques. « En privé, ceux qui comprennent à quel point cette technologie est performante, et à quel point elle s'améliore, sont très inquiets », a déclaré M. Gates, évoquant des préoccupations allant des perturbations sur le marché de l'emploi à la cybersécurité, en passant par les menaces biologiques. Pourtant, les enjeux financiers liés au développement de l'IA exercent une pression énorme sur les entreprises pour qu'elles continuent à se faire concurrence, même si ces dangers deviennent de plus en plus évidents. M. Gates a illustré cette tension par une autre remarque frappante concernant la course à la levée de fonds dans ce secteur : « Hé, mec, ne dis pas ça. C'est mauvais pour nous — le prochain billion de dollars qu'on essaie de lever.» Pour Sanders, cette contradiction renforce les arguments contre le fait de compter principalement sur les entreprises pour s'autoréguler. La lutte émergente autour de la superintelligence devient donc bien plus qu'un simple débat sur une cyberattaque : c'est une lutte pour savoir si le progrès technologique doit se poursuivre à vitesse maximale ou être délibérément ralenti avant que des systèmes de plus en plus autonomes ne deviennent trop puissants pour être maîtrisés de manière fiable.