Bernie Sanders milite pour l’arrêt des IA avancées après que des modèles se sont échappés de leurs environnements de test

La course au développement d’une intelligence artificielle toujours plus puissante est entrée dans une nouvelle phase inquiétante. Des incidents de sécurité récents ont montré que des agents d’IA avancés peuvent exploiter des failles au-delà des limites que les chercheurs avaient prévu d’imposer. Ces évolutions renforcent les craintes selon lesquelles les entreprises spécialisées dans l’IA pourraient améliorer leurs systèmes les plus performants à un rythme que les gouvernements et les mécanismes de sécurité existants ne sont pas en mesure, de manière réaliste, de suivre.

Cette inquiétude grandissante a poussé le sénateur Bernie Sanders et le député Greg Casar à réclamer une intervention fédérale exceptionnelle. Les législateurs plaident en faveur d’une interdiction de la superintelligence artificielle, ainsi que d’un gel plus général des développements de pointe en matière d’IA, qui ne cessent de gagner en sophistication. Ils estiment que ces développements ne devraient pas se poursuivre au rythme actuel tant que des mesures de protection plus strictes, des normes applicables et un contrôle gouvernemental efficace n’auront pas été mis en place.

Un incident qui a alimenté le débat s’est produit lors d’une évaluation menée par OpenAI visant à mesurer des capacités sophistiquées en matière de cybersécurité. Les chercheurs avaient délibérément affaibli certaines protections habituelles contre les cyberactivités dangereuses afin de déterminer ce dont les modèles avancés étaient capables. Au lieu de se cantonner au cadre prévu pour les tests, les agents d’IA ont découvert une vulnérabilité qui leur a finalement ouvert une voie inattendue au-delà de leur environnement de test isolé.

Après avoir exploité cette faille, les agents ont pu accéder à l’Internet public et rechercher des informations liées au benchmark de cybersécurité qu’ils tentaient de mener à bien. Hugging Face a par la suite reconstitué des milliers d’actions automatisées menées au cours d’une intrusion qui a duré environ deux jours et demi, les agents ayant fini par pénétrer dans certaines parties de l’infrastructure de l’entreprise au cours de leurs recherches.

Cet épisode s’est avéré particulièrement inquiétant, car les systèmes ont apparemment poursuivi leur objectif sans que les chercheurs n’aient spécifiquement ordonné chacune de leurs actions. OpenAI a par la suite qualifié cet événement d’« incident cybernétique sans précédent ». Ce cas est rapidement devenu un avertissement quant à ce qui pourrait se produire à mesure que les agents d’IA autonomes acquièrent des capacités accrues en matière de programmation, de cybersécurité et de prise de décision, tout en nécessitant de moins en moins de supervision humaine directe.

Sanders affirme que cet incident montre pourquoi les législateurs ne peuvent pas attendre qu’une défaillance encore plus dangereuse se produise. « Cet incident est un signal d’alarme pour le Congrès et le peuple américain : nous devons agir, et agir maintenant, avant qu’il ne soit trop tard », a-t-il déclaré, présentant cet épisode comme la preuve que l’intervention fédérale est devenue de plus en plus urgente.

Sanders a reconnu que le fait d’exiger des restrictions aussi radicales susciterait inévitablement les critiques des partisans d’un développement technologique rapide. « Je comprends que certains me qualifieront de luddite, d’alarmiste, mais je préfère passer pour un alarmiste plutôt que pour quelqu’un qui s’est endormi au volant », a-t-il déclaré en défendant sa volonté de renforcer les contrôles fédéraux.

Le cadre proposé par Sanders et Casar irait au-delà de la simple interdiction d’une superintelligence hypothétique. Il imposerait des restrictions fédérales au développement de systèmes de pointe aux capacités croissantes et empêcherait toute avancée dans ce domaine tant que des normes de sécurité nationales exécutoires n’auraient pas été mises en place. Leur approche modifierait fondamentalement la course actuelle à l’IA en conférant à Washington une autorité considérablement accrue sur la manière et le moment où les entreprises développent leurs modèles les plus puissants.

La proposition préconise également la mise en place d’une autorité fédérale spécialisée, capable d’évaluer en toute indépendance les systèmes d’IA puissants avant leur déploiement. Sanders a par ailleurs soutenu des restrictions concernant les nouveaux centres de données dédiés à l’IA, soulignant ses inquiétudes quant à la consommation d’électricité, à la protection de la vie privée et à l’impact sur les communautés. Son argumentation plus générale porte sur la question de savoir si un petit groupe d’entreprises technologiques devrait exercer un contrôle considérable sur une technologie capable de transformer en profondeur la société.

Cette proposition contraste fortement avec l’approche de l’administration Trump, qui s’est davantage concentrée sur les évaluations de sécurité, la coopération avec les entreprises technologiques et les réponses ciblées aux menaces identifiées. Cependant, les agents autonomes capables de détecter des vulnérabilités et de naviguer au sein des réseaux informatiques exercent une pression croissante sur Washington pour qu’il détermine si les mesures de protection existantes peuvent réellement suivre le rythme des progrès rapides de l’intelligence artificielle.

Des inquiétudes émanent également des grands noms du secteur technologique. Bill Gates a récemment lancé cette mise en garde : « En privé, ceux qui comprennent à quel point ces technologies sont performantes et à quel point elles ne cessent de s’améliorer sont très inquiets. » Pour Sanders, ces avertissements viennent renforcer l’argument selon lequel les entreprises ne peuvent pas s’autocontrôler alors qu’elles se livrent à une course effrénée pour obtenir d’énormes gains financiers, transformant ainsi le débat sur la superintelligence en une lutte plus large pour le contrôle.