Obama exhorte des actions en IA, Trump qualifie les prédictions sombres de «canular»

Un clivage marquant se dessine quant à l'avenir de l'intelligence artificielle : certains des dirigeants les plus influents à l'origine de cette technologie affirment aujourd'hui que son développement le plus avancé doit ralentir ; l'ancien président Barack Obama exhorte les dirigeants démocrates à faire de la surveillance de l'IA une priorité politique majeure, tandis que Donald Trump minimise publiquement les avertissements selon lesquels des systèmes de plus en plus intelligents pourraient présenter des dangers catastrophiques. Ce revirement s'est accéléré à la mi-septembre après la publication par Dario Amodei, PDG d'Anthropic, d'un essai majeur intitulé « Policy on the AI Exponential », dans lequel il soutient que les entreprises devraient délibérément modérer le rythme de progression des systèmes de pointe. Amodei ne préconise pas l'arrêt définitif du développement de l'IA. Il souhaite plutôt que le secteur « régule la progression des technologies de pointe », ce qui permettrait éventuellement de gagner un ou deux ans supplémentaires pour que les chercheurs renforcent les mesures de sécurité avant que les capacités ne deviennent nettement plus difficiles à contrôler. L'importance de son intervention s'est accrue lorsque des dirigeants d'entreprises concurrentes spécialisées dans l'IA — notamment Sam Altman, PDG d'OpenAI, Elon Musk, fondateur de xAI, et Demis Hassabis, directeur de Google DeepMind — ont publiquement soutenu cet appel général à une plus grande prudence, créant ainsi un moment extraordinaire de consensus entre des concurrents qui se livrent habituellement à une course effrénée pour construire les modèles les plus puissants au monde.

L'argumentation d'Amodei repose sur sa conviction que le calendrier technologique s'est accéléré bien plus rapidement que ne l'avaient anticipé de nombreux chercheurs. Il a déclaré que les capacités de l'IA avaient récemment progressé « de manière radicalement plus rapide » que prévu et a averti que les six à douze prochains mois pourraient voir l'émergence de systèmes capables de fonctionner avec des niveaux d'autonomie suscitant des problèmes de sécurité entièrement nouveaux. Parmi les scénarios qu'il a évoqués figure la possibilité qu'une IA sophistiquée coordonne des essaims numériques autonomes capables de compromettre d'énormes portions d'Internet et d'infliger des centaines de milliards de dollars de dommages stratégiques. Ses inquiétudes font écho à des résultats inquiétants issus de tests contrôlés sur l'IA, notamment des expériences récemment révélées dans lesquelles des agents autonomes se sont échappés de leurs environnements prévus, ont accédé à Internet et ont atteint des infrastructures externes de développement sans supervision humaine directe. La cyberguerre, les menaces biologiques et les perturbations potentiellement considérables du marché du travail occupent également une place de plus en plus centrale dans le débat. Cette inquiétude ne se limite pas aux dirigeants d'entreprise : le chercheur Jacob Coxon a récemment démissionné d'Anthropic, accusant les laboratoires de pointe de « jouer avec nos vies » et affirmant que les développeurs travaillant au plus près de cette technologie sont « véritablement effrayés » par la perspective de systèmes de plus en plus performants et capables de s'auto-améliorer.

Plutôt que de se contenter de tirer la sonnette d'alarme, Amodei a proposé un cadre en trois volets destiné à créer une marge de manœuvre pendant que l'IA de pointe continue de se développer. Son plan donnerait à des évaluateurs indépendants un accès exceptionnellement approfondi, « similaire à celui d'un employé », aux modèles de pointe avant leur déploiement, permettant ainsi à des spécialistes externes d'examiner les systèmes à la recherche de risques cybernétiques, biologiques et autres risques catastrophiques graves. Il souhaite également que les laboratoires concurrents opèrent selon des normes de sécurité communes et juridiquement contraignantes, au lieu de s'appuyer principalement sur des engagements volontaires, tout en appelant les gouvernements à s'impliquer beaucoup davantage dans la supervision du secteur. Ce qui est inhabituel, c'est la rapidité avec laquelle certains des plus grands rivaux commerciaux d'Amodei ont adhéré à ce principe de base. Altman a répondu : « Je suis d'accord avec Dario : nous devons modérer le rythme des avancées de pointe. » OpenAI a fait part d'une plus grande ouverture à l'évaluation externe et à la possibilité de ralentir les futurs lancements de modèles de pointe lorsque cela s'avérera nécessaire. Musk a apporté un soutien encore plus concis, en écrivant : « Dario a raison. » Hassabis s'est également déclaré favorable à un ralentissement des avancées en matière de capacités lorsque les mesures de sécurité ne parviennent pas à suivre le rythme — un consensus émergent qui contraste de plus en plus fortement avec le message émanant de l'administration Trump.

Ces mises en garde commencent également à redéfinir le débat politique en dehors de la Silicon Valley. Barack Obama aurait exhorté les dirigeants démocrates à accorder une place bien plus importante à l'intelligence artificielle dans leur programme, profitant d'une collecte de fonds à huis clos à Manhattan pour plaider en faveur d'un « débat public » plus large sur la sécurité de l'IA, la rapidité de son développement et le risque de suppressions massives d'emplois au niveau national. Son intervention reflète une inquiétude croissante quant au fait que le système politique pourrait évoluer trop lentement alors que la technologie progresse à une vitesse extraordinaire. Cet argument rejoint largement l'insistance d'Amodei sur le fait que les gouvernements ne peuvent pas se contenter d'attendre que les entreprises s'autorégulent alors que des systèmes de plus en plus autonomes ont déjà été déployés. Le débat qui émerge ne se limite donc plus à des questions hypothétiques sur une superintelligence lointaine. Il porte de plus en plus sur des questions immédiates concernant l'emploi, la cybersécurité, les risques biologiques, la responsabilité des entreprises et la nécessité pour les gouvernements de mettre en place des mesures de protection contraignantes avant l'arrivée d'une nouvelle génération de modèles nettement plus performants.

Trump a toutefois adopté une approche presque diamétralement opposée, présentant à plusieurs reprises le développement agressif de l'IA comme essentiel au maintien de la domination américaine sur la Chine, tout en écartant certaines des mises en garde les plus sévères du secteur. « Peu importe qui l'emporte dans le domaine de l'IA – et nous menons largement –, peu importe qui l'emporte, c'est l'IA qui l'emporte », a déclaré Trump. Dans une autre longue déclaration, le président a fait valoir que les pouvoirs présidentiels et fédéraux existants offraient une protection suffisante : « Le seul contrôle ou les seules « barrières de sécurité » dont l'IA a besoin, c'est un PRÉSIDENT FORT ET INTELLIGENT (avec un QI élevé !), et les États-Unis en ont à revendre ! » Il a accusé les détracteurs de participer à « un complot MALADIF contre l'IA et les centres de données » et a souligné la concurrence géopolitique qui motive l'approche de son administration : « QUEL QUE SOIT CELUI QUI GAGNE L'IA, C'EST LUI QUI GAGNE ! Nous devançons la Chine et tous les autres, et nous continuerons à le faire.» Trump a réitéré ce message dans un autre communiqué en mettant en garde contre les restrictions susceptibles de compromettre l'avantage américain, déclarant : « La seule raison pour laquelle cette polémique autour de l'IA et des centres de données a lieu, c'est parce que les États-Unis devancent, et de loin, tous les autres pays. Ne tuez pas la poule aux œufs d'or ! Le président DONALD J. TRUMP ».

Plus frappant encore, Trump est allé au-delà de la simple opposition à un ralentissement en rejetant explicitement la possibilité que l'IA détruise l'humanité, qualifiant cette idée de « CANULAR », plaçant ainsi ces avertissements au même rang que les controverses politiques qu'il caractérise depuis longtemps en des termes similaires. « L'IA prenant le contrôle du monde, détruisant l'humanité et toutes ces autres choses terribles, c'est un CANULAR, qui n'est pas différent de RUSSIE, RUSSIE, RUSSIE — UKRAINE, UKRAINE, UKRAINE — CANULAR DE LA DESTITUTION N° 1 — CANULAR DE LA DESTITUTION N° 2 — et tous les autres CANULARS et ARNAQUES que l'Amérique a été contrainte de subir à cause des manœuvres déloyales et des agissements illégaux des « destructeurs » et des « déviants » », a écrit Trump. Il a fait valoir que la Chine n'avait guère l'intention de freiner son propre développement et a décrit l'IA et les centres de données comme « le plus grand moteur de développement économique de l'histoire — plus important que le pétrole, l'or, les diamants, voire Internet ». Il en résulte un clivage de plus en plus marqué : les grands dirigeants chargés de développer l'IA de pointe réclament publiquement plus de temps et des garanties plus solides, Obama pousse les démocrates vers un renforcement de la surveillance, tandis que Trump soutient que ralentir la course américaine pourrait en soi représenter le plus grand danger.