Sam Altman revient sur sa position concernant les risques liés à l’IA et affirme que le monde doit accepter «certaines choses négatives»

Le contexte entourant la réglementation de l’intelligence artificielle et le positionnement des entreprises a radicalement changé à la suite d’une réunion très médiatisée à la Maison Blanche entre Donald Trump et certains des dirigeants les plus influents du secteur technologique. Au cœur de ce débat en pleine évolution se trouve Sam Altman, PDG d’OpenAI, dont les dernières déclarations marquent un changement de ton saisissant après des semaines d’avertissements concernant des systèmes d’IA de plus en plus puissants.

Altman soutient désormais que la société devrait tolérer certaines conséquences négatives en échange des avantages plus larges offerts par l’IA et de la liberté dont disposent les individus pour utiliser cette technologie. « Nous pensons que le monde devrait accepter que certaines choses négatives se produisent au profit de cette technologie et pour que les gens puissent agir en toute autonomie », a déclaré Altman, attirant immédiatement l’attention sur l’évolution de son approche vis-à-vis des risques liés à l’IA.

L’argument d’Altman établit une distinction entre les préjudices que la société pourrait devoir tolérer et les dangers catastrophiques nécessitant une intervention plus forte. Selon lui, l’IA favorisera inévitablement les escroqueries, le piratage informatique et d’autres abus, mais tenter d’éliminer chaque utilisation abusive pourrait nécessiter des restrictions qui priveraient les citoyens lambda des avantages de cette technologie. Il soutient que les avantages sociétaux globaux de l’IA pourraient, en fin de compte, l’emporter sur ces conséquences négatives plus localisées.

Cette philosophie éloigne de plus en plus Altman du PDG d’Anthropic, Dario Amodei, qui est devenu un fervent défenseur du renforcement des mesures de sécurité et d’un ralentissement du développement de systèmes aux capacités toujours plus poussées. Altman s’est opposé à l’idée selon laquelle les capacités dangereuses devraient rester concentrées au sein d’un petit nombre de laboratoires, plaidant au contraire en faveur d’un accès plus large et d’une plus grande autonomie individuelle face aux technologies émergentes.

Le moment choisi est particulièrement remarquable, car Altman avait récemment tenu des propos nettement plus prudents. S’adressant au Conseil de sécurité des Nations unies le 23 septembre, il avait lancé cette mise en garde : « Peu importe que l’on estime le risque de catastrophe à 10 %, 1 %, 12 % ou 0,1 %. Aucun de ces niveaux n’est, loin s’en faut, acceptable », soulignant ainsi l’importance de préserver le contrôle humain.

Ce contraste a alimenté les critiques selon lesquelles Altman s’éloignerait du message prônant un ralentissement, alors que les pressions commerciales et politiques favorisent de plus en plus une accélération. Début septembre, il s’était joint à d’autres dirigeants du secteur technologique pour soutenir l’appel lancé par Amodei en faveur d’un ralentissement du développement de l’IA avancée. OpenAI a par la suite suspendu ses travaux sur un modèle, tandis qu’Altman a déclaré que l’entreprise « modérait ses progrès » tout en évaluant les préoccupations en matière de sécurité.

Washington, quant à lui, s’est orienté vers des mesures de protection émanant du secteur privé plutôt que vers des restrictions obligatoires. Trump a déclaré : « Je n’étoufferai jamais la croissance d’une technologie qui aura un impact plus important que la révolution industrielle. » Son administration a réuni à la Maison Blanche les dirigeants des grandes entreprises technologiques et a encouragé des engagements volontaires portant sur des contrôles internes, des comités de sécurité, des évaluations indépendantes et une surveillance par les conseils d’administration, plutôt que sur des sanctions fédérales juridiquement contraignantes.

La polémique s’est intensifiée lorsque David Robinson, qui a passé trois ans et demi chez OpenAI et a contribué à superviser les rapports de sécurité liés aux principales versions, a démissionné en dressant un bilan sans concession des pratiques de l’entreprise. Dans un essai intitulé « J’ai quitté OpenAI parce que sa culture est défaillante », Robinson a fait valoir que les entreprises pionnières dans le domaine de l’IA ne font pas preuve d’une prudence suffisante alors que leurs systèmes gagnent de plus en plus en autonomie.

Robinson a directement remis en cause la rapidité avec laquelle OpenAI développe et commercialise de nouvelles technologies. « Alors que l’entreprise enchaîne les lancements à un rythme effréné, elle ne parvient pas à faire preuve de la prudence qui, selon moi, s’impose », a-t-il écrit. Son avertissement contraste fortement avec l’argument d’Altman selon lequel certaines conséquences néfastes pourraient être acceptables en échange d’avantages technologiques plus larges.

Plutôt que de s’en remettre à la méthode des essais et des erreurs, Robinson a fait valoir que le développement de l’IA de pointe devrait s’inspirer des secteurs où les défaillances peuvent avoir des conséquences graves. « Compte tenu des risques actuels, les laboratoires de pointe doivent fonctionner comme des centrales nucléaires ou des aéroports très fréquentés, avec plusieurs niveaux de redondance et une planification minutieuse et chronophage, afin que les erreurs humaines occasionnelles et inévitables n’ouvrent pas la voie à une catastrophe. »

Le désaccord dépasse désormais le cadre d’OpenAI. La volonté d’Altman d’accepter des risques limités, l’exigence de Robinson de mesures de précaution dignes du domaine nucléaire et les appels d’Anthropic en faveur de restrictions plus strictes se heurtent à la préférence de Washington pour l’autorégulation du secteur. Alors que des systèmes de plus en plus autonomes se rapprochent d’un déploiement à grande échelle, la question centrale est de savoir si la société doit tolérer des défaillances inévitables au nom des avantages de l’IA — ou les prévenir par des restrictions plus strictes avant qu’elles ne se produisent.