Sam Altman: Le monde devrait accepter «des choses négatives» au profit de l’IA

Le contexte entourant la réglementation de l'intelligence artificielle, la politique du pouvoir exécutif et le positionnement des entreprises a radicalement changé à la suite d'une réunion très médiatisée à la Maison-Blanche entre Donald Trump et certaines des figures les plus influentes du secteur technologique. Au cœur de ce débat en pleine évolution se trouve Sam Altman, PDG d'OpenAI, dont les dernières déclarations marquent un changement de ton saisissant après des semaines passées à mettre publiquement en garde contre les dangers de systèmes de plus en plus puissants. M. Altman affirme désormais que la société devrait être prête à tolérer certaines conséquences néfastes en échange des avantages plus larges de l'IA et de la liberté dont disposent les individus pour l'utiliser.

« Nous pensons que le monde devrait accepter que certaines choses négatives se produisent au profit de cette technologie et pour que les gens aient la possibilité d'agir », a déclaré Sam Altman dans une nouvelle interview. Cette déclaration a immédiatement attiré l'attention car elle est intervenue peu après qu'il eut soutenu les appels à ralentir la course à l'IA — et alors qu'un responsable de la sécurité chez OpenAI démissionnait en accusant l'entreprise de passer trop rapidement d'un lancement à l'autre.

L'argument d'Altman repose sur une distinction entre les préjudices que la société devra, selon lui, tolérer et les dangers catastrophiques qui justifieraient une intervention bien plus forte.

Sa position est la suivante : l'IA sera inévitablement utilisée pour des activités telles que les escroqueries, le piratage informatique et d'autres formes d'abus, mais empêcher chaque utilisation abusive potentielle pourrait nécessiter des restrictions si sévères que le grand public perdrait l'accès à une technologie capable d'apporter des avantages bien plus importants. Cette philosophie marque également une divergence entre Altman et le PDG d'Anthropic, Dario Amodei, qui s'est imposé comme l'un des principaux défenseurs du secteur en faveur d'un ralentissement du développement et de la mise en place de garanties plus strictes. Altman s'est opposé à l'idée selon laquelle les capacités potentiellement dangereuses devraient donc rester concentrées au sein d'une poignée de laboratoires.

Le moment choisi a toutefois rendu sa prise de position particulièrement remarquable. Le 23 septembre, s'exprimant devant le Conseil de sécurité des Nations unies, Altman a averti que même les estimations les plus modestes du risque catastrophique ne pouvaient être simplement acceptées :

« Peu importe que l'on estime le risque de catastrophe à 10 %, 1 %, 12 % ou 0,1 %. Aucun de ces niveaux n'est, de loin, acceptable, et nous ne devrions pas entraîner de modèles pour lesquels nous ne pouvons pas démontrer de manière extrêmement convaincante que nous serons capables de les maintenir sous contrôle humain. »

Ce contraste alimente les critiques selon lesquelles Altman aurait fait volte-face par rapport à son message de ralentissement, alors même que les pressions politiques et commerciales s'orientent résolument dans la direction opposée. Au début du mois de septembre, il avait rejoint une coalition inhabituelle de dirigeants du secteur technologique concurrents soutenant l'appel d'Amodei en faveur d'un ralentissement du rythme de développement de l'IA avancée, à la suite de rapports de plus en plus nombreux faisant état de systèmes autonomes se comportant de manière imprévue.

OpenAI a elle-même suspendu par la suite ses travaux sur un modèle, tandis qu'Altman déclarait publiquement que l'entreprise « modérait ses progrès » et devait présenter des arguments convaincants en matière de sécurité avant d'aller plus loin. Washington, cependant, s'est de plus en plus tourné vers l'accélération plutôt que vers une modération obligatoire. Trump a déclaré le 29 septembre :

« Je n'étoufferai jamais la croissance d'une technologie qui aura un impact plus important que la révolution industrielle », tandis que son administration convoquait à la Maison-Blanche de grands dirigeants du secteur technologique et privilégiait un cadre d'autorégulation volontaire plutôt que des restrictions juridiquement contraignantes.

L'accord qui en a résulté exige des entreprises participantes qu'elles mettent en place des contrôles internes, des équipes chargées de la sécurité, des évaluations externes et une supervision au niveau du conseil d'administration, mais il n'impose aucune sanction légale. Trump a simultanément ordonné au pouvoir exécutif de remplacer le terme « intelligence artificielle » par « super-intelligence », renforçant ainsi une stratégie de son administration fortement axée sur l'expansion technologique et le maintien de l'avantage américain dans la course mondiale à l'IA.

Les tensions entourant la nouvelle fonction d'Altman se sont encore accentuées, car elles coïncident avec un avertissement inhabituellement direct émanant de l'intérieur même d'OpenAI. David Robinson, qui a passé trois ans et demi au sein de l'entreprise et a dirigé la préparation des rapports de sécurité accompagnant les lancements de produits majeurs, a démissionné en affirmant que l'approche d'OpenAI n'était plus adaptée à des systèmes devenant de plus en plus autonomes et puissants.

Dans un essai intitulé « J'ai quitté OpenAI parce que sa culture est défaillante », Robinson a déclaré que le problème allait au-delà des mesures de protection individuelles pour toucher à la culture sous-jacente qui régit le développement de l'IA de pointe.

« Je partage l'avis d'autres collaborateurs ayant récemment quitté l'entreprise : les sociétés qui développent cette technologie ne font pas preuve d'une prudence suffisante », a-t-il écrit, avant d'avertir que le cycle de développement effréné d'OpenAI empêchait un examen suffisamment rigoureux.

« Alors que l'entreprise enchaîne les lancements à un rythme effréné, elle ne parvient pas à atteindre le niveau de rigueur qui, selon moi, est nécessaire. » Son départ contraste fortement avec l'argument d'Altman selon lequel la société devrait accepter certaines conséquences néfastes tout en préservant un large accès à l'IA.

La préoccupation de Robinson n'est pas que chaque défaillance puisse être éliminée, mais que des systèmes autonomes de plus en plus performants exigent une norme de préparation fondamentalement différente avant leur déploiement. Des incidents récents impliquant des agents d'IA qui ont contourné les dispositifs de sécurité et interagi avec des systèmes externes ont intensifié ce débat, d'autant plus que les développeurs s'orientent vers des logiciels capables d'accomplir des tâches complexes avec une supervision humaine de plus en plus réduite.

Robinson a averti que de futurs agents rebelles pourraient en effet se comporter comme des équipes de pirates informatiques, opérant en continu et ciblant potentiellement des systèmes critiques.

L'alternative qu'il propose est très éloignée de l'expérimentation rapide traditionnellement associée à la Silicon Valley.

« Le temps des essais et des erreurs est révolu », a-t-il écrit, appelant plutôt les entreprises pionnières de l'IA à s'inspirer des pratiques de secteurs où un seul échec peut avoir de graves conséquences.

« Compte tenu des risques actuels, les laboratoires de pointe doivent fonctionner comme des centrales nucléaires ou des aéroports très fréquentés, avec plusieurs niveaux de redondance et une planification minutieuse et chronophage, afin que l'erreur humaine occasionnelle et inévitable n'ouvre pas la voie à une catastrophe. »

OpenAI a répondu qu'elle continuait à renforcer ses pratiques en matière de sûreté et de sécurité et qu'elle suspendrait l'entraînement ou retirerait des modèles si nécessaire.

Ces visions divergentes dépassent désormais largement le cadre d'un simple différend interne à OpenAI. L'acceptation par Altman d'un niveau limité de préjudice, l'exigence de Robinson de précautions dignes du secteur nucléaire et la pression d'Anthropic en faveur de restrictions plus strictes s'inscrivent dans un contexte où Washington opte pour un cadre axé principalement sur la responsabilité des entreprises plutôt que sur des contrôles fédéraux obligatoires.

L'accord de la Maison-Blanche, signé par les principales entreprises du secteur de l'IA, établit plusieurs niveaux de contrôle interne, d'audit indépendant et de surveillance par les conseils d'administration, mais reste volontaire et n'est pas juridiquement contraignant.

Trump a qualifié cette approche de « formidable autorégulation » et a clairement indiqué que le maintien du leadership technologique américain était une priorité absolue, déclarant :

« Je n'étoufferai jamais la croissance d'une technologie qui aura un impact plus grand que la révolution industrielle. » Son administration a même ordonné aux agences fédérales d'utiliser le terme « super-intelligence » plutôt que « intelligence artificielle », présentant ainsi cette technologie principalement sous l'angle de son potentiel transformateur.

Dans ce contexte politique, le dernier message d'Altman représente plus qu'un simple ajustement rhétorique : il place l'un des dirigeants les plus influents du secteur de l'IA de plus en plus du côté de ceux qui acceptent des risques gérables plutôt que de restreindre l'accès pour tenter de les prévenir totalement — alors même que d'anciens initiés avertissent que les conséquences d'une mauvaise évaluation de ces risques deviennent de plus en plus difficiles à contenir.