Les modèles IA doivent être régulés au niveau international, ont plaidé Sam Altman et Dario Amodei devant le Conseil de sécurité de l’ONU, en marge de la semaine de l’Assemblée générale annuelle des Nations-Unies. Plusieurs dirigeants soutiennent la création d’un cadre commun, Washington et Pékin restent réticents. Faute d’accord politique, les principaux acteurs américains préparent déjà leur propre organisme de normalisation.

« L’IA pourrait constituer une menace pour l’humanité tout entière », a affirmé Dario Amodei devant le Conseil de sécurité de l’ONU ce mercredi 23 septembre. Le patron d’Anthropic, toujours aussi fervent adepte du marketing de la peur, n’était pas seul à alerter sur les risques d’une technologie qu’il contribue à développer à toute allure.

Son rival Sam Altman a également pris la parole pendant cette réunion, organisée à l’initiative de la France, qui avait pour thème : « Comment éviter de perdre le contrôle des technologies les plus puissantes ? » Une question sur toutes les lèvres depuis l’appel d’Amodei à ralentir le rythme des améliorations des capacités des modèles IA de pointe.

• Les patrons de l’IA appellent à lever le pied, leurs dépenses disent l’inverse

Altman et Amodei réclament des règles communes

« Nous pourrions perdre, au profit de l’IA, la maîtrise de notre avenir », a affirmé le directeur général d’OpenAI. « Le risque est qu’elle progresse si rapidement que les humains ne puissent plus suivre ce qui se passe ni intervenir lorsque cela est nécessaire. Ce serait évidemment terrible. » La solution, selon les deux dirigeants ? Une instance internationale capable d’édicter des standards sur l’IA.

Pour Altman, si l’IA doit être démocratique, alors « les décisions les plus importantes ne peuvent être prises par les seuls laboratoires de San Francisco. Elles doivent être façonnées par des processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent. » Il propose une coopération au niveau international, malgré l’animosité qui peut exister entre les pays : « [ils] ont parfois su s’unir au nom d’intérêts communs et du bien collectif face à l’émergence d’une nouvelle technologie puissante ».

Dario Amodei a mis sur la table trois propositions. D’abord, des « accords mondiaux ciblés » comme l’interdiction d’utiliser l’IA pour fabriquer des armes biologiques. Ensuite, les États devraient disposer de mécanismes d’évaluation et de vérification pour vérifier le respect mutuel de leurs engagements. Enfin, il faudrait des normes internationales communes pour tester les modèles IA, avec un dispositif de signalement des incidents de sécurité.

Des propositions qui rejoignent celles de Sam Altman, qui parle de normes pour mesurer les capacités des modèles de pointe et en évaluer les risques, de procédures pour signaler rapidement les incidents, de protocoles de classification, et de canaux sécurisés entre États et opérateurs d’infrastructures critiques pour échanger des informations sur les vulnérabilités et les menaces. « Le monde [doit pouvoir] tirer les leçons de ces défaillances avant qu’elles ne se transforment en catastrophes », affirme-t-il.

• L’hallucination d’une IA a failli provoquer un affrontement entre les États-Unis et la Chine

Il est aussi impératif, selon lui, de « maintenir un contrôle humain effectif à mesure que ces systèmes gagnent en autonomie. »

Washington peu pressé d’agir

D’un côté, la Maison-Blanche de Donald Trump réfute toute nécessité de ralentir sur l’IA, une position partagée par Jensen Huang (NVIDIA) et Mark Zuckerberg (Meta). Elon Musk, qui avait dans un premier temps tweeté « Dario a raison », a depuis proposé que les entreprises américaines et chinoises puissent évaluer mutuellement leurs modèles. Au vu de la concurrence acharnée que se mènent les acteurs du secteur, cette perspective paraît peu probable.

• Anthropic, OpenAI et Elon Musk veulent ralentir sur l’IA, la Maison-Blanche dit non

La Chine a une position ambiguë sur le sujet : le président Xi Jinping s’était prononcé en faveur d’une gouvernance mondiale de l’IA tout en soutenant le développement de modèles à poids ouverts dont les usages deviennent beaucoup plus difficiles à contrôler une fois qu’ils sont diffusés.

D’autres pays sont plus réceptifs à la proposition d’une structure contrôlant l’IA de pointe. L’idée fait son chemin, notamment en Europe et au Canada. Lors d’un déplacement à Saint-Pierre-et-Miquelon, confetti français au large du Canada, Emmanuel Macron s’est entretenu avec le premier ministre canadien Mark Carney sur le sujet, en amont de la semaine de haut niveau de l’Assemblée générale de l’ONU.

Jonas Gahr Støre, le Premier ministre norvégien, et Alexander Stubb, le président finlandais, ont de leur côté publié un appel pour une IA sous contrôle humain (PDF). Il a depuis été signé par plus d’une vingtaine de dirigeants, dont Emmanuel Macron et Mark Carney, ou encore Ursula von der Leyen.

Faute d’accord, les entreprises préparent leurs propres règles

En attendant que la diplomatie aboutisse à quelque chose de concret – si cela devait arriver un jour –, les principaux acteurs concernés envisagent la création d’un organisme de standardisation, sans contrôle d’un gouvernement. Dans la droite lignée des déclarations du secrétaire au Trésor américain, Scott Bessent, qui a appelé les entreprises à prendre leur responsabilité.

Le site The Information rapporte qu’Anthropic, OpenAI et Google voudraient lancer cette organisation d’ici la fin de l’année, ou début 2027, sous le nom de Standards Authority for Frontier AI (SAFA). Elle serait chargée d’élaborer des normes communes de sûreté pour l’IA, d’encadrer l’évaluation indépendante des modèles avant leur déploiement et de définir les procédures de signalement des incidents. Elle pourrait également réaliser ses propres tests sur les modèles de pointe.

La Maison-Blanche aurait envisagé de créer cet organisme via un décret présidentiel, avant que le projet ne soit freiné par l’opposition de Mark Zuckerberg et Jensen Huang, hostiles à la régulation sur l’IA. L’administration Trump demanderait désormais à Google, Anthropic et OpenAI de parvenir d’abord à un consensus au sein du secteur. La SAFA devrait ainsi voir le jour comme une structure indépendante, même si ses promoteurs espèrent collaborer ultérieurement avec le gouvernement américain.

---

Hugging Face refuse la politique de la peur

Clément Delangue, le directeur général de Hugging Face (fraîchement rachetée par NVIDIA), a lui aussi donné son point de vue sur la question pendant la réunion du Conseil. Sa plateforme, qui distribue des modèles open source, est en première ligne sur la question de la cybersécurité : c’est l’attaque d’Hugging Face par des agents d’OpenAI qui a allumé la mèche de ce débat.

Il appelle à davantage de transparence au sein des entreprises qui développent des modèles de frontière, et plaide en faveur de l’open source et des modèles à poids ouverts pour épauler les défenseurs contre les cyberattaques. « Nous avons été attaqués par l’IA, mais nous nous sommes aussi défendus avec l’IA », a-t-il expliqué.

« Nous sommes fermement convaincus que les discours fondés sur la peur ne permettront ni de prendre les bonnes décisions quant à l’avenir d’une technologie aussi fondamentale et porteuse de possibilités, ni d’obtenir l’adhésion du public », affirme-t-il également en taclant au passage les discours apocalyptiques entendus chez Anthropic et OpenAI.