Dans un rapport préliminaire, des scientifiques commissionnés par l’ONU estiment que la rapidité des progrès de l’IA pourrait empêcher les États de la gouverner correctement. L’institution appelle ses membres à lancer une coopération internationale sur le sujet.

Une semaine à peine après que le secrétaire général de l’Organisation des Nations Unies (ONU), António Guterres, a appelé l’industrie de l’IA à « dire la vérité » sur ses impacts environnementaux, l’institution en remet une couche. Dans un rapport préliminaire publié ce 1^er juillet, le Groupe scientifique international indépendant des Nations Unies sur l’intelligence artificielle alerte sur le fait que les « capacités de l’IA progressent désormais plus rapidement que la science et les gouvernements ne sont capables de les comprendre et de les encadrer ».

L’enjeu est d’autant plus important que « plus l’intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a déclaré António Guterres. Le document évoque une rupture plus forte que l’arrivée de modèles génératifs comme ChatGPT dans les mondes économiques et numériques. Il alerte en particulier sur l’émergence d’« agents » capables, de manière relativement autonome, de naviguer en ligne, écrire du code, lancer des actions sur des logiciels, etc. Et souligne qu’« aucune garantie scientifique » ne permet d’en assurer le contrôle à long terme.

Un panel de scientifiques diversifié

Parmi les auteurs de ce document figurent des scientifiques connus de l’industrie de l’IA et reconnus pour leurs projets d’ « alignement » (Yoshua Bengio, lauréat du prix-Turing en 2018, Joëlle Barral, directrice de recherche chez Google DeepMind) ou leur implication en matière de défense de l’information (Maria Ressa, cofondatrice de Rappler et prix Nobel de la paix en 2021). Avec des spécialistes venus du Nigeria (Rita Orji), du Brésil (Teresa Ludermir), d’Inde (Balaraman Ravindran), du Pakistan (Bilal Mateen) ou d’Égypte (Mennetallah El-Assady), parmi d’autres nations, il constitue surtout un travail collectif riche d’une bien plus grande diversité que l’essentiel de la littérature sur les enjeux relatifs à l’IA. À l’échelle internationale, cette dernière est en effet largement dominée par des travaux venus des États-Unis, et dans une moindre mesure d’Europe et de Chine.

Collectivement, les auteurs du rapport saluent certains bénéfices apportés par l’intelligence artificielle, comprise comme « des systèmes qui perçoivent, apprennent et agissent », qui « infèrent à partir de données d’entrée comment générer des données de sortie », parmi lesquelles « des prédictions, du contenu, des recommandations, des actions ou des décisions, avec divers degrés d’autonomie et d’adaptabilité ». Parmi ces intérêts : des « applications utiles dans les sciences, la santé, l’agriculture, l’accessibilité, le travail de la connaissance et les technologies de l’information, y compris pour le développement de l’IA elle-même ». En exemple, ils citent le modèle de Google Deepmind AlphaFold, capable de prédire la structure des protéines à partir de leur séquence en acides aminés.

Le rapport précise par ailleurs qu’il se concentre sur les « modèles de fondation », compris comme des systèmes généralistes capables de réaliser une variété de tâches. Il souligne néanmoins que des systèmes spécialisés existent, et que ces derniers « fournissent des bénéfices mesurables lorsque la tâche est bien définie, les données disponibles et que les institutions peuvent le déployer volontairement ».

• IA : les « modèles de fondation » et leur index de transparence critiqués

Progrès inégaux et dangers évidents

Il souligne cela dit l’absence d’égalité dans l’évolution de ce type de technologies : trois quarts de la puissance des supercalculateurs d’IA les plus performants est disponible aux États-Unis, la Chine en compte 15 %, et le reste du monde se partage le solde. De même, ces deux pays concentrent l’essentiel des modèles les plus avancés. Nombre de pays en développement, en revanche, manquent des infrastructures leur permettant de participer à la construction des modèles ou de les auditer. Le risque, alertent les scientifiques : que le déploiement accéléré de l’IA n’aggrave les inégalités et dépendances préexistantes à l’échelle du globe.

Côté usages, les auteurs du rapport soulignent les enjeux soulevés par la multiplication de contenus pédopornographiques et de deepfakes à caractère sexuel, tous générés par IA. Ils constatent la facilité avec laquelle l’IA générative permet de fabriquer du faux, de manière crédible, et alertent sur les effets que cela a sur les débats publics, ou encore de son rôle pour faciliter divers types de cyberattaques. Ils soulignent, enfin, comment la « complaisance » des modèles grands public peut renforcer les convictions des internautes, y compris lorsque celles-ci sont dangereuses.

Étonnamment, le document n’évoque à aucun moment l’opposition croissante à l’intelligence artificielle (notamment générative), quelquefois incarnée plus localement par une opposition à ses infrastructures. Celle-ci est pourtant visible jusque dans le pays leader de l’industrie, que sont les États-Unis.

• Aux États-Unis, la multiplication de data centers suscite une opposition locale croissante

Il n’évoque pas, non plus, les travailleurs des données, certes souvent invisibilisés, dont le rôle est pourtant essentiel à la fabrication des systèmes d’IA évoqués. Parmi les pays qui, faute d’infrastructure, se retrouvent privés des capacités d’« adapter » les modèles « à leurs propres réalités », certains comme le Venezuela, le Kenya ou Madagascar, sont aussi les foyers de clusters d’entraîneurs de données dont le travail est nécessaire pour faire fonctionner les modèles évoqués.

• Le système de production de l’IA reproduit et amplifie les dépendances économiques historiques

En revanche, pour António Guterres, la publication de ce rapport préliminaire doit être perçue comme la première étape d’un travail collectif, dans lequel il enjoint les États membres à construire un cadre international de coopération sur l’IA. Mais même ce travail promet d’être complexe : le rapport explique en effet que « la plupart des pays, y compris de nombreuses économies avancées, manquent d’expertise technique qui leur permettrait d’évaluer les modèles "frontière" les plus efficaces ou de participer à leur gouvernance de manière significative ».