Avec une simulation, des chercheuses et chercheurs montrent que les petites suggestions des IA génératives lors de la rédaction de posts peuvent vraiment biaiser les conversations, influencer le débat sur les réseaux sociaux et avoir de réelles conséquences sur les débats politiques.

On le sait, les outils d’IA générative incorporent des biais. Mais comment leurs biais influencent-ils l’opinion collective au sein d’un réseau social lorsqu’il est utilisé pour faciliter la communication ?

C’est déjà le cas sur LinkedIn, qui propose depuis 2024 une option permettant de modifier ses posts avec une IA générative avant de les publier. Sur X, Grok propose de fournir du contexte censé permettre de mieux comprendre les contenus publiés par d’autres. Des chercheuses et chercheurs se sont intéressés à cette dynamique.

Leur étude, publiée sur la plateforme de prépublication arXiv et acceptée à la conférence scientifique ICML 2026 selon un communiqué de presse de l’université d’Oxford. Elle montre que « les biais introduits par l’IA dans la communication entre humains peuvent être amplifiés par le réseau et faire basculer l’opinion collective dans leur sens ».

Dans leur article, ils mettent en condition le lecteur :

« Imaginez que vous vous rendiez sur une plateforme de réseaux sociaux pour partager votre point de vue sur l’utilisation de l’IA dans l’éducation. Vous y êtes favorable et rédigez un court message soutenant cette idée : « L’IA pourrait être un outil utile pour personnaliser l’éducation des élèves ». Avant de le publier, vous décidez de cliquer sur le bouton « Améliorer mon message », et un grand modèle de langage (LLM) fourni par la plateforme vous propose une version peaufinée et exprimant plus explicitement votre soutien : « Tirons parti du potentiel de l’IA pour personnaliser l’apprentissage et révolutionner l’éducation pour chaque élève ! » Vous trouvez cette version plus convaincante que celle que vous aviez rédigée, vous acceptez donc simplement la modification et la publiez. Une simple incitation [nudge, en anglais]. Mais que se passerait-il si ce même LLM incitait des millions d’utilisateurs à aller dans la même direction ? »

Des modélisations informatiques et mathématiques

D’abord, ils ont vérifié sur des modèles de langage ouverts qu’en leur demandant de rédiger et d’améliorer des publications sur les réseaux sociaux concernant 13 sujets politiques, à partir d’arguments originaux et de publications rédigées par des humains, tous les LLM étudiés introduisent des biais.

La plupart du temps, ces biais coïncident avec ceux visibles dans une simple conversation avec le LLM. Mais parfois, ce n’est pas le cas : « En ce qui concerne l’athéisme, par exemple, les modèles expriment une opinion favorable, mais ont tendance à introduire des biais à son encontre lorsqu’ils améliorent des publications rédigées par des humains sur ce sujet ».

Ensuite, ils ont appliqué un modèle mathématique établi [PDF] en 1990 pour simuler les réseaux d’influences interpersonnelles et leurs influences sur les opinions individuelles à la dynamique des opinions influencée par l’IA. C’est cette simulation mathématique qui montre de façon théorique que ce genre de fonctionnalités peut amplifier le biais introduit par la modification du texte via l’IA générative.

Ensuite, ils ont simulé le problème sur de vieilles données puisées en 2012 dans Twitter, Facebook et Google+ (oui, ce réseau social a existé, rappelez-vous) avec le modèle gemma-3-12b-it de Google et en prenant le thème de l’avortement. Ainsi, dans leur simulation, avec une population plutôt anti-avortement mais des suggestions générées par IA, l’opinion devient plutôt pro-choix (alors qu’elle reste anti-avortement sans les suggestions).

Le prompt de Grok influence sans en avoir l’air

Enfin, ils ont étudié plus finement la fonction réellement implémentée sur X « explique ce message ». En effet, l’entreprise d’Elon Musk a publié le prompt qui guide son IA pour cette fonctionnalité. Simplement en le lisant, il est impossible d’affirmer qu’il biaise la discussion sur le sujet de l’avortement.

Mais en utilisant ce prompt avec grok-4-1-fast-reasoning via l’API officielle, les chercheuses et chercheurs ont observé que la majorité des affirmations générées par Grok étaient anti-avortement, « une large portion [était] neutre »  et que seulement 4 % étaient pro-avortement. Pourtant, quand ils ont fait la même expérience sans le prompt, ils n’ont observé « ni biais en faveur ni biais en défaveur statistiquement significatifs […] ce qui fait de ces directives un choix de conception déterminant, responsable du biais anti-avortement de Grok dans les affirmations contextuelles qu’il génère ».

Interrogée par le Guardian, l’une des autrices de l’étude, Sandra Wachter, compare les effets de l’introduction des biais des IA génératives dans les réseaux sociaux à « la pollution de la forêt ». « Le prix à payer, c’est que nous prenons pour vraies les opinions des autres alors qu’elles ne reflètent pas leur pensée réelle », affirme-t-elle :

« Le langage est l’un des éléments qui font de nous des êtres humains, et tout à coup, un intermédiaire s’immisce dans ce processus. L’IA s’impose comme gardienne de la connaissance et de la compréhension. »