Plusieurs documents soumis à l’actuel Parlement australien dans le cadre de ses enquêtes contiennent des éléments et des citations générées par IA. Le risque : que des représentants politiques appuient leurs décisions sur des éléments créés de toutes pièces par les chatbots génératifs.

Pour appuyer la fabrique de la loi, la plupart des parlements à travers la planète s’appuient sur des travaux d’enquête, auprès de citoyens comme d’experts. Mais comment s’assurer que ces processus fonctionnent bien, lorsqu’ils se retrouvent inondés de contenus générés par IA citant de fausses recherches et des universitaires inexistants ?

Telle est la question que soulève The Guardian Australia après avoir relevé de multiples « hallucinations » dues au recours à l’IA générative dans des travaux du Parlement australien. Dans certains cas, les membres des comités rédigeant les rapports supposés informer le travail réglementaire ont cité des références qui semblent réelles, mais qui n’existent pas.

• Neurone, inférence, entraînement, hallucination… de quoi on parle ?

Fausses références liées à de vrais universitaires

De la même manière que, dans d’autres domaines, des articles entièrement générés par IA se retrouvent attribués à de vrais journalistes, à leur corps défendant, certaines des références repérées par le Guardian lient des travaux inventés à de vrais universitaires.

Directement concernée, la psychologue et professeure associée à l’Université du Queensland, Dina Haslam qualifie la trouvaille d’ « inquiétante », précisément parce que ces faux sont crédibles. Elle décrit par ailleurs la « grande frustration » d’avoir investi temps, argent et expertise dans des « recherches rigoureuses », pour ensuite voir son nom et celui de ses équipes cités aux côtés de travaux inexistants.

Outre ce cas précis, The Guardian a constitué une base réunissant toutes les soumissions écrites envoyées au Parlement actuellement en exercice. Le journal a ensuite vérifié automatiquement chacune des citations en s’appuyant sur plusieurs bases de données académiques. Les références qui étaient les plus souvent pointées comme ne correspondant à aucun travail existant ont ensuite été vérifiées à la main. Ceci a permis au journal d’identifier au moins 39 textes à destination des représentants politiques contenant des références probablement hallucinées par des IA génératives.

Une autre méthode visant à estimer la prévalence du recours à de grands modèles de langage a donné des résultats plus importants. Le journal a notamment constaté que plus de 100 documents incluaient certains des tags ajoutés automatiquement aux urls par ChatGPT (de type ?utm_source=chatgpt.com) lorsque le chatbot fournit une source. Contactés, l’essentiel des autrices et auteurs de ces documents ont semblé découvrir la possibilité que les robots d’IA générative puissent générer de toutes pièces, et donc inventer, certaines des sources citées.

• IA : Grammarly suspend son outil de révision à la manière de vos auteurs préférés

Quand les résumés IA de Google compliquent la vérification

Ce n’est pas la première fois que les décideurs australiens – comme ceux d’autres nationalités – ont maille à partir avec l’IA générative.

En 2025, Deloitte a dû rembourser une partie de la somme que l’État australien lui avait versée pour obtenir l’audit d’un système informatique dédié à l’automatisation des sanctions en cas d’irrespect des règles d’accès aux aides sociales. Son travail s’était avéré présenter de multiples erreurs et fausses citations scientifiques, typiques de ces textes générés par IA. Quelques mois plus tard, c’est le gouvernement de Terre-Neuve-et-Labrador, au Canada, qui a dû demander à la même entreprise de reprendre son travail après que celui-ci se soit avéré présenter des éléments – dont de supposées références scientifiques – générés par IA.

Dans le domaine juridique, plus de 2 000 cas de plaidoiries hallucinées par IA ont été identifiées par le juriste Damien Charlotin à travers le monde, quelquefois pour présenter un argumentaire, dans d’autres cas pour proposer des citations. Problème : dans ce second cas, les références ou jurisprudences énoncées n’existent quelquefois pas du tout. Dans plus de 350 cas, ces recours aux chatbots génératifs se sont soldés par des sanctions financières, plus 150 sanctions disciplinaires.

Mais pour le monde réglementaire comme pour le judiciaire, la multiplication de travaux en tout ou partie générés par IA vient compliquer la vérification des faits. Et ce d’autant plus qu’avec le déploiement généralisé des résumés IA dans Google, moteur de recherche le plus utilisé au monde, le chatbot Gemini tend à proposer des justifications ou à laisser entendre qu’une référence existe même si ce n’est pas le cas. Dans certaines occurrences, le Guardian relève la propension du robot à générer de faux résumés pour des travaux de recherche inexistants.

Dans la mesure où les enquêtes visent à éclairer les travaux parlementaires, le politologue Christian Downie estime que de nouvelles règles pourraient être nécessaires, pour encadrer la soumission de documentation aux régulateurs australiens. À défaut, le risque est de voir ces derniers prendre des décisions sur la base d’éléments générés automatiquement, sans lien avec le monde réel.

• Vous ne voulez pas des Aperçus IA de Google ? Voici comment s’en débarrasser