Meta veut laisser à l’IA les clés de la modération sur ses réseaux sociaux. Ou tout du moins, d’une très grande partie. Les LLM sont appelés à trancher toujours plus de contenus, de publicités et de recours d’utilisateurs, au moment même où le groupe cherche à réduire ses coûts.

La modération humaine a vécu chez Meta. L’entreprise a l’intention de la remplacer par de l’IA générative qui sera chargée d’évaluer les contenus, les publicités, ainsi que les recours des utilisateurs. Selon plusieurs sources du Financial Times, Meta aurait remplacé environ 50 % des demandes de révision humaine par des LLM cette année. L’objectif est d’aller encore plus loin : possiblement plus de 90 % pour certains types de contenus d’ici la fin de l’année.

L’IA peut-elle résoudre l’équation de la modération ?

Les premiers tests réalisés par Meta depuis le mois de mars montrent qu’en moyenne, l’IA commettrait 13 % d’erreurs en moins que les humains quand il s’agit d’intervenir sur des contenus enfreignant les règles de modération. Elle identifierait 10 % d’infractions réelles en plus. « L’objectif de ce travail est d’améliorer nos efforts d’application des règles, et nous déployons ces systèmes d’IA plus avancés dès lors que nous sommes certains qu’ils obtiennent systématiquement de meilleurs résultats que nos méthodes actuelles de modération des contenus », a assuré l’entreprise au FT.

Mais ces mêmes sources anonymes indiquent que les modèles IA continuent de se tromper, par exemple en retirant ou en limitant la visibilité de contenus pourtant inoffensifs. C’est notamment le cas pour la satire, les évolutions de langage, les contenus ambigus. Autre écueil, l’entreprise n’aurait pas établi la manière de mesurer les performances de ces systèmes. Meta conteste et affirme avoir des processus de contrôle solides, avec des évaluations continues et des échantillons vérifiés par des humains. Le groupe a beaucoup à prouver ici, après qu’un agent IA maison a permis à des malandrins de pirater 34 000 comptes Instagram…

Ce passage à la modération par IA n’est pas non plus un moyen de réduire les coûts, affirme encore le groupe, il s’agit d’exploiter une technologie qui évolue rapidement. Cela reste à voir : Meta s’est engagé dans un vaste plan d’économies, occasionnant des milliers de licenciements. Y compris au sein des équipes dédies à l’IA. Les sous-traitants chargés de la modération voient eux aussi leurs contrats se réduire ou ne pas être renouvelés.

• Chez Meta, la bascule vers l’IA entraîne une « merdification » des conditions de travail

Dernier point et pas des moindres, la modération des publicités. En novembre dernier, une enquête de Reuters montrait qu’environ 10 % du chiffre d’affaires annuel (de 2024) provenait de réclames pour des arnaques ou des produits interdits. Confier davantage de décisions de modération de la pub à l’IA a de quoi inquiéter, surtout si les garde-fous ne sont pas irréprochables.

• Meta tirerait 10% de ses revenus d’arnaques et de publicités frauduleuses

Ce passage à l’IA sur la question aussi sensible de la modération de contenus sera une épreuve de feu pour Muse Spark. En interne, les équipes utilisent Gemini, mais il leur a été demandé de passer au nouveau modèle du labo IA de Meta.

En janvier 2025, Mark Zuckerberg amorçait un nouveau virage pour la modération sur les réseaux sociaux de son entreprise pour « revenir à nos racines autour de la liberté d’expression ». Arrêt des programmes de vérification des faits, plus grande permissivité pour la désinformation ainsi qu’aux insultes envers les femmes et les minorités autorisées, « notes de communauté » comme sur X/Twitter…

Ces changements, réalisés au moment où Donald Trump revenait au pouvoir, ont effectivement libéré une certaine parole. Les menaces violentes, les discours de haine et le harcèlement ont explosé à l’encontre des représentants du monde politique américain.

• Les menaces contre les politiques ont explosé après la limitation de la modération de Meta