Dans une plainte déposée par une femme, l’entreprise d’Elon Musk est accusée d’avoir entrainé son IA générative Grok sur des photos et des images générées par IA pédocriminelles.

Attention : le sujet de cet article est particulièrement difficile et certains détails évoqués peuvent heurter.

Après avoir été accusée d’avoir laissé Grok générer des milliers de contenus pédocriminels pour les utilisateurs de X, SpaceXAI (xAI, l’ancien nom de l’entreprise d’IA générative d’Elon Musk est utilisé dans la plainte dont il est question) va de nouveau devoir se défendre devant la justice états-unienne concernant l’utilisation de ce genre de contenus. Mais, pour la première fois, elle va aussi devoir répondre de l’accusation d’avoir utilisé des contenus pédocriminels pour entrainer son IA.

• Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père

En effet, une victime-survivante de viols et d’agressions sexuelles dans les années 2000, lorsqu’elle était très jeune enfant, vient de porter plainte contre l’entreprise d’Elon Musk. Sa plainte [PDF] (obtenue par Arstechnica et d’autres médias américains) est déposée en tant que « class action » pour que toute personne située aux États-Unis et « dont des images et vidéos d’elle prises lorsqu’elle était mineure, ont été modifiées par Grok pour produire de la pédopornographie » puisse s’y joindre.

Des photos utilisées par Grok étaient déjà estampillées comme pédocriminelles

Le document explique qu’elle « a été victime à plusieurs reprises de viols et d’abus sexuels alors qu’elle était mineure, dans le but précis de produire du matériel pédocriminel destiné à être diffusé sur Internet, qui continue de circuler en ligne à ce jour ».

Ces photos ont été ajoutées à la liste de hash du National Center for Missing & Exploited Children (NCMEC), une organisation états-unienne qui s’occupe des affaires de mineurs disparus et exploités et de son homologue canadien, le Centre canadien de protection de l’enfance. La plaignante s’est volontairement inscrite au programme qui permet à ses avocats d’être alertés lorsqu’un nouveau cas d’utilisation des photos d’elles fait l’objet d’une enquête.

Et cette alerte leur a été envoyée à propos d’enquêtes concernant SpaceXAI. « En effet, sur les forums en ligne fréquentés par des délinquants, on trouve des messages dans lesquels ces derniers discutent de la création de contenus pédocriminels générés par IA mettant en scène la plaignante et d’autres victimes de pédocriminalité connues de longue date », relate le document.

Mais la plainte évoque aussi le fait que « du contenu pédocriminel représentant la plaignante, dont les valeurs de hachage sont connues depuis longtemps, a été utilisé dans le cadre de l’ensemble de données exploité par xAI ». Les avocats expliquent que le Centre canadien de protection de l’enfance a, lui, identifié des images pédocriminelles générées par xAI dans lesquelles la victime-survivante est représentée.

Ils insistent sur le fait que chaque fois que Grok crée une image pédocriminelle d’elle ou qu’il republie une photo pédocriminelle d’elle, cette IA générative lui inflige une nouvelle blessure.

Des soupçons sur leur utilisation pour l’entraînement

Mais, « étant donné que les conditions d’utilisation de Grok considèrent par défaut les publications publiques sur X et les propres résultats de Grok comme des données d’entraînement », expliquent les avocats, « la publication d’une image ne se limite pas à la rendre visible aux internautes, mais cela alimente également directement le pipeline utilisé par xAI pour entraîner et améliorer son modèle, et ainsi générer d’autres images ».

La plainte insiste : « étant donné qu’il est techniquement difficile d’éliminer totalement l’influence d’un exemple d’entraînement sur un modèle déjà entraîné, et que xAI n’a pas publiquement affirmé y être parvenu, tout contenu pédocriminel intégré à l’entraînement avant son retrait a probablement continué à influencer les résultats du modèle, même après que les images originales ont été retirées de l’espace public ». Et les avocats ajoutent que si l’entreprise a indiqué filtrer les contenus « violents », elle ne l’a pas explicitement indiqué concernant les contenus NSFW, pédocriminels ou les images intimes non consensuelles.

« Au lieu de prendre les précautions nécessaires pour empêcher la création d’images à caractère sexuel non consenties, dont des images pédocriminelles, xAI et son fondateur, Elon Musk, ont choisi de tirer profit de l’appétit des prédateurs pour les images et vidéos à caractère sexuel non consenties représentant des personnes réelles, y compris des enfants », accusent les avocats de la victime-survivante.

Elle demande à ce que xAI ait l’interdiction de générer, de posséder, ou de transporter des images pédocriminelles d’elle et des autres victimes, mais aussi que l’entreprise ait l’obligation de détruire toutes les images pédocriminelles que son IA a générées. Comme elle a choisi de faire de cette plainte une « class action », toutes les victimes situées aux États-Unis pourront obtenir des réparations financières si l’entreprise est condamnée.

Contactée par nos consœurs d’ArsTechnica et de Law360, SpaceXAI n’a pas répondu.