SpaceXAI part en croisade contre une loi du Minnesota interdisant les technologies de « nudification », qui permettent de générer des deepfakes dénudés de personnes réelles. L’entreprise est la première concernée, puisque son chatbot Grok est massivement utilisé pour créer ces images.

Mise à jour 3/08 – Le juge en charge de la plainte a rejeté la demande de SpaceXAI. L’entreprise d’Elon Musk voulait le report de la loi du Minnesota bannissant la génération de deepfakes dénudés. Celle-ci a été mise en œuvre le 1er août, alors que la plainte remontait au… 29 juillet. « Un tel délai pour engager l’action et déposer cette requête laisse penser que le préjudice n’est pas imminent », a estimé le juge.

Mais si la loi est en application depuis ce week-end, cela ne signifie pas pour autant que la plainte est éteinte. La procédure se poursuit en effet, avec une audience programmée le 19 août pour décider si la législation doit être suspendue provisoirement ou pas.

Article original, 29/07 – En début d’année, Grok était sous le feu des critiques : le chatbot de xAI (renommé SpaceXAI depuis) permettait très facilement de générer des deepfakes dénudés de personnes réelles (des femmes dans leur vaste majorité), sans leur consentement. Le tout avec le soutien actif d’Elon Musk, trop heureux de voir grimper la popularité de son bot IA.

Depuis, plusieurs enquêtes ont été lancées, en France, à la Commission européenne et à la Commission de protection des données irlandaises, qui a la responsabilité de faire appliquer le RGPD à X (anciennement Twitter).

• Deepfakes sur Grok : l’autorité de protection des données irlandaise ouvre une enquête

D’autres juridictions sont allées plus loin, à l’image de l’État américain du Minnesota où une loi interdisant les technologies de nudification entrera en vigueur le 1er août (PDF). Les propriétaires ou exploitants de sites, d’applications et de logiciels ne peuvent plus permettre à leurs utilisateurs d’accéder à une telle fonction, de la télécharger ou de l’utiliser. Ils ne peuvent pas non plus produire eux-mêmes ces images pour le compte de leurs utilisateurs.

Le droit de Grok de générer des images dénudées

Le texte prévoit toutefois une exception pour les logiciels de retouche d’images qui nécessitent de l’utilisateur une compétence technique substantielle (à l’image de Photoshop) : ces outils restent heureusement licites. Les opérateurs des services de nudification pourront être poursuivis par les victimes, avec à la clé d’importantes sanctions possibles : jusqu’à trois fois le montant des dommages réellement subis, notamment pour la souffrance psychologique, ainsi que des dommages punitifs.

Quant à la sanction civile, elle peut atteindre 500 000 dollars pour chaque accès, téléchargement ou utilisation illégale. Ces amendes financeront des organismes qui viennent en aide aux victimes de violences sexuelles. Cette loi est la première du genre aux États-Unis.

SpaceXAI s’oppose à cette législation, comme le rapporte CBS News. L’entreprise affirme qu’elle « ne remet pas en cause l’intérêt du Minnesota à interdire la diffusion, sans leur consentement, d’images de personnes réelles artificiellement représentées nues », mais elle se positionne sur le terrain de la « liberté d’expression ». La loi irait « bien au-delà de [l’] objectif » de lutter contre la nudification et exposerait de nombreuses « formes d’expression protégées à des poursuites civiles et à des sanctions gouvernementales ».

L’entreprise estime que la loi rend le fournisseur d’IA automatiquement responsable, qu’il interdise ou pas aux utilisateurs de se servir de l’outil pour générer des deepfakes dénudés. Elle pourrait aussi être tenue responsable même lorsque les personnes ont consenti à la création de l’image ou quand celle-ci présente une « valeur artistique, scientifique, politique, satirique, éducative, médicale ou religieuse ». Ce qui est une interprétation très large : une image de nu peut en effet entrer dans une de ces catégories, annulant complètement la portée des lois contre ces technologies.

La plainte déposée par SpaceXAI affirme aussi que la définition d’une partie intime retenue par la loi interdit la représentation d’hommes torse nu, de personnes en short ou en maillot de bain, ainsi que d’autres images allant « au-delà de ce qu’une personne ordinaire considérerait comme de la “nudification” ». Enfin et surtout, l’entreprise d’Elon Musk estime que la génération d’images et de vidéos à l’aide de son IA est une activité protégée par la Constitution américaine en vertu du Premier amendement sur la liberté d’expression.

Au bout du compte, SpaceXAI demande au tribunal de déclarer l’inconstitutionnalité de la loi, et d’interdire au Minnesota de la faire appliquer. « On se retrouvera au tribunal, pervers », a simplement répondu le gouverneur de l’État, Tim Waltz.

Le procureur général du Minnesota, Keith Ellison, a été un peu plus prolixe : « Je sais qu’utiliser l’IA pour générer, contre leur volonté, des images de personnes nues est abject. Les débats légitimes sur la politique à mener en matière d’IA ne manquent pas. Celui-ci n’en fait pas partie. » Il ajoute que la nudification par IA prive les victimes « de leur dignité et peut leur causer un immense préjudice sur les plans émotionnel, personnel et professionnel. »

De ce côté-ci de l’Atlantique, où des réglementations similaires sont à l’étude à Bruxelles, xAI ne s’est pas encore prononcé sur le sujet.