Alors que sa responsabilité a été plusieurs fois mise en cause concernant l’utilisation de son chatbot par des adolescents, l’entreprise de Sam Altman met en place une version réservée aux ados, qui s’active si l’utilisateur déclare avoir moins de 18 ans ou si l’outil considère que son expression est celle d’un adolescent.

Sam Altman affirmait en octobre dernier vouloir « traiter les utilisateurs adultes comme des adultes » en mettant en chantier un mode pornographique qualifié d’« adulte » pour ChatGPT, mis sur pause en mars dernier. Finalement, l’entreprise pivote sa communication et sort une version « adolescent » du chatbot.

L’année dernière, OpenAI a été attaquée en justice dans plusieurs affaires concernant notamment le suicide de plusieurs adolescents. En novembre dernier, devant l’un des tribunaux, l’entreprise plaidait que les dommages causés à la victime sont le fait du « mésusage, de l’usage non autorisé, non voulu, imprévisible et impropre de ChatGPT ». Si devant la justice, l’entreprise de Sam Altman veut prendre le moins de responsabilités possible, ces cas ont dû infléchir la politique d’OpenAI concernant les adolescents.

Sécurité, études et contrôle parental

Et pour éviter toute interdiction de son outil aux mineurs, rien de mieux que de proposer une version qui leur est destinée. Ainsi, OpenAI présente ce mode comme une version qui « donne la priorité à la sécurité des adolescents, favorise un accompagnement concret, traite les adolescents comme tels et fait preuve de transparence quant au fonctionnement de nos systèmes ». Notamment, l’entreprise met en avant un mode « étude » pour accompagner les ados dans leurs devoirs, mais aussi « des mesures de protection adaptées à leur âge, conçues pour limiter leur exposition à des contenus susceptibles d’être préjudiciables ».

OpenAI y ajoute un contrôle parental qui permet de régler certains paramètres sans pour autant permettre aux parents d’accéder aux discussions de leurs enfants.

Basé sur un système de prédiction d’âge

Pour déterminer si un utilisateur est mineur, OpenAI se basera sur la date de naissance, si elle a été renseignée ou sur l’analyse des discussions de l’utilisateur faite par son système de prédiction d’âge. Au New York Times, OpenAI affirme utiliser plus de 2 000 indicateurs pour détecter si un utilisateur a moins de 18 ans. Si c’est le cas, le compte bascule automatiquement en mode « adolescent ».

En début d’année, lorsqu’elle pensait encore s’appuyer sur ce système pour lancer son mode « adulte », selon des informations du Wall Street Journal, il classait à tort 12 % des mineurs comme des adultes. Si tel est encore le cas, cela permettrait à des millions d’utilisateurs de moins de 18 ans d’accéder à des services qui ne leur sont pas adaptés. La page d’explication concernant le système sur le site de l’entreprise n’a pas été mise à jour depuis janvier et n’indique donc pas le nombre de faux négatifs actuel de ce système.

Si la communication d’OpenAI a fait un volte-face important, la mise en place du mode « adolescent » n’hypothèque en rien celle d’un mode pornographique qualifié d’« adulte » plus tard. Au contraire, après avoir testé et ajusté la fiabilité de son système, il sera d’autant plus facile pour OpenAI d’activer un mode pornographique pour les adultes. Rappelons néanmoins qu’en allant sur ce terrain, son concurrent SpaceXAI a massivement poussé à la génération de deepfakes et a été utilisé pour créer des images pédocriminelles.

• Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père