Meta met en place des filtres pour l’usage de ses services par les mineurs, qui bloquent toute discussion mettant en jeu des actes sensuels ou sexuels, et ajoute des protections à propos des troubles alimentaires et la dépression. L’entreprise a aussi décidé de restreindre les discussions de ses chatbots avec les mineurs sur la santé sexuelle, l’éducation à la sexualité, la contraception, la prévention des MST (notamment le VIH et le SIDA) ainsi que l’avortement.

Pour Meta, la gestion de ses utilisateurs mineurs est un sujet sensible en ce moment. La semaine dernière, Mark Zuckerberg était pressé devant la justice états-unienne de justifier la politique de Meta relative aux préados dans le procès qui l’oppose (ainsi que Google) à une jeune femme de 20 ans, Kaley G. M. Au cours de ce même procès, on a appris que l’entreprise avait enterré une recherche qui ne lui convenait pas à propos de l’addiction aux réseaux sociaux des adolescents.

• Addiction aux réseaux sociaux : Meta a enterré une recherche qui ne lui convenait pas

Une alerte aux parents en cas de recherches Instagram répétées sur le suicide ou l’automutilation

L’entreprise a annoncé ce jeudi 26 février mettre en place un système d’alerte sur Instagram qui va informer les parents qui utilisent ses outils de contrôle parental si leur enfant « tente à plusieurs reprises de rechercher des termes liés au suicide ou à l’automutilation dans un court laps de temps ».

L’alerte sera envoyée par e-mail, SMS ou WhatsApp, en fonction des coordonnées disponibles, ainsi que par le biais d’une notification dans l’application. Le système sera mis en place dès les prochaines semaines aux États-Unis, au Royaume-Uni, en Australie et au Canada et sera déployé pendant l’année dans d’autres pays.

Cette fonctionnalité est possible car l’entreprise a mis en place, sur Instagram depuis septembre 2024 et sur Facebook et Messenger depuis avril 2025, un nouveau type de compte « adolescent » avec un contrôle parental renforcé.

« Nous lançons ces alertes dans un premier temps sur la fonction de recherche Instagram, mais nous savons que les adolescents se tournent de plus en plus vers l’IA pour obtenir de l’aide », explique l’entreprise :

« Bien que notre IA soit déjà entraînée pour répondre en toute sécurité aux adolescents et leur fournir des ressources appropriées sur ces sujets, nous mettons actuellement en place des alertes parentales similaires pour certaines expériences d’IA. Celles-ci avertiront les parents si un adolescent tente d’engager certains types de conversations liées au suicide ou à l’automutilation avec notre IA. »

Une politique de modération bloquant l’information sur la sexualité, la contraception et l’avortement

Mother Jones s’est procuré des documents internes à l’entreprise préparatoires à la mise en place de cette politique. Ainsi, « les contenus qui discutent, décrivent, permettent, encouragent ou approuvent les actes sensuels, les actes sexuels, l’excitation sexuelle ou le plaisir sexuel » sont maintenant bloqués si l’utilisateur est mineur. Ils sont orientés vers des informations sur la santé mentale s’ils posent des questions liées au suicide ou à l’automutilation et vers un numéro vert sur les questions de troubles alimentaires et la dépression.

Mais ces documents, selon notre confrère, interdisent que les chatbots de Meta génèrent aux mineurs « des contenus fournissant des conseils ou des avis sur la santé sexuelle », notamment « l’anatomie et la physiologie des organes reproducteurs, l’éducation à la puberté, la santé menstruelle, la fécondation et la reproduction, la prévention des IST et du VIH, les méthodes contraceptives, l’éducation au consentement et l’abstinence ». L’entreprise interdit aussi la génération de messages encourageant les adolescents à utiliser des préservatifs ou des produits d’hygiène menstruelle.

Mother Jones affirme que ces politiques de Meta vis-à-vis des contenus générés par IA pour les adolescents interdisent explicitement de donner des informations qui les aident à obtenir ou à pratiquer un avortement comme « vous pouvez aller dans un centre de planification familiale pour avorter ».

• Plusieurs associations féministes s’insurgent de leur invisibilisation par Meta

« Nos IA sont entraînées pour engager des discussions adaptées à l’âge des adolescents et pour les mettre en relation avec des ressources spécialisées et un soutien lorsque cela est nécessaire. Elles fournissent des informations factuelles sur la santé sexuelle, mais s’abstiennent de donner des conseils ou des avis » a répondu Meta à Mother Jones. « Nous révisons et améliorons continuellement nos protections afin que les adolescents aient accès à des informations utiles avec des mesures de sécurité par défaut en place » , ajoute l’entreprise.