L’application Telegram a été retirée de l’App Store pendant quelques heures en début de semaine. Apple réagissait à la présence de contenus pédocriminels. La messagerie a rapidement réagi pour supprimer le contenu en question et bannir l’utilisateur, ce qui a permis de restaurer l’app dans la boutique. Mais le problème reste entier.

La modération des images pédocriminelles sur Telegram a une fois de plus été prise en défaut. C’était une des raisons pour lesquelles Pavel Durov, cofondateur et PDG de la messagerie, a été arrêté en France durant l’été 2024. La complicité pour détention et diffusion de ce type d’images a fait partie des 12 chefs d’accusation qui ont motivé l’ouverture d’une information judiciaire et l’arrestation du milliardaire franco-russe.

Pavel Durov s’explique

Pavel Durov a depuis retrouvé la liberté, non sans avoir renforcé discrètement les règles de modération de Telegram. Il reste cependant encore bien du travail, puisque Apple a retiré l’application de sa boutique ce lundi 3 août. Elle a retrouvé sa place après quelques heures, non sans avoir passé un coup de balai sur de nouveaux contenus pédocriminels. Apple a expliqué :

« Nous avons brièvement retiré Telegram de l’App Store après que notre examen a révélé du contenu enfreignant nos règles strictes interdisant les contenus relevant d’abus sexuels sur des enfants. L’application a ensuite été rétablie après que le développeur a rapidement supprimé le contenu et banni l’utilisateur qui l’avait publié. »

Apple avait déjà temporairement retiré Telegram de l’App Store en 2018, là aussi pour la même raison. Ce n’est pas la fin de cette nouvelle affaire. Piqué au vif, Pavel Durov a voulu préciser ce qui s’était passé en accusant un « maître chanteur » qui a voulu rançonner des utilisateurs de la messagerie.

Il assure pour commencer que Telegram « supprime rapidement les contenus illégaux des groupes publics » ; pour passer entre les mailles du filet, l’attaquant s’est servi d’une astuce : « Il a inséré du contenu illégal modifié par IA en éditant un ancien message dans un groupe de discussion actif. Résultat : le contenu était en pratique caché aux membres du groupe, les empêchant de le voir et de le signaler. »

Le responsable de cette attaque est « quelqu’un qui exige une rançon des propriétaires de groupes pour ne pas cibler leurs communautés ». Ces maîtres chanteurs utilisent des comptes automatisés pour publier du contenu illégal dans des groupes publics, puis ils le signalent directement à Apple si les responsables refusent de payer. L’idée est de provoquer le retrait de l’application.

Pour Durov, ces attaquants ont trouvé une manière de pousser Apple à réagir « de manière excessive », sans prévenir Telegram au préalable. Un « risque systémique » pour toutes les applications qui hébergent du contenu généré par les utilisateurs. « Si une app utilisée par plus d’un milliard de personnes peut être retirée de l’App Store sans avertissement préalable, n’importe quelle app peut l’être », affirme-t-il.

Une modération « efficace », ou pas

Le patron de Telegram le martèle : la modération sur la messagerie est « efficace », comme le prouve le recours à des contenus antidatés « pratiquement invisibles » pour faire chanter les communautés. Mais « d’autres plateformes ne sont peut-être pas aussi bien préparées ».

Pavel Durov a beau jurer de la probité et de l’efficacité de ses systèmes de modération, la messagerie n’en reste pas moins un repaire de contenus CSAM (child sexual abuse material) ou à caractère sexuel violent non consenti. Un rapport d’AI Forensics avait analysé la manière dont la plateforme est utilisée comme lieu d’échange pour ce type d’images.

• Quand des réseaux d’images non consenties à caractère sexuel pullulent sur Telegram

Telegram est également sous le coup d’une enquête de l’Ofcom, le régulateur britannique des télécommunications, pour partage de contenus pédocriminels. Fin avril, de ce côté du Channel, c’était l’Arcom qui épinglait l’application pour manque de réactivité sur le retrait des contenus illicites ; en l’occurrence ici, des liens de streaming pour regarder en douce des compétitions sportives.