Contournement de la modération (algospeak)
Le corpus documente un lexique de contournement stable et connu de tous les bords de la table — émojis codés, hashtags tronqués, orthographes altérées — et la commission s’en sert pour poser une question que TikTok et ses contradicteurs ne tranchent pas de la même façon : ces techniques débordent-elles une modération qui fait ce qu’elle peut, ou révèlent-elles une modération qui pourrait fonctionner et ne le fait pas ?
Le premier fait est celui de la répétition. Le même couple d’émojis revient dans trois auditions distinctes, portées par trois statuts différents. Une auditionnée du 15 mai l’énonce : « certains émojis sont utilisés pour détourner les contenus, comme le drapeau suisse pour parler du suicide, le zèbre des scarifications » (cr11a). Mme Delphine Dapui, mère de Charlize, le redit presque mot pour mot le même jour : « le zèbre pour les scarifications, le drapeau suisse pour le suicide » (cr11b). Un ancien modérateur de Teleperformance le confirme depuis l’intérieur : « nous avions reçu une communication au sujet de l’émoji zèbre utilisé pour signifier « automutilation » » (Audition — M. X, ancien modérateur sur les réseaux sociaux). C’est précisément cette convergence que la rapporteure Laure Miller transforme en confrontation : « Lorsque nous avons reçu les dirigeants de TikTok, ils nous ont expliqué qu’ils n’étaient pas toujours au courant de ces contournements, notamment de l’utilisation de l’émoji zèbre » (Audition — M. X, ancien modérateur sur les réseaux sociaux). Le modérateur répond que « les signalements ont été faits dans les deux sens », tout en ajoutant n’avoir « jamais vu aucun responsable de TikTok dans les locaux de Teleperformance ».
C’est là l’axe, et il est frontal. Pour Valentin Petit (agence CAPA), l’argument de l’impuissance technique ne tient pas : « ces techniques, qui sont connues depuis vingt ans, sont vraiment le niveau zéro du contournement de la modération » (cr30c). Cyril Colliou, de l’Ofmin, pointe un écart de détection sur l’émoticône pizza, code d’identification qu’il décrit entre profils pédocriminels : « cela a été très peu signalé par TikTok, alors que le phénomène a donné lieu à de nombreux signalements de la part d’internautes auprès de la plateforme Pharos » (cr30a). TikTok, en face, ne nie pas le phénomène et en revendique le traitement : Marie Hugon reconnaît « le détournement des hashtags qui est parfois appelé algospeak » et affirme « Nous rééduquons en permanence nos algorithmes à l’aide des nouveaux éléments dont nous disposons » (Mme Marlène Masure) ; Marlène Masure oppose un coût à la solution radicale, puisque « supprimer le hashtag empêche de trouver les ressources et les vidéos bienveillantes » (Mme Marlène Masure). Miller conteste l’efficacité en séance, captures à l’appui, en demandant comment TikTok justifie que « les recherches « je veux mourir », « j’ai envie de mourir » et « je veux me pendre » ne donnent lieu à aucun blocage ni à aucun message de prévention » (Mme Marlène Masure).
Un présupposé traverse le sujet sans être formulé : le contournement n’est pas l’apanage des acteurs malveillants. Hugo Travers, média professionnel de prévention, explique modifier « l’orthographe de certains mots sensibles » et utiliser « des astérisques pour éviter la détection automatique » (cr21b) — et la rapporteure elle-même lui demande comment il parvient « à éviter les sanctions de la plateforme » pour diffuser de la sensibilisation. M. Isac Mayembo, lui, revendique un « poutrer » substitué à un terme plus cru, qui « permet de s’assurer que la vidéo ne sera pas censurée trop facilement » (cr24b), quand le président Arthur Delaporte lui oppose l’épellation « P.U.T.E.S » employée « pour échapper à la modération ». La même technique sert donc à faire passer de la prévention et à faire passer de la vulgarité, ce qui fragilise l’idée d’un filtre lexical suffisant dans un sens comme dans l’autre. M. Mathieu Barrère en tire un déplacement explicite du terrain : plutôt que le contenu, les liens, car « l’interdiction de placer des liens de redirection, quels qu’ils soient, serait déjà un pas significatif » (cr21c). Il juge la modération « inefficace à ce stade », mais introduit aussi la principale nuance à décharge sur le contenu lui-même, en rappelant que certains lives montrent une tenue « certes suggestive, mais pas illégale en soi ».
Qui en parle
- Laure Miller — EPR (rapporteure, cr21b, cr21c, cr24b, Mme Marlène Masure, cr30a, Audition — M. X, ancien modérateur sur les réseaux sociaux) : instruit le sujet de bout en bout — cherche la reconnaissance des techniques (épellation), démontre en séance l’absence de blocage sur des requêtes suicidaires explicites, confronte le modérateur aux déclarations des dirigeants, teste l’hypothèse du rebond vers OnlyFans ou Mym.
- Arthur Delaporte — SOC (président, cr24b) : relève l’épellation « P.U.T.E.S » employée « pour échapper à la modération » et interroge sa conformité aux CGU et à la loi.
- Marie Hugon — TikTok (Mme Marlène Masure) : reconnaît l’algospeak, affirme que « certains mots comme « suicide » sont interdits dans le moteur de recherche » et que les algorithmes sont rééduqués en permanence.
- Marlène Masure — TikTok (Mme Marlène Masure) : justifie la réticence à supprimer un hashtag par la disparition simultanée des contenus de sensibilisation.
- Valentin Petit — agence CAPA (cr30c) : qualifie ces contournements de « niveau zéro », connus depuis vingt ans ; décrit des contenus mortifères habillés de « stickers rose flashy ».
- Cyril Colliou — Office mineurs (Ofmin) / DNPJ (cr30a) : documente l’émoticône pizza et l’écart entre les signalements des internautes à Pharos et les remontées de TikTok.
- M. X — ancien modérateur TikTok / Teleperformance (Audition — M. X, ancien modérateur sur les réseaux sociaux) : atteste d’une communication interne sur l’émoji zèbre et de signalements « dans les deux sens », sans avoir jamais vu de responsable TikTok sur site.
- M. Mathieu Barrère — Envoyé spécial (France télévisions) (cr21c) : juge la modération inefficace, propose d’interdire les liens de redirection, mais nuance sur la légalité des contenus visés.
- Hugo Travers — HugoDécrypte (cr21b) et M. Isac Mayembo (cr24b) : deux créateurs qui décrivent leurs propres contournements — orthographe altérée et astérisques pour l’un, substitution lexicale pour l’autre.
- Mme X, M. Z (cr11a) et Mme Delphine Dapui — Algos Victima (cr11b) : témoignages d’usage documentant les émojis codés, les hashtags « #ts » et « #$h », et les trends suicidaires allusifs.