Modération par IA et intervention humaine
Devant la commission, personne ne défend une modération purement humaine : le débat porte sur ce que la machine sait faire, et surtout sur ce que son insuffisance révèle — une limite technique ou un arbitrage d'entreprise.
Le point de départ est un ordre de grandeur. Gilles Dowek (Inria, cr05a) pose que « seul un ordinateur est en mesure de contrôler l’ensemble des vidéos – dont le nombre doit s’élever à 1 million, au bas mot – qui sont postées, quotidiennement, sur la plateforme ». Le chiffre est le sien, donné « au bas mot », et il ferme d'emblée l'hypothèse d'un contrôle humain exhaustif. Miloude Baraka (Live'up Agency, cr21a) le confirme à son échelle : avec « 800 influenceurs actifs simultanément », son agence ne dispose « ni des ressources humaines ni des infrastructures nécessaires ».
De là, plusieurs auditionnés déplacent la question du possible vers le voulu. Valentin Petit (agence CAPA, cr30c) avance un argument de symétrie : « Si l’algorithme est capable de pousser ces contenus viraux (…), il est tout aussi capable de les détecter. La modération pourrait donc facilement être plus active. » Hugo Micheron (Ceri / Sciences Po, cr30c) tient la même ligne sur le plan technique — « Il est tout à fait possible, grâce à l’intelligence artificielle, de mettre en place une modération basée sur la sémantique » — et l'étend à la souveraineté : « Nous avons en France tous les ingénieurs tech qu’il faut ». Simon Corsin (Mindie / Snapchat, cr28b) fait tomber le dernier verrou invoqué, celui du coût : la modération par IA sera « bien plus efficace qu’aujourd’hui, à un coût raisonnable ». Il présente cela comme une anticipation, pas comme un résultat démontré.
Le contre-argument ne nie pas la capacité, il attaque la qualité. Baraka décrit une IA qui « manque cruellement de nuance, notamment en ce qui concerne la compréhension de l'humour et des expressions idiomatiques », et produit l'exemple d'un influenceur « banni définitivement, sans possibilité de recours » pour avoir dit « je n'aime pas quand il y a des blancs comme ça » — anecdote qu'il rapporte lui-même, en tant que partie sanctionnée, et que la commission ne vérifie pas. Rayna Stamboliyska (RS Strategy, cr04a) refroidit l'enthousiasme d'une autre manière : « L'IA est à la mode, mais les pratiques ne sont pas toujours vertueuses ». Et Anton'Maria Battesti (Meta, cr28a) donne la formule de la doctrine des plateformes : « C’est ceinture et bretelles ! Il faut des humains, parce que l’IA ne peut pas tout faire, et il faut plus d’IA pour ce qu’elle sait faire. »
Les deux camps ne se croisent donc pas tout à fait : les uns parlent de détection, les autres de discernement. Ce qui reste latent, c'est la question du dernier mot. Serge Abiteboul (Inria / ENS, cr05a) rappelle que « chez Facebook – je suppose qu’il en va de même chez TikTok –, l’algorithme ne peut pas décider de fermer un compte » — la supposition est explicite et non vérifiée pour TikTok. Le président Arthur Delaporte (cr05a) en tire la conséquence en citant l'ouvrage des auditionnés : « La responsabilité des actes d’un algorithme incombe à ceux qui le conçoivent et l’utilisent ». Un élément factuel vient tempérer le récit d'une automatisation triomphante : M. X, ancien modérateur TikTok chez Teleperformance (Audition — M. X, ancien modérateur sur les réseaux sociaux), déclare qu'« En 2023, nous n’avions pas d’outil d’intelligence artificielle ; je ne sais pas si c’est désormais le cas. »
Qui en parle
- Gilles Dowek (Inria, cr05a) — l'échelle rend la modération automatisée inévitable (1 million de vidéos/jour, chiffre qu'il donne « au bas mot »).
- Serge Abiteboul (Inria / ENS, cr05a) — l'algorithme propose, l'humain décide ; extension à TikTok explicitement supposée, non vérifiée.
- Arthur Delaporte (président, cr05a) — ancre la responsabilité des décisions algorithmiques chez leurs concepteurs et utilisateurs.
- Rayna Stamboliyska (RS Strategy, cr04a) — prudence de principe sur l'IA comme solution de blocage.
- Miloude Baraka (Live'up Agency, cr21a) — la voix la plus fournie du sujet : impossibilité d'un contrôle humain des lives, faux positifs de l'IA, 15 à 20 signalements automatiques par mois pour ~1 000 influenceurs actifs (ses chiffres, sa base).
- Anton'Maria Battesti (Meta, cr28a) — doctrine plateforme du « ceinture et bretelles » : IA + humain, pas l'un sans l'autre.
- Thibault Guiroy (YouTube, cr28a) — volumétrie revendiquée par la plateforme : 8 à 9 millions de vidéos retirées par trimestre dans le monde, environ 65 000 en France.
- Simon Corsin (Mindie / Snapchat, cr28b) — prospective : l'IA lèvera bientôt la contrainte coût/qualité.
- Valentin Petit (agence CAPA, cr30c) — argument de symétrie : recommander, c'est pouvoir détecter.
- Hugo Micheron (Ceri / Sciences Po, cr30c) — modération sémantique faisable et ingénieurs disponibles en France : l'obstacle n'est pas technique.
- M. X (ancien modérateur TikTok / Teleperformance, Audition — M. X, ancien modérateur sur les réseaux sociaux) — aucun outil d'IA à disposition des modérateurs sous-traitants en 2023.