Domaine : Algorithme de recommandation & amplification · Sujet : amplification-enfermement
Couverture : 37 citations · 4 positions · 11 auditions
_Slugs bruts fusionnés : amplification-algorithmique, algorithme-enfermant, enfermement-algorithmique, spirale-enfermement, effet-terrier-lapin-algorithme, effet-bulle-biais-editorial, bulles-de-filtre, bulle-filtre-radicalisation, algorithme-bulle-recommandation, pouvoir-algorithmique, viralite-portee_
Positions exprimées
- M. Hugo Micheron (cr30c) : L'algorithme constitue un pouvoir sans contre-pouvoir, « éditorialisé » et « arsenalisé », paramétré par des humains selon leurs intérêts. _(tranchant 5)_
- Mme Lucile Coquelin (cr06b) : Faddoul : l'enjeu prioritaire n'est pas la modération de contenu mais l'amplification algorithmique, fondée presque exclusivement sur la maximisation de l'engagement, qui produit addiction, sensationnalisme et exploitation des vulnérabilités. _(tranchant 4)_
- M. Mehdi Arfaoui (cr03b) : TikTok est structurellement l'application la plus enfermante et répétitive du marché (défilement, répétition, algorithme), la plus efficace pour marteler un même message — thèse portée par Laurence Allard ; Jérôme Pacouret la nuance fortement en rappelant que les usagers fréquentent plusieurs plateformes sans s'enfermer dans une seule. _(tranchant 3)_
- Mme Sarah Sauneron (Mme Sarah Sauneron) : Il faut imposer aux plateformes une diversification des contenus et une part d'aléatoire pour briser les bulles de filtres, en particulier face aux algorithmes les plus performants. _(tranchant 3)_
Citations (verbatim, sourcées)
« chaque interaction avec une vidéo, le temps passé, le nombre de répétitions, le swipe – l’action de passer à la vidéo suivante – ou encore les partages, sont intégrés au profilage de chaque utilisateur, c’est-à-dire au portrait qui est fait de lui et dont dépendent les vidéos proposées ensuite. »
— Mme Jennifer Elbaz — CNIL (mission éducation au numérique) (audite, audition cr03b, 2025-04-03)
_Explique la mécanique de profilage par la donnée comportementale — angle CNIL (données personnelles). Chaque interaction devient une donnée._
« Le fonctionnement s’apparente à celui d’un mégaphone qui se serait enrayé : le même slogan revient une fois, deux fois, trois fois, etc. Il est donc très aisé de propager des messages de propagande. »
— Mme Laurence Allard — Université Sorbonne Nouvelle / Université de Lille (audite, audition cr03b, 2025-04-03)
_Image forte : la structure répétitive de TikTok facilite la propagande. Analyse sémiotique de la forme, pas d'accusation d'un acteur précis._
« En raison de sa structure formelle répétitive et de cet algorithme enfermant, TikTok est doublement répétitif, très efficace pour exposer les utilisateurs au même type de messages. Développée après toutes les autres, c’est l’application la plus performante pour affirmer et réaffirmer des contenus. »
— Mme Laurence Allard — Université Sorbonne Nouvelle / Université de Lille (audite, audition cr03b, 2025-04-03)
_Thèse centrale d'Allard : TikTok serait l'application la plus enfermante du marché. Affirmation d'expertise, contestée ensuite par Pacouret._
« Certains utilisateurs, toujours exposés au même type de contenus, considèrent qu’ils se trouvent dans un espace sécurisé, parfois appelé safe place. Évidemment, il arrive que les contenus ne soient pas très safe et soient même violents ou porteurs d’une idéologie, ce qui peut devenir très préoccupant. »
— Mme Laurence Allard — Université Sorbonne Nouvelle / Université de Lille (audite, audition cr03b, 2025-04-03)
_Nuance ambivalente : l'enfermement algorithmique est vécu comme sécurisant mais peut enfermer dans du contenu violent ou idéologique._
« il suffit de s’arrêter un peu plus longtemps que d’habitude sur une vidéo, y compris parce qu’elle vous choque, pour que l’algorithme vous en propose de similaires. Cela peut avoir un effet extrêmement nocif. »
— Mme Laure Miller — EPR (rapporteur, audition cr03b, 2025-04-03)
_La rapporteure avance sa thèse : l'algorithme amplifie les contenus sur lesquels on s'arrête, même par sidération, avec un effet potentiellement nocif. Affirmation orientée, non un constat des chercheurs._
« Devant un réseau social, on a l’impression qu’on vous présente quelque chose d’universel, puisqu’il y a plus de 1 milliard d’utilisateurs. Or ce n’est pas du tout le cas, car la vision qui vous est proposée est vraiment biaisée selon vos goûts et vos choix sur la plateforme. »
— Serge Abiteboul — Inria / ENS (audite, audition cr05a, 2025-04-23)
_Cœur de l'effet de bulle : l'illusion d'universalité masque un biais individualisé, sans que l'utilisateur en ait conscience._
« Si vous avez tendance à croire que la Terre est plate, ou si simplement vous vous posez la question, vous allez d’un seul coup être inondé de vidéos « platistes » qui vont vous maintenir dans l’erreur – et sans que vous en ayez conscience. »
— Serge Abiteboul — Inria / ENS (audite, audition cr05a, 2025-04-23)
_Illustration concrète de l'enfermement algorithmique et de la désinformation renforcée par la recommandation._
« l’utilisateur de ces plateformes ne se voit offrir aucun choix en matière de modération et de recommandation : il est peu ou prou considéré comme une marchandise. »
— Serge Abiteboul — Inria / ENS (audite, audition cr05a, 2025-04-23)
_Diagnostic de fond : l'absence de choix de l'utilisateur sur modération/recommandation le réduit à une marchandise ; fonde la proposition de lui redonner le contrôle._
« Ainsi, selon une étude d’AI Forensics, un utilisateur suivant du contenu lié à une rupture amoureuse se retrouve, en moins d’une demi-heure, exposé à du contenu lié aux dépressions, puis à des idées suicidaires. »
— Marc Faddoul — AI Forensics (audite, audition cr06b, 2025-04-29)
_Chiffre/mécanisme au cœur du sujet de la commission, explicitement attribué à une étude d'AI Forensics (dont Faddoul est cofondateur) : un enchaînement rapide vers des idées suicidaires. Affirmation sourcée par l'organisation de l'auditionné, non un constat indépendant._
« J’enrage souvent à la pensée que les plateformes ont documenté ces effets pervers de leurs algorithmes, comme l’ont révélé l’affaire des Facebook files et l’alerte lancée par Mme Frances Haugen. »
— Olivier Ertzscheid — Université de Nantes / sciences de l'information et de la communication (audite, audition cr06b, 2025-04-29)
_Étaie la thèse du déni par des références documentées (Facebook files, lanceuse d'alerte Frances Haugen) : les plateformes connaîtraient leurs effets pervers mais refuseraient les correctifs menaçant leur modèle._
« Ce fonctionnement crée une bulle algorithmique dans laquelle l'individu est enfermé dans un flux de contenus similaires mais subtilement variés. »
— Michael Stora — Observatoire des mondes numériques en sciences humaines (audite, audition cr07b, 2025-05-02)
_Décrit l'enfermement algorithmique de TikTok ; caractérisation de l'auditionné, qui précise par ailleurs ne pas être spécialiste des algorithmes d'IA._
« L'une d'entre elles consiste, après cinq à dix minutes de navigation, à insérer délibérément une vidéo sans lien apparent avec les préférences habituelles de l'utilisateur, souvent anxiogène ou dissonante. »
— Michael Stora — Observatoire des mondes numériques en sciences humaines (audite, audition cr07b, 2025-05-02)
_Décrit une technique intentionnelle de rétention par rupture cognitive, sur Instagram et TikTok ; description avancée par l'auditionné, non documentée par une source technique._
« pourriez-vous préciser s'il existe, selon vous, des éléments propres à TikTok qui la rendent particulièrement problématique par rapport aux autres réseaux sociaux ? »
— Arthur Delaporte (president, audition cr07b, 2025-05-02)
_Le président recentre l'audition sur la spécificité de TikTok, objet même de la commission, après une intervention qui relativisait son rôle._
« Par exemple, une jeune fille qui se livre à des pratiques d’automutilation peut rapidement se retrouver exposée à des contenus encourageant des pratiques plus dangereuses ou des méthodes pour dissimuler ces comportements. »
— Emmanuelle Piquet (audite, audition cr09b, 2025-05-13)
_Décrit un mécanisme d'aggravation algorithmique pour les adolescentes vulnérables. Affirmation clinique de l'auditionnée sur le fonctionnement de l'exposition aux contenus, non une démonstration causale chiffrée._
« De ce point de vue, TikTok contribue indéniablement à amplifier cette tendance qui est, à mes yeux, d’une extrême dangerosité. »
— Emmanuelle Piquet (audite, audition cr09b, 2025-05-13)
_Point le plus à charge contre TikTok dans l'audition : un rôle amplificateur, formulé comme conviction personnelle (« à mes yeux ») plutôt qu'établi par une mesure. Amplification, non origine du phénomène._
« Je partage l'opinion selon laquelle certains usages des réseaux sociaux peuvent exacerber un mal-être préexistant, particulièrement via TikTok et son effet « terrier de lapin ». »
— Emmanuelle Piquet (audite, audition cr09b, 2025-05-13)
_Concède un effet aggravant de TikTok via l'enfermement algorithmique (« terrier de lapin »), tout en le cadrant comme amplificateur d'un mal-être préexistant (correlation vs causalité). Nuance importante._
« Bien qu'il n'y ait pas de consensus sur la nature exacte de ce lien, il semble y avoir un accord sur le rôle amplificateur des réseaux sociaux dans l'exacerbation du mal-être préexistant chez les jeunes. »
— Laure Miller — EPR (rapporteur, audition cr09b, 2025-05-13)
_La rapporteure pose le cadre prudent de la commission : rôle amplificateur admis, causalité non établie. Cadrage qui oriente ensuite ses questions._
« J'aimerais connaître votre opinion sur l'effet amplificateur des réseaux sociaux, en particulier concernant les jeunes filles. Pensez-vous qu'elles appréhendent différemment TikTok et les autres plateformes par rapport aux garçons ? »
— Laure Miller — EPR (rapporteur, audition cr09b, 2025-05-13)
_Question de la rapporteure ciblant la dimension genrée de l'usage de TikTok, en écho aux chiffres sur les filles avancés par l'auditionnée._
« Au début, je voyais beaucoup de contenus qui me ressemblaient – de musique, d’art, de crochet, de cinéma –, mais, de fil en aiguille, ces contenus se sont obscurcis. »
— Mme X (audite, audition cr11a, 2025-05-15)
_Décrit la bascule algorithmique du fil, d'intérêts sains vers des contenus « obscurs ». Établit, du point de vue de la témoin, le mécanisme de dérive ; ne constitue pas une preuve technique du fonctionnement de l'algorithme._
« Je suis assez vite tombée dans une sphère mortifère, parce que j’ai « liké » certaines de ces musiques, qui me parlaient : j’allais déjà un peu mal avant d’aller sur TikTok, mais cela s’est aggravé avec ces contenus. »
— Mme X (audite, audition cr11a, 2025-05-15)
_Nuance essentielle pour la neutralité : la témoin reconnaît un mal-être antérieur à TikTok tout en affirmant une aggravation. Illustre la distinction corrélation/causalité — c'est un vécu, non un lien de causalité établi._
« Ce personnel médical m’a aidé, mais ces vidéos nocives m’ont tiré vers le bas et j’ai développé une sorte d’addiction : à mesure que je tombais sur plus de vidéos, c’était de pire en pire. »
— M. Z (audite, audition cr11a, 2025-05-15)
_Emploie le terme « addiction » et décrit une aggravation cumulative. Ressenti du témoin ; le diagnostic d'addiction aux contenus n'est pas posé médicalement dans l'audition._
« Merci pour vos témoignages précieux, qui font écho aux auditions des professionnels, qui nous expliquaient qu’on peut en effet, en consultant ces contenus, se sentir appartenir à une communauté et se sentir rassuré, voire protégé, même si l’on sait, au fond de soi, que c’est malsain. »
— Laure Miller — EPR (rapporteur, audition cr11a, 2025-05-15)
_La rapporteure relie les témoignages aux auditions des professionnels sur l'effet de « communauté » des contenus de mal-être. Établit la convergence entre vécu et expertise déjà entendue._
« Il apparaît que l’algorithme de TikTok est vraiment très puissant et rapide et détecte ces phénomènes. »
— Nicolas Deffieux — PEReN (audite, audition cr18e, 2025-05-27)
_Constat mesuré par expérimentation (smartphones instrumentés) sur la rapidité de détection d’intérêt par l’algorithme ; établit la performance technique, sans se prononcer sur les effets psychologiques._
« les algorithmes favorisent l’enfermement des jeunes dans une bulle de filtre, ayant pour effet de renforcer leurs opinions et limiter l’accès à la diversité des idées, ce qui peut contribuer à leur isolement et à leur radicalisation. »
— Marie-Laure Denis — CNIL (audite, audition cr20a, 2025-06-02)
_Affirmation de la CNIL formulée au conditionnel de possibilité (« peut contribuer ») — lien avec isolement/radicalisation présenté comme un risque, non comme un fait établi._
« Je mentionne l’exemple récent de l’utilisation détournée de TikTok au profit du candidat pro-russe lors de l’élection présidentielle roumaine, qui a conduit la Cour constitutionnelle à annuler le premier tour de scrutin. »
— Marie-Laure Denis — CNIL (audite, audition cr20a, 2025-06-02)
_Exemple géopolitique d'usage de TikTok à des fins d'ingérence électorale — fait attribué à une décision de la Cour constitutionnelle roumaine, cité pour illustrer la capacité d'influence._
« À ce titre, TikTok, par l’efficacité de ses algorithmes, illustre de manière emblématique ces dérives. »
— Sarah Sauneron — Direction générale de la santé (DGS) (audite, audition de Mme Sarah Sauneron, 2025-06-16)
_La DGS ne cible pas TikTok en propre mais le désigne comme cas emblématique des dérives algorithmiques ; positionnement à charge mais généralisé à toutes les plateformes._
« Une étude démontre d’ailleurs que les personnes prédisposées aux troubles du comportement alimentaire ont plus de 4 343 % de risques supplémentaires d’être exposées à des vidéos concernant ce type de troubles. »
— Sarah Sauneron — Direction générale de la santé (DGS) (audite, audition de Mme Sarah Sauneron, 2025-06-16)
_Chiffre spectaculaire attribué à une étude non nommée par la DGS ; renseigne sur l'amplification algorithmique auprès des publics prédisposés, mais la source précise n'est pas citée dans l'audition._
« Notre approche consiste à imposer une diversification des contenus et à introduire une part d’aléatoire pour contrer les mécanismes de personnalisation algorithmique et limiter la formation systématique de ces bulles de filtres, particulièrement face aux algorithmes les plus performants. »
— Kerian Berose-Perez — Direction générale de la santé (DGS) (audite, audition de Mme Sarah Sauneron, 2025-06-16)
_Piste concrète de régulation défendue par la DGS : imposer diversification et aléatoire dans la recommandation, principalement via le DSA._
« Il semble que chaque jour sont visionnés dans le monde l’équivalent de 120 000 années de vidéos. Or, sur ces 120 000 années de vidéos, les trois quarts sont en réalité des vidéos qui sont le fruit d’une recommandation algorithmique. »
— Mme Laure Miller — EPR (rapporteur, audition cr28b, 2025-06-17)
_Chiffre avancé par la rapporteure (120 000 années de vidéos/jour, dont trois quarts issus de recommandation) pour illustrer le poids des algorithmes — chiffre attribué à la rapporteure, source non précisée dans l'échange._
« Or nous avons l’impression que cette prime à la radicalité est encore plus importante sur TikTok que sur d’autres réseaux. »
— M. Arthur Delaporte (president, audition cr28b, 2025-06-17)
_Le président avance une impression (« prime à la radicalité » plus forte sur TikTok), à partir de l'exemple des extraits d'auditions montés et viralisés — appréciation du président, explicitement formulée comme une impression, non un fait mesuré._
« Aujourd’hui, il existe un nouveau pouvoir, le pouvoir algorithmique, qui, pour l’instant, ne fait face à aucun contre-pouvoir. »
— Hugo Micheron — Ceri / Sciences Po (audite, audition cr30c, 2025-06-24)
_Thèse centrale de Micheron : l'algorithme constitue un pouvoir inédit échappant à la séparation classique des pouvoirs. Affirmation d'analyste, non un fait juridique établi._
« on constate que les algorithmes sont arsenalisés »
— Hugo Micheron — Ceri / Sciences Po (audite, audition cr30c, 2025-06-24)
_Terme fort (« arsenalisés ») : Micheron soutient que les algorithmes sont retournés en armes politiques. Interprétation du chercheur appuyée sur des cas (Musk, Roumanie), pas une démonstration causale universelle._
« Cette société dit publiquement ne pas avoir la capacité d’agir sur les algorithmes ; on ne pourrait donc rien y faire, et pourtant leur comportement montre clairement l’existence d’une éditorialisation. »
— Hugo Micheron — Ceri / Sciences Po (audite, audition cr30c, 2025-06-24)
_Contredit frontalement la défense de TikTok (« on ne peut pas agir sur l'algorithme »). Le mot « éditorialisation » est l'argument central de la charge._
« Les mêmes algorithmes font la promotion de contenus très radicaux liés au salafisme et au djihadisme, à l’extrême droite et à d’autres mouvances dites à risque, mais censurent en Chine ce qui concerne la répression des Ouïghours et font la promotion des sciences mathématiques auprès des jeunes. »
— Hugo Micheron — Ceri / Sciences Po (audite, audition cr30c, 2025-06-24)
_Argument-clé : la capacité de TikTok à censurer/promouvoir selon les pays prouverait qu'un paramétrage humain existe. Affirmation d'analyste appuyée sur des observations, non une expertise contradictoire de la plateforme._
« je suis absolument convaincu qu’on ne réglera pas le problème du djihadisme tant que, dans l’état actuel des choses, on n’aura pas empêché TikTok de fonctionner comme il le fait actuellement. »
— Hugo Micheron — Ceri / Sciences Po (audite, audition cr30c, 2025-06-24)
_Position la plus tranchée de l'audition : conditionner la lutte contre le djihadisme à une réforme du fonctionnement de TikTok. Conviction personnelle affichée comme telle._
« Un tweet qui a 120 ou 200 vues n’est rien par rapport à une vidéo qui en a des millions sur TikTok. »
— Sophie Taïeb — Crif (audite, audition cr30c, 2025-06-24)
_La spécificité de TikTok serait moins la nature des contenus (présents ailleurs) que leur ampleur de diffusion. Nuance importante face aux comparaisons entre plateformes._
« Cela ne signifie pas que 300 000 personnes ont regardé la vidéo en entier, mais que ce contenu a été conseillé à 300 000 personnes : la nuance est importante. »
— Valentin Petit — agence CAPA (audite, audition cr30c, 2025-06-24)
_Nuance méthodologique importante sur la lecture des chiffres de vues : exposition recommandée ≠ visionnage complet. Prudence à décharge dans l'interprétation des métriques._