Responsabilité algorithmique et des concepteurs

Sur ce sujet, le matériau classé ne fait apparaître aucun contradicteur frontal : personne, dans les trois auditions concernées, ne défend l'idée qu'aucune responsabilité juridique ne devrait peser sur les plateformes ou sur ceux qui écrivent leurs algorithmes. Le désaccord est ailleurs, et il est net : il porte sur le point d'application de cette responsabilité — la société, l'ingénieur, ou le système d'exploitation du téléphone — et sur le levier à employer.

Bruno Patino (cr04c) fixe le premier terme. Il propose de « mesurer les impacts de ce dernier sur la santé mentale ou sur l’attention par exemple et d’en rendre responsables les sociétés concernées, en développant des mécanismes de prévention, d’alerte, puis d’interdiction, comme nous le ferions avec des industriels qui commercialiseraient de la nourriture empoisonnant les individus ou les rendant obèses ». L'analogie alimentaire fait tout le travail : elle traite l'algorithme comme un produit mis sur le marché, dont les effets se constatent en aval sans qu'on ait à ouvrir la boîte. Patino assume d'ailleurs d'écarter le levier concurrent, la transparence : « Il ne s’agit pas de transparence, parce que certains aspects sont couverts par le secret des affaires et que très peu de gens sont capables de comprendre l’évolution quotidienne d’un algorithme. » Le présupposé est explicite — si l'on ne peut pas comprendre le mécanisme, on juge les effets.

Joëlle Toledano (cr16b) pousse le curseur d'un cran, jusqu'aux individus : « engager la responsabilité des acteurs, y compris, comme on le voit aux États-Unis, les personnes chargées de fabriquer les algorithmes. » Elle relève elle-même qu'une telle piste susciterait une opposition politique extraordinaire — la proposition est donc avancée avec la conscience de son coût. Guilhem Julia (cr16b) attaque par la gouvernance plutôt que par le produit : « Lorsqu’on fait un signalement, qui décide d’y faire droit ou non ? C’est la plateforme elle‑même, ce qui soulève un vrai problème de gouvernance d’internet en général. » Son cadrage est ouvertement à charge — pour lui, « TikTok incarne en effet, à mes yeux, la quintessence des dangers que représente un réseau social » : c'est une opinion de juriste, qu'il présente comme telle, non un constat établi.

La seule voix de plateforme du matériau ne se dérobe pas mais déplace. Sarah Bouchahoua, pour Snapchat (cr30b), reconnaît que « les plateformes sont les principales responsables de la vérification de l'âge et nous continuerons d'ailleurs d'investir sur ce sujet », avant le « Néanmoins » qui porte l'essentiel : « les OS devraient nous transférer des signaux ». Le principe est accepté, la charge opérationnelle renvoyée en amont, aux systèmes d'exploitation.

En arrière-plan, la rapporteure Laure Miller (cr04c) tient ouverte la question de périmètre : « Pensez-vous que cette distinction entre le grand public et les plus fragiles d’entre nous soit pertinente pour atteindre notre objectif de régulation ou de contrôle de l’algorithme ? » — réguler pour les mineurs, ou pour tous.

Qui en parle

• Bruno Patino — Arte France (cr04c, 2025-04-23) : responsabilité par les effets mesurés, sanction graduée sur le modèle des industriels de l'alimentation ; écarte la transparence comme levier.
• Joëlle Toledano — Université Paris Dauphine-PSL / Conseil national du numérique (cr16b, 2025-05-26) : étend la responsabilité aux concepteurs d'algorithmes eux-mêmes, sur le modèle américain.
• Guilhem Julia — maître de conférences en droit privé, Université Sorbonne Paris-Nord (cr16b, 2025-05-26) : cadrage à charge sur TikTok ; conteste l'auto-arbitrage des signalements par la plateforme et plaide un contrôle externe.
• Sarah Bouchahoua — Snapchat (cr30b, 2025-06-24) : reconnaît la responsabilité première des plateformes sur la vérification de l'âge, tout en réclamant des signaux transmis par les systèmes d'exploitation.
• Laure Miller — rapporteure, EPR (cr04c, 2025-04-23) : question de cadrage sur le périmètre de la régulation (mineurs seuls ou tous les publics), sans position exprimée.