Algorithmes publics et décisions automatisées
Le corpus aborde ce sujet à travers trois auditions, mais la matière provient très majoritairement de Mme Soizic Pénicaud, de l'Observatoire des algorithmes publics (Odap, Mme Soizic Pénicaud). Sa thèse centrale est que « les algorithmes publics ne sont ni neutres ni autonomes. Ils sont le produit de choix, qui sont toujours des choix politiques » (Mme Soizic Pénicaud). Elle en tire une conséquence directe : « il ne s'agit pas d'améliorer les algorithmes, il s'agit en réalité de repenser les politiques publiques que les algorithmes mettent en œuvre » (Mme Soizic Pénicaud). Selon elle, un algorithme reflète et amplifie la nature de la politique qu'il exécute : « si les politiques publiques sont de plus en plus coercitives et sécuritaires, les algorithmes seront proportionnellement plus coercitifs et plus sécuritaires » (Mme Soizic Pénicaud).
Un constat partagé de recadrage traverse ces interventions : l'attention portée à l'IA générative masquerait l'essentiel. Pour Pénicaud, celle-ci est « en quelque sorte l'arbre qui cache la forêt de l'automatisation globale des services publics » (Mme Soizic Pénicaud). Elle illustre par des systèmes simples mais lourds de conséquences, comme « l'algorithme d'attribution de scores de risque de la Cnaf [...] qui repose sur une simple régression logistique » mais « susceptible d'affecter fortement les citoyens » (Mme Soizic Pénicaud).
Sur la transparence, elle juge le cadre pionnier de 2016 gravement lacunaire : « aucune sanction n'est prévue à l'encontre des administrations si elles ne mettent pas en œuvre le cadre légal de la transparence » (Mme Soizic Pénicaud), et « les systèmes les plus critiques sont souvent les moins publiés » (Mme Soizic Pénicaud). Le blocage serait d'abord culturel. Un point de clivage émerge ici entre l'argument français (le risque cyber justifierait la non-publication) et le modèle britannique qu'elle cite, où l'on juge « préférable de patcher les algorithmes plutôt que de refuser de les publier » (Mme Soizic Pénicaud). Elle plaide pour « contraindre les éditeurs à fournir les codes sources de leurs systèmes » (Mme Soizic Pénicaud). Elle conteste enfin la neutralité prêtée aux outils d'assistance (transcription, résumé) : une « étude sur la transcription dans le secteur social au Royaume-Uni démontre que des systèmes de résumé d'entretiens étaient biaisés contre les femmes, en minimisant leurs problèmes de santé » (Mme Soizic Pénicaud). Elle cite aussi l'usage par l'INA de Whisper, modèle local d'OpenAI, pour des tâches jugées peu critiques (Mme Soizic Pénicaud).
M. Henri Verdier (Fondation Inria, M. Henri Verdier) déplace la focale vers le « management algorithmique » et la domination des chaînes de valeur, résumé par sa formule : « nous sommes tous en passe de devenir des chauffeurs Deliveroo ! » (M. Henri Verdier). Enfin, M. Emmanuel Marcovitch (M. Emmanuel Marcovitch) note que la certification HDS (Doctolib) « n'intègre aucun critère de souveraineté » et recommande de l'aligner sur SecNumCloud contre le droit extra-européen.
Qui en parle
- Mme Soizic Pénicaud (Observatoire des algorithmes publics, Mme Soizic Pénicaud) — voix dominante du sujet : algorithmes publics = choix politiques ; transparence de 2016 réelle en droit mais sans sanction ; systèmes critiques sous-publiés ; biais des outils d'assistance ; propose l'obligation de fournir les codes sources.
- M. Henri Verdier (Fondation Inria, M. Henri Verdier) — déplace l'enjeu vers le management algorithmique et la dégradation du travail (« chauffeurs Deliveroo »).
- M. Emmanuel Marcovitch (Cour des comptes, M. Emmanuel Marcovitch) — la certification HDS n'a pas de critère de souveraineté ; recommande de l'aligner sur SecNumCloud.