Qui est auditionné
Soizic Pénicaud est cofondatrice (novembre 2024, avec Camille Girard-Chanudet et Estelle Hary) de l'Observatoire des algorithmes publics (Odap), association bénévole, indépendante et sans financement qui inventorie les algorithmes utilisés par l'administration française pour en accroître la transparence. Consultante et chercheuse en politique publique du numérique, enseignante à Sciences Po, ancienne de la direction interministérielle du numérique (Dinum), elle est reçue par la commission d'enquête présidée par Philippe Latombe (rapporteure Cyrielle Chatelain), sous la présidence de séance de la vice-présidente Isabelle Rauch. Son angle : moins la souveraineté que la nature politique et l'opacité des systèmes algorithmiques publics.
La substance
Sa thèse centrale : les algorithmes publics « ne sont ni neutres ni autonomes. Ils sont le produit de choix, qui sont toujours des choix politiques ». Il ne s'agit donc pas « d'améliorer les algorithmes » mais « de repenser les politiques publiques que les algorithmes mettent en œuvre » : « si les politiques publiques sont de plus en plus coercitives et sécuritaires, les algorithmes seront proportionnellement plus coercitifs ».
Elle recadre le débat : « l'IA générative, qui capte l'attention aujourd'hui, est en quelque sorte l'arbre qui cache la forêt de l'automatisation globale des services publics ». Les systèmes les plus lourds de conséquences sont techniquement banals — l'algorithme de scoring de risque de la Cnaf, qui contrôle les allocataires, « repose sur une simple régression logistique » — et « les systèmes les plus critiques sont souvent les moins publiés ». Malgré un cadre pionnier (loi République numérique du 7 octobre 2016), la transparence reste lacunaire (existence, budgets, prestataires, infrastructures, effets), et le blocage est d'abord « culturel ».
Chiffres et cas marquants : l'inventaire Odap recense 120 systèmes (édition 2025, 70 contributeurs bénévoles), dont 14 seulement avec information budgétaire ; les Pays-Bas en documentent 1 384 sans être à l'abri d'un nouveau scandale prédictif. Sur les vulnérabilités des chaînes de sous-traitance : FranceConnect (données copiées par un sous-traitant puis dérobées), CAF de Gironde 2023 (données de 10 000 allocataires en ligne pendant des années). Sur le cloud : « développer des systèmes en interne, en France, ne prémunit pas contre certains risques, en raison du stockage des données qui requiert de recourir à des prestataires de cloud, notamment Microsoft Azure », choisis pour la simplicité sans évaluer les dépendances (rapport Cour des comptes sur France Travail). Sur le détournement d'usage : données aériennes utilisées au Royaume-Uni contre la fraude sociale ; aux États-Unis, interconnexion sécurité sociale/immigration sous Trump et un membre du Doge d'Elon Musk qui « a emporté les données de la sécurité sociale américaine sur une clé USB ».
Les enjeux et confrontations
Le moment le plus frappant est un recadrage de la commission elle-même : « nous n'employons pas, à l'Odap, ce terme de souveraineté, que nous jugeons équivoque ». À l'appui, l'enquête technique (avec Paul Bouchaud, publiée dans Mediapart avec Clément Pouré) sur Mistral AI : entraînement sur des contenus protégés, absence de garde-fous contre leur restitution — « ce que font la plupart des entreprises américaines » — et non-respect des robots.txt de sites de presse (Radio France, Mediapart). Le champion national fait donc moins que les acteurs américains, ce qui renverse le récit souverainiste et interroge « la politique industrielle que nous souhaitons soutenir ».
Les députés tirent l'audition vers leurs lignes respectives. Latombe (DEM) plaide une souveraineté sélective (l'INA et Whisper d'OpenAI pour le sous-titrage vs la Cnaf où un modèle étranger serait dangereux, comme l'ont montré les Néerlandais) et teste la capacité réelle de l'État à être maître d'œuvre ; il interroge aussi l'open source/open weight. Saint-Martin (LFI) oriente vers les libertés publiques et le contrôle social des « assistés » par la Cnaf. Saulignac (SOC) cherche à établir que la moindre dépense sacrifie l'indépendance — Pénicaud nuance : ce qui prime est « la performance » et la simplicité, pas d'abord le moindre coût. Elle reste prudente et signale ses limites (pas de méthodologie d'audit, pas d'avis tranché sur les budgets de l'État), sans esquive notable.
Ce que l'audition apporte
Elle fournit à la commission une grille alternative : penser dépendances et vulnérabilités par les infrastructures et les chaînes de sous-traitance plutôt que par les seuls biais, et pointer un vide juridique — « aucune sanction n'est prévue » quand une administration ignore le cadre de transparence. Responsabilités désignées (administrations opaques, dépendance à Azure, Mistral) et préconisations actionnables : renforcer les moyens et pouvoirs de la Cada (et de la Cnil, du Défenseur des droits au titre de l'article 77 du RIA), réinternaliser les compétences techniques dans l'État sans les compartimenter (modèle « entrepreneur d'intérêt général »), et contraindre les éditeurs à publier leurs codes sources pour permettre les audits externes.