Soizic Pénicaud

Role dans la commission : Personne auditionnee

Biographie

Soizic Pénicaud est une chercheuse et consultante indépendante spécialisée dans les politiques publiques du numérique, en particulier les enjeux éthiques et les usages de l'intelligence artificielle dans le secteur public.

Formée en droit et science politique à l'université Paris 1 Panthéon-Sorbonne, elle est également titulaire d'un master en éducation et numérique du Centre de recherches interdisciplinaires (CRI). Elle rejoint en 2017 Etalab, la mission des services du Premier ministre chargée de la politique de la donnée de l'État (données ouvertes, transparence de l'action publique), où elle occupe notamment la fonction de responsable du renforcement des capacités et de l'animation de communauté (« Head of Capacity and Community Building »).

Elle a mené des travaux de recherche sur la plateforme Parcoursup, sous la direction du sociologue Dominique Cardon, ainsi que sur les algorithmes de scoring du risque utilisés par la branche famille de la Sécurité sociale (Cnaf), dont elle documente le sur-ciblage des populations les plus précaires. Elle enseigne à l'École des affaires publiques de Sciences Po Paris et se présente comme chercheuse et spécialiste des politiques d'IA et des droits numériques (« Researcher and Policy Specialist, AI and Digital Rights »).

En 2023, elle cofonde l'Observatoire des algorithmes publics (Odap) avec Estelle Hary et Camille Girard-Chanudet. Cette association recense et documente les algorithmes utilisés par les administrations françaises pour en accroître la transparence et l'évaluation indépendante, avec l'objectif d'outiller les associations et collectifs engagés pour l'égalité des droits et la justice sociale. Son inventaire, dans sa deuxième édition (novembre 2025), recensait environ 120 algorithmes publics et pointait une opacité persistante malgré les obligations légales de transparence. Elle est par ailleurs engagée contre les discriminations produites par les systèmes automatisés (via le collectif Changer de Cap) et contre le cyberharcèlement (Féministes contre le cyberharcèlement).

Orientation connue : positionnement de recherche indépendante et critique, centré sur les droits fondamentaux, la transparence et l'analyse des choix politiques inscrits dans les algorithmes publics ; l'Odap se revendique explicitement en appui aux acteurs de l'égalité des droits.

(À ne pas confondre avec Muriel Pénicaud, ancienne ministre du Travail : aucun lien.)

Dans la commission

Auditionnée (Mme Soizic Pénicaud) en qualité de cofondatrice de l'Observatoire des algorithmes publics (Odap), Soizic Pénicaud déplace le regard de la commission : l'enjeu de souveraineté ne se limite pas aux grands modèles d'IA générative, mais concerne l'automatisation, souvent invisible, des services publics eux-mêmes.

• Thèse centrale — les algorithmes publics sont des choix politiques. « les algorithmes publics ne sont ni neutres ni autonomes. Ils sont le produit de choix, qui sont toujours des choix politiques » (Mme Soizic Pénicaud). Elle en tire une conclusion de fond : « Il ne s'agit pas d'améliorer les algorithmes, il s'agit en réalité de repenser les politiques publiques que les algorithmes mettent en œuvre » (Mme Soizic Pénicaud), avec ce corollaire : « Si les politiques publiques sont de plus en plus coercitives et sécuritaires, les algorithmes seront proportionnellement plus coercitifs et plus sécuritaires » (Mme Soizic Pénicaud).

• L'IA générative comme « arbre qui cache la forêt ». Elle avertit que « l'IA générative, qui capte l'attention aujourd'hui, est en quelque sorte l'arbre qui cache la forêt de l'automatisation globale des services publics » (Mme Soizic Pénicaud) — citant l'algorithme de scoring de risque de la Cnaf, « une simple régression logistique » aux effets pourtant lourds sur les citoyens (Mme Soizic Pénicaud).

• Critique de la notion de souveraineté et cas Mistral. Position tranchée : « nous n'employons pas, à l'Odap, ce terme de souveraineté, que nous jugeons équivoque » (Mme Soizic Pénicaud). Elle illustre avec Mistral AI, qui selon elle s'entraîne sur des contenus protégés sans garde-fou : « il n'existe pas de garde-fou pour empêcher la restitution de ces contenus […] il n'avertit pas qu'ils sont protégés par le droit d'auteur, ce que font la plupart des entreprises américaines » (Mme Soizic Pénicaud) — montrant qu'une entreprise française n'est pas, en soi, une garantie.

• Dépendances cachées de l'internalisation. Elle nuance l'idée du « développer en interne » : « Développer des systèmes en interne, en France, ne prémunit pas contre certains risques, en raison du stockage des données qui requiert de recourir à des prestataires de cloud, notamment Microsoft Azure » (Mme Soizic Pénicaud), et alerte sur le détournement d'usage des infrastructures (exemple du Doge d'Elon Musk emportant des données de la sécurité sociale américaine « sur une clé USB », Mme Soizic Pénicaud).

• Transparence lacunaire et absence de sanction. Malgré le cadre pionnier de 2016, « les systèmes les plus critiques sont souvent les moins publiés » (Mme Soizic Pénicaud) ; surtout, « aucune sanction n'est prévue à l'encontre des administrations si elles ne mettent pas en œuvre le cadre légal de la transparence des algorithmes publics » (Mme Soizic Pénicaud). Elle plaide pour renforcer Cada, Cnil et Défenseur des droits, réinternaliser les compétences techniques dans l'État, et « explorer la possibilité de contraindre les éditeurs à fournir les codes sources de leurs systèmes » (Mme Soizic Pénicaud).

Ligne d'ensemble : une expertise de terrain sur les algorithmes publics qui recadre le débat « souveraineté » vers la transparence, les droits fondamentaux et la responsabilité politique des choix d'automatisation.

Sources

• https://odap.fr/
• https://labo.societenumerique.gouv.fr/fr/articles/lobservatoire-des-algorithmes-publics-vers-plus-de-transparence-de-laction-publique/
• https://expertes.fr/expertes/76789-soizic-p%C3%A9nicaud/
• https://www.horizonspublics.fr/numerique/soizic-penicaud-les-collectivites-ont-un-pouvoir-dagir-sur-les-systemes-dia
• https://www.archimag.com/vie-numerique/2024/06/25/soizic-penicaud-valerie-pras-services-publics-technologies-discriminations
• https://next.ink/158286/interview-efficacite-cout-des-algorithmes-publics-les-administrations-manquent-de-transparence/
• https://www.lagazettedescommunes.com/1041037/lia-generative-cache-la-foret-de-lautomatisation/
• https://trench-tech.fr/podcast/soizic-penicaud-algorithmes-service-public-ia-danger-democratie/
• https://www.linkedin.com/in/soizic-p%C3%A9nicaud-33216bb3/ (profil professionnel : Etalab, Sciences Po, Odap)