IA de défense et sécurité
Les auditions abordent l'IA de défense et de sécurité sous trois angles convergents : sa capacité offensive réelle, l'impossibilité de la certifier, et le contrôle humain et éthique qui doit l'encadrer.
Un constat partagé sur la nature de la menace. Plusieurs intervenants s'accordent pour relativiser l'idée d'une rupture. Selon M. Vincent Strubel (ANSSI, M. Vincent Strubel), le modèle Mythos représente « moins une rupture qu'une étape marquante dans une trajectoire déjà engagée » : il ne peut pas « conduire de manière autonome une cyberattaque de bout en bout », mais « peut fournir à un attaquant humain des éléments crédibles, tant pour la détection des failles que pour leur exploitation ». Le président M. Philippe Latombe (M. Vincent Strubel) souligne toutefois l'importance du phénomène en rappelant que « le président de la Réserve fédérale américaine [a convoqué] les banquiers pour leur dire d'y recourir face à un risque jugé réel ».
Une alerte technique majeure : l'impossibilité de certifier l'IA. Strubel (M. Vincent Strubel) livre un aveu central : « aucune méthode ne permet aujourd'hui d'apporter à ces systèmes des garanties de sécurité comparables à celles que l'on peut offrir pour un logiciel classique. Leur évaluation demeure imparfaite et leur certification n'est pas maîtrisée. » Il identifie un risque systémique propre à l'IA : « là où des développeurs commettent des fautes variées, une IA peut systématiser un même défaut », ouvrant un « risque de vulnérabilités à grande échelle » — un chantier prioritaire de l'Inesia.
Le contrôle humain fait consensus. Selon M. Dominique Luzeaux (OTAN ACT / ancien Agence du numérique de défense, M. Dominique Luzeaux), « l'Otan obéit au principe du HITL (Human In The Loop) : aucune décision n'est automatisée de bout en bout ». Il note aussi que « l'open source est à la fois une réponse et une vulnérabilité » (exemple Yandex/GitHub) et adhère explicitement à un cadre éthique pour l'IA de défense.
Un clivage sur le rôle éthique des industriels. La rapporteure Mme Cyrielle Chatelain (EcoS, M. Dominique Luzeaux) cite nommément Anthropic comme modèle d'auto-limitation, ayant « refusé de participer à des tirs de missiles sans intervention humaine ou à des opérations de surveillance de masse ». M. Arthur Mensch (Mistral AI, M. Arthur Mensch) prend une position opposée : l'IA est « au cœur des centres opérationnels des armées », donc régalienne, mais « nous n'avons pas la légitimité pour expliquer aux armées ce qu'elles peuvent ou ne peuvent pas faire de la technologie ». Il en tire un impératif de souveraineté : « on ne peut pas envisager que les bases de code de l'armée française soient scannées par Mythos. »
Qui en parle
- M. Vincent Strubel (ANSSI, M. Vincent Strubel) : l'IA n'est pas une rupture mais outille l'attaquant humain ; sa sécurité ne sait pas être certifiée et elle peut systématiser un même défaut à grande échelle.
- M. Dominique Luzeaux (OTAN ACT / ancien Agence du numérique de défense, M. Dominique Luzeaux) : contrôle humain (HITL), cadre éthique indispensable, open source à la fois atout et vulnérabilité.
- M. Arthur Mensch (Mistral AI, M. Arthur Mensch) : IA indispensable et régalienne, à maîtriser de bout en bout ; devoir de conseil de l'industriel mais aucune légitimité sur l'usage final, laissé à l'armée — position opposée à celle prêtée à Anthropic.
- Mme Cyrielle Chatelain (rapporteure, EcoS, M. Dominique Luzeaux) : interroge sur un cadre éthique pour l'IA de défense en citant l'auto-limitation d'Anthropic.
- M. Philippe Latombe (président, M. Vincent Strubel) : contextualise l'importance de Mythos par la réaction du président de la Fed.