IA agentique, évaluation et sécurité des modèles
Le corpus aborde l'IA agentique — des systèmes capables d'agir de façon autonome pour l'utilisateur — sous trois angles convergents : la sécurité, l'évaluation des modèles et la souveraineté. Quatre intervenants s'y expriment, avec des accents nettement différents.
Un constat partagé : l'IA agentique est le prochain front. Mme Christel Heydemann, d'Orange (Mme Christel Heydemann), la présente comme décisive : « La maîtrise de l'IA agentique est la bataille de l'avenir ; c'est d'elle que dépendra l'indépendance numérique, ou pas, de l'Europe. Nous ne devons pas rater la marche. » Elle plaide pour s'appuyer sur la taille critique des grands acteurs européens et sur l'open source afin de ne pas se laisser enfermer par les éditeurs propriétaires. M. Julien Rossi, de l'université Paris 8 (Mme Nataliia Bielova & M. Julien Rossi), projette pour sa part l'irruption de ces agents dans les paiements : « Demain, un robot pourrait le faire pour vous, parce que vous lui avez donné mandat de négocier avec une autre IA le prix le moins cher », en soulignant que les conséquences micro- et macro-économiques sur la fixation des prix restent mal comprises.
L'alerte sécurité la plus tranchée vient de Mme Meredith Whittaker (Signal, Mme Meredith Whittaker). Elle démythifie d'abord l'IA — « l'IA n'a rien de magique, elle n'est pas une divinité, pas davantage un ami ou un amant » — pour la ramener à un système à sécuriser. Elle qualifie l'IA agentique intégrée aux systèmes d'exploitation de « coup d'État avec un gant de velours » : une captation de la couche applicative par les trois entreprises exploitant Android, Windows et iOS/macOS, dont l'architecture « ressemble beaucoup plus à celle d'un logiciel malveillant qu'à celle d'une application ordinaire ». Elle cite un cas concret (Microsoft Recall), face auquel « Signal a dû recourir à un mécanisme de type gestion des droits numériques » pour empêcher la captation des données. Elle appelle à suspendre ces déploiements et à instaurer un droit de blocage par défaut pour les applications.
Sur l'évaluation, Mme Whittaker conteste le paradigme dominant. Selon elle, il faut évaluer les modèles sur les usages réels et de façon holistique (le système entier, pas le seul modèle), ce qui révélerait que « des modèles souvent plus modestes offrent les meilleures performances tout en réduisant notre dépendance à l'égard des hyperscalers ». Elle alerte aussi sur l'empoisonnement des données, les grands modèles n'étant pas conçus pour préserver l'intégrité des données face à ces attaques.
Un clivage éthique explicite. M. Arthur Mensch (Mistral AI, M. Arthur Mensch) prend une position opposée à celle d'Anthropic sur l'usage militaire : « Nous n'avons pas la légitimité pour expliquer aux armées ce qu'elles peuvent ou ne peuvent pas faire de la technologie », s'en tenant au devoir de conseil et laissant à l'armée, seule légitime démocratiquement, la décision d'usage.
Enfin, Mme Heydemann signale l'enjeu énergétique : la consommation des data centers « est en train d'exploser » au point qu'aux États-Unis « la fourniture d'électricité fait l'objet d'arbitrages » entre data centers, industries et population.
Qui en parle
- Meredith Whittaker — Signal Foundation (Mme Meredith Whittaker) : ligne sécurité et démythification ; l'IA agentique intégrée aux OS assimilée à un malware (« coup d'État avec un gant de velours »), appel à suspension et droit de blocage ; plaidoyer pour une évaluation holistique sur usages réels et pour les petits modèles ; alerte sur l'empoisonnement des données.
- Christel Heydemann — Orange (Mme Christel Heydemann) : ligne souveraineté ; l'IA agentique comme bataille décisive de l'indépendance numérique européenne, à mener via taille critique et open source ; alerte sur l'explosion énergétique des data centers.
- Julien Rossi — université Paris 8 / Cémti (Mme Nataliia Bielova & M. Julien Rossi) : ligne économique ; agents mandatés dans les paiements et effets encore mal compris sur la fixation des prix.
- Arthur Mensch — Mistral AI (M. Arthur Mensch) : ligne éthique ; devoir de conseil et refus d'imposer aux armées l'usage de la technologie, en opposition explicite à Anthropic.