Appel au gouvernement pour encadrer l’IA frontière

Le 14 septembre 2026, Volker Türk, Haut-Commissaire des Nations unies aux droits de l’homme, a lancé un avertissement: sécuriser l’IA doit être un enjeu de coopération internationale, et l’autorégulation des entreprises d’IA frontière ne saurait être suffisante¹. Comme le nucléaire, l’IA présente des risques catastrophiques, mais également des bénéfices immenses si elle est développée de manière responsable et démocratique.

Nous, directrices et directeurs d’établissements, chercheuses et chercheurs, enseignantes et enseignants, élèves en IA du plateau de Saclay et d’ailleurs, voulons contribuer à cet effort. Nous voulons participer à définir techniquement des lignes rouges à ne pas franchir, mettre la recherche au service de la fiabilisation des systèmes d’IA, et à former les experts dont nos institutions ont besoin.

Nous appelons le gouvernement français à faire de la régulation de l’IA une priorité diplomatique à l’échelle internationale, et à agir dès maintenant là où il en a les moyens, pour:

1. Porter, au niveau européen et international, l’adoption de lignes rouges claires (dont l’interdiction de systèmes capables de s’auto-répliquer ou d’aider substantiellement à concevoir des armes biologiques), assorties de mécanismes de contrôle et de sanctions², comprenant l’interdiction de l’entraînement de modèles lorsque l’entraînement impliquerait de dépasser ces lignes rouges.
2. Défendre une application exigeante et un renforcement de l’AI Act pour les modèles les plus avancés, notamment en matière de transparence (évaluations de sécurité, incidents graves, capacités dangereuses), d’évaluations obligatoires de sécurité, d’évaluations indépendantes de gouvernance via des instituts indépendants, et donner au Bureau européen de l’IA les moyens de le faire respecter.³
3. Redéfinir les priorités de recherche et de développement de l’IA en France et dans des projets internationaux, en investissant massivement dans l’évaluation publique des modèles les plus puissants, dans l’augmentation des standards de cybersécurité, dans le développement de modèles théoriques de gouvernance de l’IA ainsi que dans la recherche en alignement.

Le problème est urgent. Les effets de l’IA sont déjà réels faute d’encadrement: les standards de cybersécurité sont loin d’être suffisants face aux capacités des IA actuelles⁴ et la déstabilisation du monde du travail se fait déjà sentir chez les artistes et les chercheurs en mathématiques⁵. Mais les risques que l’IA fait peser sur notre société sont plus catastrophiques encore: cyberattaques généralisées, terrorisme biologique, perte de contrôle d’infrastructures⁶. Il est urgent d’encadrer le développement de l’IA avec le même sérieux que les domaines du nucléaire ou de la biologie⁷. Comme l’a dit Jean-Noël Barrot, ministre de l’Europe et des Affaires étrangères, dans son discours du 24 septembre 2026⁸: « Comme l’atome alors, il revient à la communauté internationale de l’encadrer pour tirer le meilleur et conjurer le pire. »

La sécurisation de l’IA doit devenir une priorité diplomatique de la France, et un objectif de recherche. La recherche et l’enseignement supérieur ont un rôle à jouer : définir techniquement ces lignes rouges, développer les méthodes d’évaluation des modèles et former les experts dont ces institutions ont besoin. Nous nous engageons à participer à cet effort.