Le 18 novembre 2026, le bureau du gouverneur de Californie a annoncé des recommandations pour renforcer la sécurité de l’IA. Le rapport, daté du 16 novembre, propose notamment qu’une autorité de l’État puisse ordonner une intervention d’urgence en cas de menace catastrophique imminente, si le développeur refuse de la contenir. Il s’agit de propositions de réforme législative, pas de pouvoirs nouvellement adoptés. (Annonce du gouverneur de Californie ; rapport de la California Government Operations Agency)

Pour comprendre l’intervention d’urgence proposée, distinguez le plan de confinement préparé par l’entreprise du pouvoir exceptionnel que le rapport propose d’inscrire dans la loi.

Quand l’État pourrait-il intervenir ?

Le projet fixe deux conditions : les responsables de l’État devraient avoir des raisons crédibles de croire à une menace catastrophique imminente ou à une perte majeure de contrôle, et le développeur devrait refuser de contenir le danger. L’intervention serait donc réservée à une situation d’urgence répondant à ces critères.

L’ordre prendrait effet immédiatement, même si le développeur le conteste devant la justice et demande une ordonnance provisoire. Le rapport recommande de choisir l’intervention la plus limitée qui puisse fonctionner et de lever l’ordre lorsque le danger n’est plus imminent.

Le confinement ne se résumerait pas à un bouton

Le rapport propose que les développeurs préparent des protocoles vérifiés, capables d’agir à plusieurs niveaux : sur les ressources de calcul, les agents d’IA, les accès internes ou le déploiement d’un modèle. Des organismes indépendants de vérification (OIV) testeraient ces protocoles dans le cadre de leurs évaluations continues.

Les plans devraient aussi préciser qui intervient, comment coordonner l’action avec des acteurs extérieurs comme les fournisseurs de services infonuagiques et d’électricité, et à quelles conditions un système peut être remis en service. Ils devraient vérifier si un modèle pourrait entraver son arrêt, par exemple en copiant ses poids — les paramètres qui déterminent son fonctionnement — ou si des acteurs extérieurs pourraient accéder aux commandes. Un haut responsable de l’entreprise certifierait l’efficacité du protocole.

Pour les développeurs de modèles à poids ouverts, les obligations d’arrêt proposées se limiteraient aux déploiements qu’ils contrôlent. Un développeur ne pourrait donc être tenu d’arrêter une copie hébergée et déployée par un tiers sur laquelle il n’a pas la main.

Qui évaluerait les modèles et quels incidents seraient signalés ?

La California Government Operations Agency recommande une supervision continue des grands développeurs de modèles d’IA de pointe par des OIV agréés. Ces évaluateurs auraient accès aux personnes et aux informations utiles, puis transmettraient à l’État des évaluations non expurgées. La Californie fixerait des exigences de compétence, d’indépendance et de rigueur pour délivrer les agréments et pourrait les retirer si ces critères n’étaient plus respectés.

Le rapport propose de ramener à 48 heures le délai de signalement de la plupart des incidents critiques liés à la sécurité, contre 15 jours pour la plupart des incidents selon le régime qu’il décrit. Le délai de 24 heures serait conservé pour les risques catastrophiques imminents. Les catégories visées incluraient les pertes de contrôle graves, les tentatives de vol des poids d’un modèle et les incidents évités de justesse.

Le rapport recommande aussi d’élargir la déclaration des modèles considérés comme modèles de pointe : un modèle capable d’actions présentant un risque catastrophique pourrait être concerné même si son entraînement mobilisait moins de 10²⁶ opérations entières ou en virgule flottante.

Des normes communes et un suivi de l’automatisation

La Californie avait déjà adopté SB 813 et AB 1405, qui posent les bases de la vérification indépendante et de l’encadrement des auditeurs en IA. Le nouveau rapport recommande d’ajouter des normes de référence de l’État sur la sécurité, la sûreté et la transparence. Les OIV contribueraient à définir et à mettre à jour les méthodes et les tests techniques servant à vérifier le respect de ces normes.

Enfin, le rapport propose de suivre l’automatisation de la recherche et du développement en IA, notamment la part des ressources de calcul qui y est consacrée. L’État pourrait plafonner le développement et l’usage de l’auto-amélioration récursive — le processus par lequel des systèmes contribuent à concevoir leurs successeurs — si le niveau d’automatisation était jugé susceptible de créer un risque catastrophique.