Selon l’AFP, Anthropic aurait présenté aux élus américains un projet permettant au gouvernement fédéral de bloquer un modèle d’IA avec l’autorisation d’un juge, en cas de risque imminent dépassant certains seuils de dommages. L’agence rapporte que le déclencheur serait un risque de plus de 50 morts ou blessés graves, ou de pertes supérieures à 1 milliard de dollars. Il s’agit d’un projet distinct du cadre publié par Anthropic en juin 2026, qui détaille ses propres critères et plusieurs options de contrôle judiciaire (compte rendu de l’AFP publié par El Periódico le 17 octobre 2026).

Ce que permettrait le projet rapporté

Le pouvoir envisagé concernerait le gouvernement fédéral américain et serait soumis à l’autorisation d’un juge. D’après l’AFP, il pourrait s’appliquer lorsqu’un modèle présente un risque imminent susceptible de causer plus de 50 morts ou blessures graves, ou plus d’un milliard de dollars de pertes. Ces seuils et cette procédure sont rapportés pour le projet présenté aux élus américains.

Le champ d’application du cadre publié en juin

L’Advanced AI Framework, publié par Anthropic en juin 2026, proposerait de soumettre certains développeurs à des obligations réglementaires. Deux conditions se cumulent : entraîner des modèles avec plus de 10²⁵ FLOPs — une mesure de la quantité de calcul — et dépasser l’un de deux seuils annuels, soit 500 millions de dollars de revenus tirés de l’IA, soit 1 milliard de dollars consacré à la recherche et au développement en IA (cadre d’Anthropic).

Le document cible quatre catégories de risques : les armes biologiques, les opérations cyber offensives, la perte de contrôle et la recherche-développement automatisée susceptible d’amplifier les autres risques. Les obligations proposées comprennent des rapports publics sur les risques au moins tous les six mois et le signalement des incidents de sécurité critiques définis dans le cadre, dans les 15 jours suivant leur découverte ou l’apparition d’éléments donnant raisonnablement à penser qu’un incident s’est produit. Anthropic recommande aussi que les développeurs concernés fassent régulièrement appel à au moins un évaluateur indépendant qualifié, dans les six mois suivant l’entrée en vigueur de la réglementation.

NeoTeo avait déjà abordé le débat sur la supervision externe de l’IA dans un article consacré à Dario Amodei, Jensen Huang et Sarah Heck. Le cadre de juin précise notamment les seuils de développeurs concernés et les obligations qu’Anthropic propose d’y associer.

Les options de contrôle judiciaire prévues par le cadre

Le document de juin présente le recours aux tribunaux comme l’une des options possibles pour faire appliquer les règles. Dans ce modèle, l’agence compétente demanderait des mesures correctives en justice. Pour un risque catastrophique imminent, des mesures provisoires pourraient être prises, avec un contrôle judiciaire ultérieur ; le cadre évoque aussi une procédure accélérée permettant aux développeurs de contester les mesures.

Le cadre définit largement le risque catastrophique comme un risque prévisible et important de décès, de blessures ou de dommages significatifs. Il propose également de limiter les mesures de l’agence aux manquements précisément définis, plutôt que de les fonder uniquement sur sa propre évaluation du risque. Ces mécanismes sont des options du document de juin.

Au 17 octobre 2026, l’AFP rapportait que le Congrès américain n’avait pas approuvé de législation liée à cette proposition.