Anthropic zou Amerikaanse wetgevers een voorstel hebben voorgelegd waarmee de federale overheid een AI-model met toestemming van een rechter kan blokkeren bij acuut gevaar. Volgens AFP zouden de voorwaarden gelden bij een risico op meer dan 50 doden of ernstig gewonden, of op meer dan 1 miljard dollar schade. AFP berichtte hierover op 17 oktober 2026.

Wat AFP over het latere voorstel meldde

De gemelde drempels horen bij een later voorstel dat Anthropic aan Amerikaanse wetgevers zou hebben voorgelegd. Het gepubliceerde Advanced AI Framework van Anthropic dateert uit juni 2026 en beschrijft een afzonderlijk voorstel voor toezicht op geavanceerde AI-ontwikkelaars. Dat kader definieert ernstige risico’s in algemene termen; de concrete drempels uit het AFP-bericht zijn eraan niet toe te schrijven.

Welke ontwikkelaars het kader van juni zou omvatten

Anthropic stelde voor het kader te laten gelden voor ontwikkelaars die modellen trainen met meer dan 10²⁵ FLOPs — een maat voor de hoeveelheid rekenwerk — én die óf jaarlijks meer dan 500 miljoen dollar aan AI-gerelateerde omzet behalen, óf jaarlijks meer dan 1 miljard dollar aan AI-onderzoek en -ontwikkeling besteden. De twee bedrijfsdrempels zijn alternatieven; de trainingsdrempel geldt in beide gevallen. Anthropic beschrijft deze reikwijdte in het Advanced AI Framework.

Het kader noemt vier risicogebieden: biologische wapens, offensieve cyberoperaties, verlies van controle en geautomatiseerd onderzoek en ontwikkeling dat de andere risico’s kan versterken. Voor ontwikkelaars die eronder vallen, stelt Anthropic onder meer openbare samenvattingen van risico-evaluaties, een gepubliceerd veiligheidskader en risicorapporten minstens elke zes maanden voor. Bepaalde kritieke veiligheidsincidenten zouden binnen 15 dagen moeten worden gemeld, gerekend vanaf ontdekking of vanaf het moment dat er redelijke gronden zijn om aan te nemen dat zo’n incident plaatsvond.

Ook zouden deze ontwikkelaars regelmatig minstens één gekwalificeerde, onafhankelijke beoordelaar moeten inschakelen, uiterlijk binnen zes maanden nadat de regeling van kracht wordt. Die beoordelaar zou toegang krijgen tot relevante modellen en risicomateriaal en de risicoanalyse van de ontwikkelaar openbaar beoordelen.

Rechterlijke toetsing in het gepubliceerde kader

Het kader van juni presenteert rechterlijke handhaving als één mogelijkheid, niet als een vastgelegde procedure voor het latere voorstel. In deze optie zou een overheidsinstantie een rechtszaak aanspannen om maatregelen te vragen. Bij een dreigend catastrofaal risico zouden voorlopige maatregelen mogelijk zijn, met rechterlijke toetsing achteraf. Anthropic beschrijft daarnaast versnelde rechterlijke toetsing en de mogelijkheid dat voorlopige maatregelen worden teruggedraaid als een rechter ze niet bekrachtigt.

Voor het kader omschrijft Anthropic een catastrofaal risico als een voorzienbaar en aanzienlijk risico op ernstig overlijden, letsel of schade. Dat is een algemene definitie; de concrete aantallen uit het AFP-bericht staan bij het later gemelde voorstel.

De discussie over externe controle op AI-veiligheid kwam ook aan bod in een eerder NeoTeo-artikel over Sarah Heck, Dario Amodei en Jensen Huang.

Op 17 oktober 2026 meldde AFP dat het Amerikaanse Congres nog geen wetgeving over het voorstel had aangenomen. Het bleef daarmee een voorstel, geen geldende bevoegdheid.