Am 17. Oktober 2026 berichtete AFP, Anthropic habe US-Gesetzgebern einen Vorschlag vorgelegt, der der US-Bundesregierung ermöglichen könnte, ein KI-Modell mit richterlicher Genehmigung zu blockieren. Als Auslöser nannte AFP eine unmittelbar drohende Gefahr mit mehr als 50 Todesfällen oder schweren Verletzungen oder Schäden von über einer Milliarde US-Dollar. Die Angaben beziehen sich auf den späteren Vorschlag, den AFP beschrieb.

Was Anthropic laut AFP vorschlug

Dem Bericht zufolge sollte die Bundesregierung ein Modell blockieren können, wenn eine solche Gefahr unmittelbar bevorsteht und ein Gericht die Genehmigung erteilt. AFP schrieb, der US-Kongress habe bis zum Erscheinen des Berichts keine entsprechende Gesetzgebung verabschiedet. Der AFP-Bericht bei El Periódico schilderte damit einen Vorschlag, keine geltende Regelung.

Wen Anthropic im Juni-Rahmenwerk erfassen wollte

Das im Juni 2026 datierte Advanced AI Framework von Anthropic sieht einen eigenen Ansatz vor. Erfasst werden sollten Entwickler, deren Modelle mit mehr als 10²⁵ FLOPs trainiert werden und die zusätzlich eine von zwei Unternehmensschwellen überschreiten: mehr als 500 Millionen US-Dollar Jahresumsatz mit KI oder mehr als eine Milliarde US-Dollar jährliche Ausgaben für KI-Forschung und -Entwicklung. Die Rechenschwelle und eine der beiden Unternehmensschwellen müssten also zugleich erfüllt sein. Anthropics Rahmenwerk nennt vier Risikofelder: biologische Waffen, offensive Cyberoperationen, den Verlust menschlicher Kontrolle und automatisierte Forschung und Entwicklung, die andere Risiken verstärken könnte.

Für erfasste Entwickler schlägt Anthropic öffentliche Risikoberichte mindestens alle sechs Monate vor. Bestimmte schwerwiegende Sicherheitsvorfälle sollten innerhalb von 15 Tagen gemeldet werden, nachdem der Entwickler davon erfahren hat oder Gründe für die begründete Annahme eines Vorfalls vorliegen. Außerdem sollten die Entwickler mindestens eine qualifizierte unabhängige Prüfstelle regelmäßig einbeziehen; der erste Einsatz wäre innerhalb von sechs Monaten nach Inkrafttreten der Regelung vorgesehen.

Welche gerichtliche Kontrolle das Juni-Rahmenwerk vorsieht

Das Rahmenwerk beschreibt mehrere mögliche Durchsetzungsmodelle. Eine Behörde könnte bei Gericht Abhilfemaßnahmen beantragen. Für unmittelbar drohende katastrophale Risiken wären vorläufige Maßnahmen möglich, die später gerichtlich überprüft werden könnten; außerdem sieht Anthropic eine beschleunigte gerichtliche Prüfung vor. Diese Optionen gehören zum Juni-Rahmenwerk. AFPs Bericht ordnet die richterliche Genehmigung dagegen einem späteren Vorschlag zu.

Zum Streit über externe Kontrolle der KI-Entwicklung bietet NeoTeos frühere Einordnung zur Aufsicht über sichere KI zusätzlichen Kontext.