POLITICO ordnete am 21. Oktober die ähnlichen Risikoschwellen in Kalifornien und in Anthropic|s US-Entwurf unterschiedlich ein: Kaliforniens Gesetz SB 53 nutze vergleichbare Werte für die Risikobewertung und Offenlegung, während der Entwurf sie an eine mögliche Befugnis der US-Bundesregierung zum Stoppen eines KI-Modells knüpfen würde.

POLITICO hatte am 16. Oktober berichtet, Vertreter von Anthropic hätten den Entwurf Abgeordneten des US-Kongresses vorgestellt. Es handelt sich um einen Vorschlag, nicht um geltendes Recht. Die Debatte über externe KI-Aufsicht behandelte NeoTeo bereits im Beitrag über Sarah Heck, Dario Amodei und Jensen Huang. Der Anthropic-Entwurf rückt eine konkretere Frage in den Mittelpunkt: Unter welchen Bedingungen könnte die US-Regierung ein Modell stoppen?

Welche Funktion der Schwellenwert hätte

POLITICO zufolge dienen ähnliche Schwellen in Kalifornien der Risikobewertung von KI-Unternehmen und der Offenlegung gegenüber Behörden. Anthropic|s Entwurf würde vergleichbare Werte dagegen zur Bedingung für eine mögliche staatliche Eingriffsbefugnis machen. Ähnliche Zahlen würden damit unterschiedliche Aufgaben erfüllen: Risikobewertung und Offenlegung auf Ebene des Bundesstaats, eine mögliche Einschränkung des Einsatzes eines KI-Modells auf Bundesebene.

Wer einen Modellstopp veranlassen könnte

POLITICO beschrieb die Eingriffsschwelle am 16. Oktober für ein absehbares, unmittelbar drohendes Risiko. Als Risikofälle nannte der Bericht die Entwicklung oder Freisetzung einer biologischen Waffe, einen Cyberangriff und ein Modell, das die Kontrollmechanismen seines Entwicklers umgeht.

Die Verfahrensdetails, die Business Insider als Wiedergabe der POLITICO-Recherche veröffentlichte, sehen eine Abfolge aus Prüfung, Meldung und richterlicher Entscheidung vor. Unabhängige Prüfer, die beim US-Handelsministerium registriert wären, sollten KI-Unternehmen und ihre besonders leistungsfähigen Modelle regelmäßig bewerten. Unternehmen dürften die Prüfungen bezahlen, sofern die Vergütung nicht vom Ergebnis abhinge.

Ergäbe eine abgeschlossene Prüfung ein unmittelbar drohendes, im Entwurf benanntes Risiko, müssten die Prüfer es innerhalb von 72 Stunden dem Handelsministerium melden. Das Ministerium könnte anschließend bei einem Bundesrichter im District of Columbia die Aussetzung eines Modells beantragen. Andere Bundesministerien, Behörden und Amtsträger dürften nach dem Entwurf weder die Entwicklung noch den Einsatz oder die interne Nutzung eines Modells aussetzen.

Welche weiteren Pflichten der Entwurf vorsah

KI-Unternehmen sollten Sicherheitsrahmenwerke erstellen, Transparenzberichte zu neuen besonders leistungsfähigen Modellen veröffentlichen, Whistleblower schützen und kritische Sicherheitsvorfälle dem Handelsministerium melden. Der Entwurf würde außerdem bestimmte einzelstaatliche Regeln zur öffentlichen Offenlegung von Risiken, zu externen Prüfungen und zur Meldung kritischer Vorfälle verdrängen.

Ein Sprecher von Anthropic erklärte, der Entwurf greife Vorschläge aus dem Advanced AI Framework des Unternehmens auf.

Wie die Berichte die Schwelle bezifferten

POLITICO nannte am 16. Oktober ein Risiko von mehr als 50 getöteten oder schwer verletzten Menschen oder mehr als einer Milliarde US-Dollar Schaden. In der Folgeberichterstattung vom 21. Oktober formulierte das Medium die Schwelle als 50 oder mehr getötete oder schwer verletzte Menschen beziehungsweise eine Milliarde US-Dollar Schaden.