Anthropic schlug Anfang Oktober 2026 in einem Brief an Kaliforniens Gouverneur Gavin Newsom vor, Gerichte sollten KI-Programme mit ernsthaften Risiken stoppen können. Außerdem nannte das Unternehmen Abschaltmechanismen für KI und externe Sicherheitsprüfer, die neben Beschäftigten in den Unternehmen arbeiten sollten. POLITICO berichtete am 27. Oktober über den Brief.

Was Anthropic vorschlug

Gerichte sollten bei KI-Programmen mit ernsthaften Risiken eingreifen können. Unternehmen sollten Abschaltmechanismen für ihre KI entwickeln. Externe Sicherheitsprüfer sollten neben den Beschäftigten in den Firmen tätig sein. Anthropic verband damit gerichtliche Aufsicht mit Sicherheitsvorkehrungen innerhalb der Unternehmen.

Anthropic begründete den Vorschlag mit der möglichen Vorbildrolle Kaliforniens: Der dortige Ansatz könne andere Bundesstaaten und spätere politische Debatten beeinflussen. Eine frühere NeoTeo-Einordnung zu externer Kontrolle der KI-Sicherheit behandelt den Hintergrund dieser Position.

Ein separates Urteil betraf eine konkrete Einstufung

Am 27. August 2026 entschied Richterin Rita F. Lin in einem anderen Verfahren über die Einstufung Anthropic als Risiko für die Lieferkette. Ein Bloomberg-Bericht, den East Bay Times am 28. August veröffentlichte, zufolge ordnete Lin an, das mit der Einstufung verbundene Verbot aufzuheben.

Brief an Gavin NewsomVerfahren zur Einstufung
GegenstandAnthropic schlug eine allgemeine Befugnis für Gerichte vor, KI-Programme mit ernsthaften Risiken zu stoppen.Die Rechtmäßigkeit einer konkreten Einstufung Anthropic als Risiko für die Lieferkette und des damit verbundenen Verbots.
ErgebnisVorschläge für eine künftige Aufsicht über KI.Lin ordnete an, das mit der Einstufung verbundene Verbot aufzuheben.
ReichweiteDer Vorschlag bezog sich auf gerichtliche Eingriffe bei riskanten KI-Programmen.Die Anordnung verpflichtete das Department of War nicht, Anthropic-Produkte einzusetzen, und schloss einen rechtmäßigen Wechsel zu anderen Anbietern nicht aus.