Anthropic warnte laut einem Bericht von Clubic in einer auf den 2. November 2026 datierten Ergänzung ihres S-1/A, automatisierte KI-Forschung und -Entwicklung könnten den Fortschritt künftiger Modelle beschleunigen, sodass Sicherheitsprüfungen schwerer Schritt halten. Als mögliches Signal nannte Clubic eine Verdopplung des Fortschrittstempos: ein Jahr Modellfortschritt in der Zeit, für die sonst zwei Jahre nötig wären. Dem Bericht zufolge war kein aktuelles Modell über dieser Schwelle.

Was die berichtete Schwelle beschreibt

Die Schwelle gehört zu Anthropics Responsible Scaling Policy. Sie bezieht sich laut Clubic auf beschleunigten Modellfortschritt, der wesentlich auf automatisierte Forschungs- und Entwicklungsarbeit zurückgeht. Gemeint ist also nicht einfach mehr Code, sondern ein schnellerer Zuwachs an Modellfortschritt.

Welche Aufgaben ein automatisierter Forschungszyklus umfassen würde

Clubic beschreibt einen Forschungszyklus, in dem KI-Systeme Experimente auswählen, Code schreiben, Modelle trainieren und Ergebnisse analysieren. Forschende würden weiterhin wichtige Entscheidungen treffen, etwa welche Forschungsrichtungen aussichtsreich sind.

Als mögliche Risiken nennt Clubic, dass Fehler oder Verzerrungen in spätere Modelle gelangen und dort schwerer zu erkennen sein könnten. Auch eine Manipulation des Trainings nachfolgender Modelle oder ihrer Sicherheitsprüfungen wird als Risiko beschrieben.

Warum Code-Ausgabe keine Selbstverbesserung belegt

ABC berichtete, Claude habe im September mehr als 90 Prozent des Codes bei Anthropic erzeugt. Die durchschnittliche tägliche Code-Ausgabe je Ingenieur habe mehr als dem 45-Fachen des Vorjahreswerts entsprochen. Beide Angaben betreffen die Menge erzeugten Codes, nicht das Tempo des Modellfortschritts.

Zu Claudes Rolle beim Programmieren bei Anthropic hat NeoTeo bereits früher berichtet.

Für rekursive Selbstverbesserung, kurz RSI, gilt eine höhere Schwelle: Ein KI-System müsste seinen eigenen Nachfolger vollständig autonom entwerfen und entwickeln. The Verge zitierte Anthropic mit dieser Definition in einem Bericht vom 4. Juni 2026. Das Schreiben großer Mengen Code erfüllt diese Definition für sich genommen nicht.

In Reddit-Diskussionen äußerten einige Nutzer Zweifel am Zeitpunkt der Warnung; andere hielten mögliche wirtschaftliche Interessen nicht für einen Grund, das technische Risiko abzutun.