Am 12. September 2026 veröffentlichte Anthropic-Chef Dario Amodei einen Vorschlag, der die Entwicklung von Frontier-KI verlangsamen soll, damit Sicherheitsprüfungen, Überwachung und menschliche Kontrolle Schritt halten. Seit dem 15. September richtet sich die Kritik zunehmend auf die wettbewerbsrechtliche Seite des Plans: Eine mögliche Kartellausnahme könnte nach Ansicht von Gegnern etablierte Anbieter vor Konkurrenz schützen.
Amodei schlägt kein vollständiges Ende der KI-Entwicklung vor. Sein Modell setzt auf mehr Zeit für Tests und Sicherheitsarbeit sowie auf eine stärkere Abstimmung zwischen den führenden Laboren. OpenAI-Chef Sam Altman, xAI-Gründer Elon Musk und Google-DeepMind-Mitgründer Demis Hassabis unterstützten die grundsätzliche Richtung. Mark Zuckerberg und Nvidia-Chef Jensen Huang setzen dagegen stärker auf Entscheidungen einzelner Unternehmen und bestehendes Recht.
Amodeis Vorschlag erreicht das Kartellrecht
Der Vorschlag umfasst drei miteinander verbundene Elemente: unabhängige Prüfer mit dauerhaftem Zugang zu den Entwicklungsumgebungen, gemeinsame Sicherheitsstandards der führenden Labore und eine internationale Abstimmung, sofern gemeinsame Regeln möglich sind.
Für die Prüfer ist ein fortlaufender Zugang vorgesehen, der dem von Beschäftigten ähnelt. Sie sollen Sicherheitszusagen untersuchen, Entwicklungsprozesse beobachten und Vorfälle bewerten können. OpenAI befürwortet nach den öffentlichen Aussagen von Sam Altman ebenfalls gemeinsame Tests, unabhängige Bewertungen, Cybersicherheit, Vorfallmeldungen und Verfahren zur Beobachtung möglicher rekursiver Selbstverbesserung von Modellen.
Der besonders umstrittene Punkt betrifft die Zusammenarbeit der Unternehmen. Berichten zufolge sieht Amodeis Vorschlag für eine branchenweite Koordination eine Vermittlung durch die Regierung oder eine Ausnahme von kartellrechtlichen Beschränkungen vor. Damit würde aus einer technischen Sicherheitsfrage eine Frage der Marktordnung: Wer darf gemeinsame Standards festlegen, und wie verhindert man, dass diese Standards den Zugang zum Markt begrenzen?
„Pacing“ bedeutet in diesem Zusammenhang eine langsamere Entwicklung neuer Fähigkeiten, nicht das Ende des Trainings oder der Forschung. Die Sicherheitsarbeit soll mit dem Tempo der Modelle Schritt halten können.
Zwei Modelle für KI-Sicherheit
Der Streit dreht sich weniger darum, ob KI-Systeme geprüft werden sollten, als um die Frage, wer dafür verantwortlich ist und wie weit Unternehmen dafür zusammenarbeiten dürfen.
| Streitpunkt | Koordination zwischen Laboren | Verantwortung einzelner Unternehmen |
| Ziel | Entwicklung verlangsamen, damit Sicherheitsprüfungen und menschliche Kontrolle mithalten | Jedes Unternehmen bestimmt selbst das für seine Modelle verantwortbare Tempo |
| Sicherheitsmechanismus | Unabhängige Prüfer, gemeinsame Tests und Standards zwischen führenden Laboren | Technische Tests, interne Kontrollen, Haftungsrisiken und bestehende Marktanreize |
| Wettbewerbsrisiko | Unternehmen könnten trotz Konkurrenz gemeinsam verhindern, dass ein einzelnes Labor bei unsicheren Fähigkeiten vorprescht | Große Anbieter könnten Sicherheitsstandards so beeinflussen, dass kleinere Wettbewerber schwerer Zugang erhalten |
| Kartellrecht | Eine staatliche Vermittlung oder Ausnahme könnte die Zusammenarbeit erleichtern | Sicherheitsarbeit und der Austausch von Bedrohungsinformationen sollen nach dieser Position grundsätzlich unter geltendem Recht möglich sein |
Jonathan Kanter, der frühere Leiter der Antitrust Division des US-Justizministeriums, vertritt die zweite Sicht: Unternehmen benötigten keine Kartellausnahme, um sichere Produkte zu entwickeln. Sicherheitsstandards und der Austausch von Informationen über Bedrohungen könnten unter dem bestehenden Kartellrecht stattfinden. Absprachen, die den Wettbewerb oder die Innovation gezielt bremsen, seien dagegen eine andere Kategorie.
FTC und Industrie warnen vor Zugangshürden
FTC-Chef Andrew Ferguson warnte am 15. September, eine Kombination aus neuen Regulierungsvorgaben und einer Kartellausnahme könne etablierte Unternehmen vor neuen Wettbewerbern abschirmen. David Sacks, ehemaliger KI-Berater des Weißen Hauses, forderte die Unternehmen ebenfalls auf, keine Aussetzung des Kartellrechts und kein besonderes Genehmigungssystem zu verlangen.
Jensen Huang argumentiert, Marktkräfte und bestehendes Recht reichten aus. Für den Nvidia-Chef ist Sicherheit vor allem eine Aufgabe von Entwicklung und Tests. Mark Zuckerberg vertritt eine ähnliche institutionelle Linie: Jedes Labor habe die Verantwortung und den Anreiz, seine Modelle in einem für sich sicheren Tempo zu entwickeln.
Michael Kratsios, Direktor des White House Office of Science and Technology Policy, sagte, Unternehmen könnten die Entwicklung freiwillig verlangsamen oder stoppen, wenn sie ihre Systeme für unsicher hielten. Donald Trump wandte sich ebenfalls gegen Maßnahmen, die das Wachstum der US-KI-Branche bremsen könnten.
Die Gegenposition lautet: Wenn jedes Labor allein über sein Tempo entscheidet, kann der Wettbewerbsdruck Unternehmen dazu bringen, Sicherheitsarbeit zugunsten schnellerer Fähigkeiten zurückzustellen. Gemeinsame Regeln könnten dieses Problem entschärfen. Sie müssten allerdings so gestaltet sein, dass die größten Anbieter nicht zugleich über Sicherheitsanforderungen und Marktzugang bestimmen.
Die Verbraucherklage bleibt ein Vorwurf
Am 19. September wurde eine Verbraucherklage bekannt, die Anthropic, OpenAI, SpaceXAI und Google eine koordinierte Verlangsamung der KI-Entwicklung vorwirft. Die Kläger verbinden damit auch einen behaupteten Verlust für zahlende Nutzer.
Eine öffentliche Zustimmung zu einem Vorschlag reicht für sich genommen nicht aus, um eine illegale Absprache oder einen konkreten Verbraucherschaden festzustellen. Die Klage macht diese Verbindung zum Gegenstand ihres Vorwurfs; eine gerichtliche Feststellung liegt damit nicht vor.
Die praktische Trennlinie verläuft deshalb zwischen zwei Formen der Zusammenarbeit: Sicherheitsstandards, Tests und der Austausch von Informationen über konkrete Bedrohungen können die Produkte sicherer machen. Eine Vereinbarung, die Entwicklungstempo, Innovation oder Marktzugang gemeinsam begrenzt, würde dagegen unmittelbar den Wettbewerb berühren.
Damit bleibt die politische Kernfrage bestehen: Wie können KI-Labore Sicherheitsrisiken gemeinsam bearbeiten, ohne dass aus dieser Zusammenarbeit ein Instrument zur Kontrolle des Marktes wird?
