OpenAI hat am 15. September 2026 bestätigt, seit mehreren Wochen mit Anthropic und Google DeepMind über KI-Sicherheit zu sprechen. Chris Lehane, OpenAIs globaler Politikchef, erklärte, die Zusammenarbeit solle Sicherheitsfragen priorisieren und benötige aus Sicht von OpenAI keine kartellrechtliche Ausnahme. Anthropic und Google DeepMind wurden als Gesprächspartner genannt, haben die Gespräche aber nicht unabhängig bestätigt.
Damit ist eine neue politische Front in der KI-Branche sichtbar: Die führenden Labore suchen gemeinsame Regeln für besonders leistungsfähige Modelle, während Wettbewerber und Behörden davor warnen, dass Sicherheitsvorgaben auch als Schutzwall gegen neue Anbieter dienen könnten.
OpenAI bestätigt Gespräche – aber keinen formellen Pakt
Die bestätigte Entwicklung ist enger gefasst, als manche Schlagzeilen nahelegen. OpenAI bestätigte eine Koordination über mehrere Wochen. Eine unterzeichnete Vereinbarung, eine verbindliche gemeinsame Organisation oder eine gewährte kartellrechtliche Ausnahme liegt nicht vor.
Auch die drei Unternehmen verfolgen nicht zwingend dasselbe Modell. Die Vorschläge stammen aus unterschiedlichen politischen Ansätzen: Anthropic setzt auf unabhängige Prüfer innerhalb der KI-Labore, Google DeepMind auf eine gemeinsame Prüf- und Standardisierungsstelle. OpenAI unterstützt außerdem unabhängige Prüfungen im Rahmen des vorgeschlagenen FRONTIER Act. Das Gesetz ist nicht verabschiedet.
Was Anthropic und Google DeepMind vorschlagen
Dario Amodei, CEO von Anthropic, veröffentlichte am 12. September 2026 seinen Vorschlag zum „Pacing“ der Frontier-KI. Damit ist keine vollständige Pause gemeint. Die Entwicklung soll weitergehen, aber das Tempo der Leistungssteigerungen soll sinken, damit mehr Zeit für Sicherheitsarbeit bleibt.
Ein Kernpunkt sind eingebettete unabhängige Prüfer. Sie sollen dauerhaft Zugang zu Werkzeugen, Arbeitsumgebungen und Berechtigungen erhalten, die mit denen interner Risikoteams vergleichbar sind. Anthropic erklärte, sich dazu einseitig verpflichten zu wollen. Sam Altman unterstützte unabhängige Prüfer ebenfalls und sagte, OpenAI werde diesem Ansatz folgen. Zeitpunkt, Umfang und praktische Umsetzung bei OpenAI sind jedoch nicht festgelegt.
Am 14. Juli 2026 schlug Demis Hassabis, CEO und Mitgründer von Google DeepMind, eine US-amerikanische öffentlich-private oder selbstregulierende Organisation nach dem Vorbild der Financial Industry Regulatory Authority (FINRA) vor. Sie könnte Grenzwerte für Frontier-Modelle definieren und Tests in Bereichen wie Cybersicherheit, biologischen Risiken, Täuschung und dem Umgehen von Schutzmechanismen durchführen.
Nach Hassabis’ Vorschlag könnten Unternehmen Modelle zunächst freiwillig bis zu 30 Tage vor ihrer Veröffentlichung für Prüfungen bereitstellen. Das ist ein vorgeschlagenes Verfahren, kein bereits laufendes Prüfprogramm.
Warum daraus ein Wettbewerbsstreit wird
Sicherheitsprüfungen durch unabhängige Stellen klingen zunächst nach einer klaren Verbesserung. Die entscheidende Frage ist aber: Wer bestimmt, was als sicher gilt – und wer bezahlt die Prüfer?
Andrew Ferguson, Vorsitzender der US-amerikanischen Federal Trade Commission, äußerte sich skeptisch gegenüber möglichen kartellrechtlichen Ausnahmen. Er warnte, solche Ausnahmen könnten den Markteintritt erschweren und etablierten Unternehmen zusätzliche Vorteile verschaffen. Aidan Gomez, CEO von Cohere, kritisierte ebenfalls, dass dominante KI-Labore nicht allein festlegen sollten, wer Sicherheitsregeln schreibt und anwendet.
Die Spannung ist real, ohne dass daraus automatisch ein Kartell folgt. Sicherheitskoordination zwischen Wettbewerbern kann bei gemeinsamen Risiken sinnvoll sein. Sie kann aber auch dann wettbewerbspolitische Probleme schaffen, wenn dieselben Unternehmen die Standards definieren, die ihre kleineren Konkurrenten erfüllen müssen.
Vier Modelle für die Kontrolle von Frontier-KI
Die Vorschläge unterscheiden sich vor allem darin, wer prüft, was geprüft wird und wie verbindlich das Verfahren wäre.
| Vorschlag | Wer prüft oder setzt die Regeln? | Prüfumfang | Aktueller Stand |
| Eingebettete Prüfer | Unabhängige Drittanbieter innerhalb einzelner KI-Labore | Sicherheitspraktiken, Vorfälle, Trainingsprozesse und Ausrichtung der Modelle | Anthropic will sich dazu verpflichten; OpenAI unterstützte den Ansatz, ohne öffentliches Umsetzungsprogramm |
| FINRA-ähnliche Standardisierungsstelle | Öffentlich-private oder selbstregulierende Organisation mit unabhängigen Fachleuten | Vorabtests und fortlaufend angepasste Prüfmaßstäbe | Von Demis Hassabis vorgeschlagen, aber nicht eingerichtet |
| Prüfung durch Konkurrenten | Andere KI-Unternehmen prüfen die Modelle eines Anbieters | Gefährliche Fähigkeiten vor der Veröffentlichung | Von Elon Musk vorgeschlagen; kein namentlich genannter Konkurrent hat zugestimmt |
| FRONTIER Act | Staatlich anerkannte unabhängige Prüfstellen | Sicherheitsbewertungen führender KI-Labore | OpenAI unterstützt die entsprechende Regelung; das Gesetz ist nicht verabschiedet |
Was als Nächstes zählt
Für die Öffentlichkeit geht es jetzt weniger um ein einzelnes Treffen als um die Ausgestaltung der Regeln. Eingebettete Prüfer müssten tatsächlich unabhängig arbeiten können. Eine Standardisierungsstelle müsste außerdem verhindern, dass ihre Finanzierung durch die größten Anbieter ihre Entscheidungen dominiert.
Die Gespräche zwischen OpenAI, Anthropic und Google DeepMind markieren deshalb einen konkreten politischen Vorstoß, aber noch kein gemeinsames Regime für KI-Sicherheit. Entscheidend wird sein, ob aus freiwilligen Prüfungen nachvollziehbare und offene Regeln entstehen – oder ein System, in dem die führenden Labore zugleich die Risiken bewerten und die Grenzen des Wettbewerbs festlegen.
