OpenAI kündigte am 16. November 2026 eine erste Phase externer Prüfungen mit Apollo Research, METR, Transluce und Goodfire an. Apollo soll dabei vier Fragen zu möglicher Modellsubversion untersuchen: ob Modelle gegen die Absichten ihrer Entwickler arbeiten könnten und ob sich das erkennen ließe. OpenAI beschreibt außerdem den vorgesehenen Zugang zu Modellen und Trainingsmaterialien sowie Regeln für Aufsicht und Veröffentlichung (OpenAIs Ankündigung).
Für die Aussagekraft zählt nicht nur, welche Modelle geprüft werden, sondern auch, welche Informationen die Prüfer einsehen und wie sie ihre Ergebnisse veröffentlichen können.
Was Apollo Research prüfen soll
Modellsubversion bedeutet hier, dass ein Modell verdeckt gegen die Absichten seiner Entwickler arbeitet. OpenAI nennt vier Prüffragen: Hat das Training ein solches Verhalten begünstigt? Können leistungsfähige Tests und sogenannte Red-Team-Prüfungen – gezielte Versuche, Schwächen aufzudecken – es hervorrufen? Haben Modelle sich während der internen Nutzung so verhalten? Und lässt sich die dahinterstehende Argumentation erkennen?
Das sind die Fragen des Prüfauftrags, keine Ergebnisse. Die vier Punkte decken unterschiedliche Risiken ab: mögliche Anreize beim Training, das Verhalten unter gezielten Tests, den Einsatz im Unternehmen und die Erkennbarkeit einer Absicht.
Welche Zugänge und Veröffentlichungsregeln OpenAI beschreibt
Für die erste Prüfphase nennt OpenAI ausgewählte öffentliche und noch nicht veröffentlichte Modelle sowie Trainingsstände. Apollo soll außerdem relevante Trainingsdaten und Evaluationsergebnisse, Aufzeichnungen zu Eingriffen ins Training, Überwachungssysteme und markierte Verhaltensweisen einsehen können. Hinzu kommen Gespräche mit Forschenden, Werkzeuge und Rechenkapazität für eigene Tests.
Jeder Auftrag erhält einen vereinbarten Umfang und Sicherheitsregeln. OpenAI sagt zugleich, die Prüfer sollten innerhalb dieses Rahmens Hinweisen nachgehen und ihre Methoden anpassen können.
Die Prüforganisationen dürfen ihre Einschätzungen veröffentlichen. OpenAI kann vertrauliche Informationen schwärzen und bei möglichen Sicherheitsrisiken um eine Verzögerung bitten, damit eine verantwortungsvolle Offenlegung möglich ist. Der Safety and Security Committee von OpenAI erhält die ungeschwärzten Berichte und kann vertraulich mit den Prüfern sprechen. Bei Streit über eine Prüfung sieht OpenAI eine Eskalation an die Safety Advisory Group und Führungskräfte vor; bleibt der Konflikt ungelöst, wird er an den Ausschuss verwiesen.
Gespräche mit OpenAI-Beschäftigten sind laut den Regeln vertraulich und dürfen nicht veröffentlicht oder einzelnen Mitarbeitenden zugeschrieben werden. Prüfer können über ein separates Verfahren eine von OpenAI bestätigte Erklärung anfordern; lehnt das Unternehmen dies ab, dürfen sie diese Ablehnung offenlegen.
Die Debatte über externe Sicherheitsprüfungen hat eine Vorgeschichte: NeoTeos Bericht über OpenAIs Antwort auf den Brief dreier ehemaliger Beschäftigter bietet dazu den Hintergrund. Die Beschäftigten hatten unter anderem weitere externe Prüfungen gefordert.
Die vier Organisationen haben unterschiedliche Aufträge
Apollo ist eine von vier Prüforganisationen in der angekündigten Phase. METR soll die Ausrichtung des bislang größten Reinforcement-Learning-Laufs von OpenAI untersuchen. Transluce prüft die Qualität und Abdeckung von Auswertungen zur Ausrichtung nach dem Training. Goodfire setzt auf Interpretierbarkeitsforschung, um Trainingsläufe zu überwachen, Fehler zu untersuchen und die Ausrichtung zu unterstützen.
Auch die Vergütung ist verschieden: OpenAI zahlt Apollo Research und Goodfire unabhängig davon, zu welchen Ergebnissen ihre Prüfungen kommen. METR und Transluce nehmen für ihre Prüfungen kein Geld an, können aber Rechenkapazität oder API-Guthaben akzeptieren.
| Organisation | Angekündigter Schwerpunkt | Vergütung laut OpenAI |
| Apollo Research | Mögliche Modellsubversion und deren Erkennbarkeit | Bezahlt, nicht vom Ergebnis abhängig |
| METR | Ausrichtung beim bislang größten Reinforcement-Learning-Lauf von OpenAI | Kein Honorar; Rechenkapazität oder API-Guthaben möglich |
| Transluce | Qualität und Abdeckung von Prüfungen zur Ausrichtung nach dem Training | Kein Honorar; Rechenkapazität oder API-Guthaben möglich |
| Goodfire | Interpretierbarkeit, Überwachung von Trainingsläufen, Fehlersuche und Ausrichtung | Bezahlt, nicht vom Ergebnis abhängig |