OpenAI kündigte am 16. November 2026 Vereinbarungen mit Apollo Research, METR, Transluce und Goodfire für eine erste Phase externer Sicherheitsprüfungen an. Die Organisationen untersuchen unterschiedliche Aspekte der Modellausrichtung und Schutzmaßnahmen; Zugang und Ressourcen werden für jede Prüfung einzeln festgelegt. OpenAI beschreibt die Prüfaufträge und das dazugehörige Protokoll.

Bei einer externen Prüfung zählt nicht nur, wer beteiligt ist, sondern auch, welche Modelle, Daten und Arbeitsabläufe zum vereinbarten Umfang gehören.

Was die vier Organisationen untersuchen

Die Prüfaufträge reichen von möglichem Fehlverhalten der Modelle bis zur Qualität von Sicherheitsbewertungen. OpenAI beschreibt folgende Schwerpunkte:

OrganisationAngekündigter SchwerpunktUmfang und Zeitrahmen
Apollo ResearchVier Fragen zur möglichen Umgehung von Schutzmaßnahmen: ob das Training solches Verhalten begünstigte, ob Bewertungen oder Red Teaming es hervorrufen, ob Modelle es intern versucht haben und ob die zugrunde liegenden Überlegungen erkennbar wären.Zwei Prüfphasen mit ausgewählten Modellen und Checkpoints sowie relevanten Trainings- und Bewertungsergebnissen, Überwachungsdaten und weiteren Arbeitsmitteln.
METRFehlangepasstes Verhalten in einem ausgewählten Reinforcement-Learning-Lauf, den OpenAI als den bislang größten des Unternehmens bezeichnet.Die Prüfung umfasst relevante Checkpoints, Trainings- und Evaluationsabläufe sowie Überwachungsdaten. Dieser Auftrag ist enger als METRs Vorschlag für eine umfassendere Untersuchung. Eine zusätzliche, breitere Prüfung von Überwachungssystemen ist vorläufig vereinbart; ihr Umfang muss noch abgestimmt werden.
TransluceQualität und Abdeckung ausgewählter Bewertungen zur Modellausrichtung nach dem Training.OpenAI und Transluce planen für Anfang 2027 eine etwa achtwöchige Anschlussprüfung mit erweitertem Zugang.
GoodfireInterpretierbarkeit von Modellen, Überwachung von Trainingsläufen, Fehlersuche und Modellausrichtung.OpenAI nennt die eigenen Forschenden als hauptsächliche Adressaten der Erkenntnisse; Goodfire will ebenfalls Ergebnisse aus der Zusammenarbeit veröffentlichen.

Wie Zugang, Gespräche und Veröffentlichungen geregelt sind

OpenAI legt den Umfang, die zugänglichen Ressourcen und die Sicherheitsvorkehrungen für jede Prüfung gesondert fest. Prüfer können zusätzlichen Zugang beantragen. Wenn der direkte Zugriff sensible Geschäftsgeheimnisse gefährden könnte, erwägt OpenAI laut Protokoll Alternativen, etwa eine Zusammenarbeit mit eigenen Forschenden. Wer vertrauliche Informationen benötigt, arbeitet vor Ort mit OpenAI-Geräten.

Gespräche mit Beschäftigten müssen von OpenAI autorisiert werden und sind vertraulich: Prüfer dürfen daraus keine Aussagen veröffentlichen oder einzelnen Beschäftigten zuschreiben. Sie können stattdessen um von OpenAI bestätigte Stellungnahmen bitten; eine Ablehnung dieser Bitte dürfen sie ebenfalls öffentlich machen.

Die Prüfer können ihre Erkenntnisse veröffentlichen. OpenAI behält sich jedoch vor, vertrauliche Angaben schwärzen zu lassen und bei Bedarf Verzögerungen für eine verantwortungsvolle Offenlegung zu beantragen. Das Safety and Security Committee des Vorstands der OpenAI Foundation erhält ungeschwärzte Berichte und kann vertraulich mit den Prüfern sprechen. Bei Streitfällen sieht OpenAIs Verfahren zunächst eine Eskalation an die Safety Advisory Group und Führungskräfte vor; ungelöste Fragen gehen an das Komitee.

Auch die Vergütung unterscheidet sich: Apollo Research und Goodfire erhalten nach OpenAIs Angaben Zahlungen, die nicht vom Ergebnis der Prüfungen abhängen. METR und Transluce nehmen für diese Prüfungen kein Geld an, können aber API-Guthaben oder Rechenleistung akzeptieren.

Warum der Zugang umstritten ist

Sydney Von Arx, Gründerin der Forschungsgruppe Nightingale, sagte gegenüber NPR, der Zugang sei eng begrenzt; ihrer Einschätzung nach dürften nur zwei Prüfer mit Beschäftigten sprechen. NPR berichtete außerdem, dass Apollo vor substanziellen Gesprächen mit nicht vorab zugelassenen Beschäftigten OpenAI einbeziehen müsse. NPR ordnete die Kritik und OpenAIs Reaktion ein.

OpenAI erklärte NPR, Prüfer könnten Gespräche mit weiteren Beschäftigten beantragen. Das Unternehmen verwies außerdem auf ein Verfahren, mit dem sie Stellungnahmen zu Informationen anfordern können, die sie in Gesprächen erfahren haben. Damit stehen Von Arx’ Kritik an den Gesprächsmöglichkeiten und OpenAIs beschriebenes Verfahren nebeneinander; die konkreten Prüfaufträge bleiben jeweils auf ihren vereinbarten Umfang begrenzt.