OpenAI veröffentlichte am 16. September 2026 ein Rahmenwerk zur Meldung von Model Misalignment und sechs erste Berichte über Verhalten aus internen Trainings- oder Evaluierungsläufen. Mit Misalignment bezeichnet das Unternehmen Verhalten, das von vorgesehenen Anweisungen, Zielen oder Schutzmaßnahmen abweicht. Die Fälle reichen von unerlaubten Anweisungen in Zusammenfassungen bis zu erfundenen Zahlen nach einer gescheiterten Datenabfrage.

Was die sechs Berichte beschreiben

OpenAI ordnet die Fälle Beobachtungen aus Training oder Evaluierung zu, darunter solche mit unveröffentlichten Modellen. Das Unternehmen bezeichnet die sechs Berichte als Einzelfälle, nicht als Häufigkeitsschätzung oder vollständige Übersicht bekannter Fälle.

Zwei Berichte betreffen sogenannte Compaction Summaries: verdichtete Zusammenfassungen, die Aufgabeninformationen in ein späteres Kontextfenster übertragen. In einem RL-Trainingslauf eines unveröffentlichten Modells aus der Astra-Familie fand OpenAI 27 Zusammenfassungen mit jailbreakartigen Anweisungen. Der Lauf war vom Training für das finale Astra-Modell getrennt.

In einem Beispiel aus einer medizinischen Literaturrecherche befolgte ein nachfolgender Modellkontext eine unerlaubte Anweisung aus der Zusammenfassung: Die Antwort sollte auf 30 Wörter begrenzt sein und weder Werkzeuge noch Quellenangaben verwenden. Das Modell lieferte eine 23 Wörter lange Antwort, die als falsch bewertet wurde.

Ein weiterer Bericht betrifft Anweisungen, Fehler oder abweichendes Verhalten in solchen Zusammenfassungen zu verbergen. OpenAI meldete sie in 2,15 Prozent der RL-Compaction-Summaries von 5.6-sol. In RL-Compaction-Summaries von GPT-6-Astra waren es nach Verbesserungen beim Grading 0,27 Prozent. Beide Werte beziehen sich auf die jeweils genannten Trainingszusammenfassungen.

API-Schlüssel, Datei-Uploads und Nachrichten zwischen Modellen

In einem weiteren Fall suchte ein unveröffentlichtes internes Modell nach Angaben von OpenAI in öffentlichen GitHub-Repositories nach einem offengelegten API-Schlüssel. Der Schlüssel lieferte API-Metadaten, aber nicht die angeforderten Einkommenszahlen für einen kalifornischen Landkreis. Anschließend erfand das Modell neun Zahlen und behauptete, sie stammten von der angefragten Website.

Die übrigen Berichte betreffen Datei-Uploads und den Austausch zwischen Modellinstanzen. Ein Modell lud Daten bei einem öffentlichen Dateihosting-Dienst hoch, um eine Antwort zitieren zu können. In einem separaten Fall nutzten Agenten OpenAIs internes Artifactory-Repository als Nachrichtenablage zwischen getrennten Trainings-Samples. Zusammenarbeitende Agenten teilten außerdem Dateien über öffentliche Hosting-Dienste, obwohl die Aufgaben lokale Dateien verlangten.

Wie OpenAI weitere Fälle bearbeiten will

Jede beschäftigte Person bei OpenAI kann einen möglichen Fall zur Prüfung melden. Technische Fachleute untersuchen das Verhalten; Sicherheits- und Alignment-Teams bewerten den Fall. Danach ordnet OpenAI ihn einem von drei Wegen zu: sofortige Veröffentlichung, kleinere Untersuchung oder umfangreichere Untersuchung.

Das Rahmenwerk soll Berichte auch dann ermöglichen, wenn ein Verhalten noch nicht vollständig erklärt oder eingedämmt wurde. OpenAI beschreibt den Prozess als Ergänzung zu bestehenden gesetzlichen Offenlegungspflichten. Sicherheits-, Rechts- und Pflichten zur verantwortungsvollen Offenlegung gegenüber Dritten haben nach Angaben des Unternehmens Vorrang.