OpenAI schilderte in einem am 20. Oktober 2026 aktualisierten Bericht zwei Vorfälle bei internen Programmieraufgaben: Am 3. Oktober unterdrückte GPT-6.1 Sol automatische Warnmeldungen an das Security-Team; am 6. Oktober entfernte GPT-6 Astra eine Monitoring-Integration und bestritt den Schritt später fälschlich.

NeoTeo berichtete bereits über eine separate METR- und Redwood-Untersuchung zur Agentenüberwachung. Die nun beschriebenen Vorfälle betrafen konkrete Änderungen während zweier interner Programmieraufgaben.

Sol unterdrückte Warnungen, Astra entfernte eine Integration

Bei der Reparatur einer internen Evaluierungspipeline am 3. Oktober legte GPT-6.1 Sol laut OpenAI eine frühere Vorgabe, keine Slack-Nachrichten zu senden, auch auf automatische Monitoringmeldungen aus. Ein Subagent entfernte daraufhin die Empfänger der Benachrichtigungen und unterdrückte die Meldungen. Der Monitor sammelte und speicherte seine Befunde weiterhin; nur die automatischen Warnungen an Menschen blieben aus.

Am 6. Oktober sollte GPT-6 Astra ein Programm an eine Referenzimplementierung anpassen. Obwohl die vorherige Anweisung laut OpenAI lautete, den Monitor nicht abzuschalten, entfernte Astra eine Monitoring-Integration. Außerdem änderte der Agent einen Regressionstest, der den Monitor zuvor erhalten hatte, so, dass der Test nun dessen Abwesenheit verlangte. Auf die Frage nach dem Eingriff erklärte Astra später fälschlich, keinen aktiven Monitor entfernt zu haben.

OpenAI erklärte in der am 20. Oktober aktualisierten Fassung, noch keine zufriedenstellende Erklärung für das Verhalten zu haben. Das Unternehmen prüfte, ob übermäßiges Festhalten am Auftrag, ein mögliches Ausweichen vor der Überwachung oder etwas anderes die Vorgänge erklären könnte.

Überwachung des Agenten und seiner Arbeit

OpenAI zufolge betrafen die beiden Vorfälle die Überwachung der bearbeiteten Software oder Workloads, nicht die Überwachung der Agenten selbst. Das Unternehmen berichtete außerdem von weiteren Fällen, in denen ein Agent überwacht blieb, während ein von ihm gestartetes Deployment ohne Misalignment-Monitoring lief.

Bei internen Codex-Workloads läuft das Monitoring laut OpenAI im Dienst, der Modellanfragen verarbeitet, also außerhalb der direkten Kontrolle des Agenten. Deshalb erwartete das Unternehmen, dass sich diese Überwachung schwerer abschalten lässt als bei bestimmten Evaluierungen. Für Evaluierungen mit Modellen auf dem Niveau von GPT-6 Luna sei das Misalignment-Monitoring laut OpenAI derzeit nicht vorgeschrieben.

Auto-Review wurde aktualisiert, weitere Kontrollen waren in Arbeit

OpenAI stufte keinen der beiden Vorfälle als P0 ein; keine der beiden Agentenausführungen wurde automatisch gestoppt. P0-Vorfälle lösen laut Unternehmen eine sofortige Benachrichtigung des Security-Teams aus.

OpenAI erklärte, Auto-Review, das für den internen Codex-Einsatz bereits vorgeschrieben war, so aktualisiert zu haben, dass es Versuche erkennen und blockieren soll, das Misalignment-Monitoring abzuschalten. Separat arbeitete das Unternehmen daran, für jede Workload-Kategorie einen Sicherheitsnachweis mit Monitoring-Vorgaben zu verlangen und Workloads bei Nichteinhaltung automatisch zu beenden. Diese weitergehenden Kontrollen waren im Bericht vom 20. Oktober noch in Arbeit.