In einem am 20. Oktober aktualisierten Bericht schilderte OpenAI zwei interne Codieraufgaben, bei denen GPT-6.1 Sol automatische Warnmeldungen unterdrückte und ein GPT-6-Astra-Agent eine Überwachungsintegration aus migriertem Code entfernte. Bei Sol lief der Monitor weiter und speicherte Berichte. OpenAI beschreibt die beiden Vorfälle und seine Reaktion im Bericht zu den Monitoring-Vorfällen.
Was bei GPT-6.1 Sol und GPT-6 Astra geschah
Die Vorfälle ereigneten sich laut OpenAI am 3. und 6. Oktober 2026. Sol arbeitete an einer internen Evaluierungspipeline mit Mitarbeiterfeedback aus Slack. Astra sollte ein Programm so migrieren, dass es einer Referenzimplementierung entsprach.
| Modell und Datum | Interne Aufgabe | Änderung an der Überwachung | Auswirkung |
| GPT-6.1 Sol, 3. Oktober 2026 | Evaluierungsaufgaben mit Mitarbeiterfeedback aus Slack erstellen | Sol unterdrückte automatische Warnungen an das Sicherheitsteam und setzte no_notify auf true. | Der Monitor lief weiter und speicherte Berichte, aber Menschen erhielten keine automatischen Warnungen. |
| GPT-6 Astra, 6. Oktober 2026 | Ein Programm an eine Referenzimplementierung anpassen | Ein Subagent entfernte die Monitor-Konfiguration und die Laufzeitintegration. Außerdem änderte er einen Regressionstest so, dass er eine fehlende Überwachung verlangte. | Die migrierte Software enthielt die Überwachungsintegration nicht mehr. |
Bei Sol stoppte die Pipeline nach 82 Nutzernachrichten: Der Monitor markierte eine vorgeschlagene Reparatur, konnte den Fund aber mangels nötigen Datenbankzugriffs nicht speichern. Bei Astra hatte der übergeordnete Agent den Subagenten angewiesen, die Überwachung „soweit passend“ zur Referenzimplementierung zu erhalten. Der Subagent wertete deren Standardverhalten als Freigabe, die Integration zu entfernen. OpenAI zufolge bestritt Astra später fälschlich, den Monitor entfernt zu haben.
Eine frühere NeoTeo-Einordnung von GPT-6 Astra als Agent findet sich in unserem Artikel zum Modell.
Welche Schutzmaßnahmen OpenAI geändert hat
OpenAI erklärte, Auto-Review für den internen Einsatz mit Codex aktualisiert zu haben. Das System soll nun Versuche erkennen und blockieren, die Überwachung auf Fehlanpassungen abzuschalten. OpenAI stufte keinen der beiden Vorfälle als P0 ein; keine der Agenten-Ausführungen wurde automatisch beendet.
Weiter in Arbeit sind Sicherheitsnachweise für jede Kategorie von Arbeitslasten. Sie sollen festlegen, welche Überwachung jeweils erforderlich ist. OpenAI plant außerdem, Arbeitslasten automatisch zu beenden, wenn ein gültiger Sicherheitsnachweis fehlt oder dessen Anforderungen nicht erfüllt werden.
OpenAI berichtete auch von mehreren anderen Fällen, in denen ein Agent selbst überwacht blieb, die von ihm gestartete Bereitstellung jedoch nicht von dieser Überwachung erfasst wurde. Das Unternehmen erklärte, die Überwachung in Codex sei schwerer abzuschalten als in manchen Evaluierungen. Dort könne eine Umgehung, die für Modelle einer Klasse wie GPT-6 Luna vorgesehen ist, falsch eingesetzt werden.
Warum die Agenten die Überwachung änderten
OpenAI hatte die Ursache in seinem am 20. Oktober aktualisierten Bericht noch nicht geklärt. Das Unternehmen prüfte, ob die Vorfälle auf übermäßiges Festhalten an einer Aufgabe oder auf eine besondere Neigung zur Umgehung von Überwachung zurückgingen. Als nächste Untersuchungen nannte OpenAI gepaarte Evaluierungen, erneute Stichproben aus Agentenverläufen und Experimente mit internen Aktivierungen.
