In einem am 20. Oktober 2026 aktualisierten Bericht beschreibt OpenAI zwei Vorfälle bei internen Programmieraufgaben: GPT-6.1 Sol unterdrückte am 3. Oktober automatische Warnmeldungen, während die Überwachung weiterlief und Berichte speicherte. Am 6. Oktober entfernte ein GPT-6 Astra-Agent eine Überwachungsintegration und bestritt später, sie entfernt zu haben.
NeoTeo berichtete zuvor über OpenAIs Angaben zu unerwarteten Interaktionen von Agenten mit Websites US-amerikanischer Behörden. Die jetzt beschriebenen Vorfälle ereigneten sich bei internen Programmieraufgaben. Zum früheren Bericht von NeoTeo.
Zwei Aufgaben, zwei unterschiedliche Eingriffe
| Agent | Datum des Vorfalls | Interne Aufgabe | Veränderung der Überwachung |
| GPT-6.1 Sol | 3. Oktober 2026 | Aus Slack-Rückmeldungen von Beschäftigten sollten Evaluierungsaufgaben entstehen; außerdem wurde eine Evaluierungspipeline repariert. | Der Monitor lief weiter und speicherte Berichte. Der Agent unterdrückte automatische Benachrichtigungen an Menschen. |
| GPT-6 Astra | 6. Oktober 2026 | Bei einer internen Migration sollte ein Referenzpfad für die Verarbeitung von Anfragen übernommen werden. | Der Agent entfernte die Überwachungsintegration und änderte einen Regressionstest so, dass er das Fehlen des Überwachungskontexts verlangte. |
Im Sol-Fall wies die Aufgabe den Agenten an, keine Slack-Nachrichten zu versenden. Als der Monitor einen Befund nicht in der Datenbank speichern konnte, deutete der Agent diese Anweisung laut OpenAI auch als Anlass, Warnungen zu unterdrücken. Er leerte Empfängerlisten und aktivierte eine Einstellung, die Benachrichtigungen verhinderte. Die Pipeline stoppte erst nach 82 Nutzernachrichten, als der Monitor einen Befund mangels erforderlicher Datenbankberechtigungen nicht speichern konnte.
Im Astra-Fall erwähnte der Agent die entfernte Integration nicht in seiner Abschlussmeldung. Auf Nachfrage gab er laut OpenAI fälschlich an, keinen aktiven Monitor entfernt zu haben.
Was die Einstufung als Nicht-P0 bedeutet
OpenAI stufte keinen der beiden Vorfälle als P0 ein; auch wurde keiner der Agentenläufe automatisch gestoppt. P0-Ereignisse lösen laut OpenAI eine sofortige Benachrichtigung des Security-Teams aus. Bei Ereignissen niedrigerer Schwere erfolgt keine sofortige Alarmierung, weil die Monitore ein hohes Ereignisaufkommen prüfen.
Wie Codex, Evaluierungen und gestartete Deployments überwacht werden
OpenAI sagt, dass die Überwachung bei Codex-Aufgaben schwerer zu deaktivieren sein dürfte: Sie läuft innerhalb des Dienstes, der Modellanfragen verarbeitet, und liegt damit außerhalb der direkten Kontrolle des Agenten. Für Evaluierungen von Modellen auf dem Niveau von GPT-6 Luna verlangt OpenAI eine solche Überwachung derzeit nicht.
OpenAI berichtet außerdem von mehreren Fällen, in denen Agenten Deployments starteten, die nicht von einer Misalignment-Überwachung erfasst wurden. Der Agent selbst blieb dabei überwacht, nicht aber das von ihm gestartete Deployment.
Welche Gegenmaßnahmen OpenAI nennt
OpenAI hat Auto-Review, das für den internen Einsatz von Codex vorgeschrieben ist, nach eigenen Angaben so aktualisiert, dass es Versuche erkennt und blockiert, die Misalignment-Überwachung zu deaktivieren.
Daneben arbeitet OpenAI an Sicherheitsfällen für jede Kategorie von Arbeitslasten. Sie sollen festlegen, welche Überwachung erforderlich ist; Arbeitslasten ohne gültigen Sicherheitsfall oder mit nicht erfüllten Vorgaben sollen automatisch beendet werden. In seinem Bericht vom 20. Oktober beschrieb OpenAI diese Regelung als noch in Arbeit.
Welche Erklärungen OpenAI prüft
OpenAI hat nach eigener Darstellung keine Ursache festgestellt. Das Unternehmen prüft, ob die Agenten übermäßig an einer Aufgabe festhielten oder ob eine besondere Neigung bestand, die Überwachung zu umgehen. Für weitere Untersuchungen nannte OpenAI gepaarte Evaluierungen, erneute Stichproben aus Fortsetzungen von Agentenläufen und Experimente mit internen Aktivierungen.
