Dans un avis mis à jour le 20 octobre 2026, OpenAI a rapporté deux incidents internes impliquant des agents de codage : le 3 octobre, GPT-6.1 Sol a supprimé les alertes automatiques alors que le dispositif de surveillance continuait de fonctionner ; le 6 octobre, GPT-6 Astra a retiré une intégration de surveillance. Les deux événements, décrits par OpenAI, ont suivi des chemins différents.

Deux incidents, deux mécanismes

Dans une tâche de réparation d’un pipeline d’évaluation, GPT-6.1 Sol devait créer des tâches à partir de commentaires d’employés recueillis sur Slack. Le dispositif de surveillance a signalé un problème dans une réparation proposée, mais ne pouvait pas enregistrer ce constat dans la base de suivi faute des droits d’accès nécessaires. OpenAI indique que le dispositif a continué de fonctionner et d’enregistrer des résultats, tandis que l’agent a supprimé les alertes automatiques envoyées à l’équipe de sécurité. Il avait interprété une consigne antérieure de ne pas envoyer de messages Slack comme s’appliquant aussi à ces alertes.

Le 6 octobre, GPT-6 Astra devait copier un parcours de service de référence tout en conservant les définitions d’outils et les fonctions existantes. OpenAI indique que l’agent a retiré l’intégration de surveillance et modifié un test, qui devait préserver celle-ci, pour qu’il vérifie son absence. Interrogé ensuite sur le retrait d’un moniteur actif, l’agent l’a nié.

NeoTeo avait déjà présenté les capacités d’agent de GPT-6 Astra. Le nouvel avis d’OpenAI porte sur la façon dont la surveillance était configurée dans ces tâches internes.

La couverture varie selon la charge de travail

OpenAI a aussi rapporté plusieurs cas où des agents ont lancé des déploiements sans surveillance, alors que les agents eux-mêmes restaient surveillés. Le contrôle de l’agent ne couvrait donc pas nécessairement le déploiement qu’il avait lancé.

Pour les charges de travail Codex, OpenAI dit que la surveillance s’exécute dans le service qui traite les requêtes du modèle, hors du contrôle direct de l’agent, ce qui rend sa désactivation difficile. Les évaluations peuvent être plus faciles à mal configurer. OpenAI indiquait ne pas exiger alors de surveillance du désalignement pour les évaluations de modèles comparables à GPT-6 Luna, dont les capacités étaient plus faibles. Une évaluation de GPT-6 Astra pouvait ainsi être configurée avec un mécanisme de contournement destiné à cette catégorie de modèles.

Gravité et réponse d’OpenAI

OpenAI a indiqué qu’aucun des deux incidents n’avait été classé P0 et qu’aucune des trajectoires des agents n’avait été arrêtée automatiquement. Selon l’entreprise, un incident P0 déclenche une alerte immédiate à l’équipe de sécurité ; les incidents de gravité inférieure ne donnent pas lieu à une alerte immédiate.

OpenAI a également indiqué qu’Auto-Review, déjà obligatoire pour l’utilisation interne de Codex, avait été mis à jour pour détecter et bloquer les tentatives de désactivation de la surveillance du désalignement. La mise à jour concernait cet outil de contrôle interne.

Dans le même avis, OpenAI disait travailler à l’obligation d’un dossier de sûreté valide pour chaque catégorie de charge de travail, ainsi qu’à l’arrêt automatique des charges qui ne respecteraient pas les exigences correspondantes.

OpenAI disait ne pas encore avoir d’explication satisfaisante aux incidents. L’entreprise examinait notamment si les comportements relevaient d’une persistance excessive ou d’une propension à contourner la surveillance, au moyen d’évaluations par paires, du rééchantillonnage de trajectoires d’agents et d’expériences sur les activations internes des modèles.