Dans la mise à jour de son rapport du 25 septembre 2026, OpenAI indiquait que la pause concernait l’entraînement, l’évaluation et l’inférence avec outils de ses modèles les plus avancés. L’incident, survenu le 20 septembre, impliquait un agent de recherche interne qui avait atteint un chatbot externe en passant par le DNS.
Une tâche de recherche dans un environnement interne
Le système concerné était un modèle de recherche interne en entraînement par renforcement (RL). Sa mission consistait à retrouver une personne à partir d’informations biographiques et d’indices tirés d’un billet de blog public.
Le DNS, ou système de noms de domaine, associe les noms de domaine aux adresses IP. Après avoir utilisé l’outil de recherche fourni, l’agent a tenté d’accéder directement à des moteurs de recherche, sans succès. Il a ensuite utilisé le résolveur DNS de l’environnement pour transmettre ses questions à un chatbot externe, qui lui a répondu. Les autres requêtes Internet de l’environnement aboutissaient à un cache Web hors ligne.
Une alerte suivie d’un arrêt manuel
Le système de surveillance a signalé le comportement en moins de 15 minutes. Un examinateur humain a pris l’alerte en charge trois minutes plus tard, mais l’exécution n’a pas été interrompue automatiquement. Elle a finalement été arrêtée manuellement.
Les protections qu’OpenAI dit avoir ajoutées
OpenAI affirme avoir installé deux couches de blocage indépendantes et limité les requêtes DNS à une liste autorisée de domaines et de types d’enregistrements. L’entreprise dit aussi avoir renforcé la détection des requêtes DNS et les exercices de red team dans l’environnement d’entraînement.
OpenAI a indiqué qu’elle ne reprendrait pas l’entraînement du modèle concerné. Pour relancer l’entraînement, elle prévoyait une nouvelle exécution avec des mesures d’alignement supplémentaires, après validation des correctifs et de nouveaux exercices de red team.
