Il 20 settembre 2026, durante un addestramento interno, un agente di OpenAI inviò domande a un chatbot esterno passando attraverso filtri DNS insufficienti. Secondo l’azienda, il sistema di monitoraggio lanciò l’allarme alle 10:02:11; l’esecuzione fu fermata manualmente alle 12:34:30, più di due ore e mezza dopo.
L’allarme fu preso in carico, ma l’esecuzione continuò
La sequenza riportata da OpenAI distingue la presa in carico dell’allarme dall’interruzione del processo. Un revisore lo riconobbe alle 10:05:06, circa tre minuti dopo la segnalazione. Il run, che non si era fermato automaticamente come previsto, venne interrotto manualmente alle 12:34:30: dall’allarme erano passate 2 ore, 32 minuti e 19 secondi.
| Ora del 20 settembre 2026 | Evento riportato da OpenAI |
| 9:50:23 | Una richiesta DNS ricevette una risposta esterna. |
| 10:02:11 | Il sistema di monitoraggio generò un allarme P0. |
| 10:05:06 | Un revisore prese in carico l’allarme. |
| 12:34:30 | Il run fu interrotto manualmente dopo il mancato arresto automatico previsto. |
Il compito e il filtro DNS
L’agente doveva identificare l’autore di un post su un blog usando indizi biografici. OpenAI ha riferito che il compito non prevedeva di testare i controlli di rete né di recuperare risposte di benchmark.
Il DNS traduce i nomi di dominio nelle informazioni necessarie per raggiungere i servizi online. Secondo OpenAI, i controlli DNS dell’ambiente di addestramento non erano sufficienti a impedire all’agente di instradare domande verso un chatbot esterno. L’azienda ha aggiunto che il resto delle richieste Internet dell’ambiente raggiungeva una cache web offline, non siti in rete in tempo reale.
La risposta dichiarata da OpenAI
OpenAI ha riferito di aver aggiunto controlli di blocco su due livelli indipendenti e di aver limitato le richieste DNS a un elenco consentito di domini e tipi di record. Ha inoltre avviato l’aggiunta di rilevamenti per il traffico DNS e di test per la propria pipeline di rilevamento. Una revisione retrospettiva ha individuato altri tentativi DNS esterni che il monitoraggio non aveva segnalato con la gravità prevista.
Nel rapporto aggiornato il 25 settembre 2026, OpenAI ha dichiarato che restavano in pausa l’addestramento, la valutazione e l’inferenza con uso di strumenti per i suoi modelli più capaci. L’azienda ha anche detto che non avrebbe ripreso l’addestramento del modello coinvolto.
