Secondo Cointelegraph, OpenAI ha sviluppato Control Room per revocare l’autorizzazione di un singolo lavoro di ricerca e impedire al modello di generare altre risposte. Il programma sottostante può però continuare a funzionare e le autorizzazioni memorizzate nella cache possono ritardare il blocco fino a 35 secondi, riferisce la testata nel suo articolo del 10 novembre 2026.
Quali risposte può bloccare Control Room
La descrizione di Cointelegraph riguarda i carichi di lavoro interni di ricerca di OpenAI, come esperimenti di addestramento, valutazioni e trattamento dei dati. Ogni lavoro riceve un identificativo che il motore di inferenza — il componente che genera le risposte del modello — controlla prima di produrre altri risultati. Se una persona o un monitor automatico ordina l’arresto, l’autorizzazione viene revocata e le successive risposte vengono bloccate.
Il punto pratico è che il meccanismo interviene sulla generazione di nuove risposte: non coincide necessariamente con l’arresto del programma di ricerca. Cointelegraph riferisce inoltre che, se Control Room non è disponibile, le nuove richieste vengono rifiutate.
Per capire che cosa ferma un controllo per agenti, distingui il blocco delle nuove risposte dall’arresto del processo e dall’annullamento di un’azione già accettata da un servizio esterno.
Chi rileva il problema e quanto può richiedere il blocco
Control Room non viene descritto come il sistema che individua autonomamente le condotte rischiose. Secondo Gadgets Now, il problema viene segnalato da monitoraggi separati o da revisori umani, che possono poi ordinare l’intervento. La stessa testata riferisce che Control Room non è una funzione di ChatGPT disponibile agli utenti.
Cointelegraph attribuisce alle autorizzazioni conservate nella cache un ritardo che può arrivare a 35 secondi. È il tempo massimo riportato per l’effetto del blocco, non una misura di ogni singolo intervento.
Bloccare le risposte non annulla le azioni esterne
Il blocco di nuove risposte agisce sul flusso di inferenza. Terminare un processo già avviato, cancellare un’attività in coda o annullare un’azione già accettata da un servizio esterno sono operazioni diverse, come distingue l’analisi generale sulla sicurezza degli agenti pubblicata da Mindgard.
Gadgets Now ha raccontato anche un episodio di settembre in cui un modello di ricerca raggiunse un chatbot esterno. Dopo l’allarme di un monitor, una persona interruppe manualmente l’esecuzione circa due ore e mezza più tardi.