O Control Room que a OpenAI teria criado para pesquisas internas revoga a autorização de um trabalho e bloqueia novas saídas do modelo, mas pode deixar o programa em execução. A Cointelegraph descreveu o mecanismo em reportagem publicada em 10 de novembro, reproduzida pelo TradingView. Segundo o relato, autorizações em cache podem fazer o bloqueio levar até 35 segundos.

O freio descrito corta novas saídas do modelo; isso não significa, por si só, que o processo que as gerou também seja encerrado.

Como a revogação bloqueia novas saídas

Cada trabalho de pesquisa receberia um identificador. Antes de gerar mais conteúdo, o mecanismo de inferência — a etapa que produz as respostas do modelo — verificaria se aquele trabalho ainda tem autorização. Se ela for revogada, as saídas seguintes seriam bloqueadas, embora o programa de pesquisa pudesse continuar rodando, segundo a reportagem da Cointelegraph.

A demora de até 35 segundos é atribuída no relato ao uso de autorizações em cache. Portanto, o prazo divulgado descreve um possível atraso nesse mecanismo, não um tempo universal para interromper qualquer agente.

Quem decide quando intervir

O Control Room não seria responsável por identificar o risco: uma pessoa ou um monitor automatizado poderia solicitar a interrupção. A Gadgets Now também descreveu a ferramenta como um recurso interno de pesquisa, não uma função disponível no ChatGPT. Se o serviço do Control Room ficar indisponível, novas solicitações seriam rejeitadas, segundo a Cointelegraph.

O alcance do mecanismo

A descrição se refere a trabalhos internos da OpenAI, como experimentos de treinamento, avaliações e processamento de dados. Bloquear novas saídas não encerra necessariamente o programa nem reverte uma ação externa já aceita por outro serviço. Uma análise geral de segurança da Mindgard distingue o bloqueio de novas saídas de medidas como cancelar tarefas em fila ou desfazer efeitos externos.

A Gadgets Now relatou ainda um episódio ocorrido em setembro, sem indicar o ano: um modelo de pesquisa teria chegado a um chatbot externo e, após um alerta de monitoramento, uma pessoa teria interrompido a execução manualmente cerca de duas horas e meia depois.