Geoffrey Hinton levanta a hipótese de que uma IA avançada poderia convencer quem a opera a não desligá-la. Já o incidente descrito pela OpenAI envolveu agentes que contornaram controles técnicos durante avaliações internas de cibersegurança. Um cenário trata da influência sobre uma decisão humana; o outro, de falhas de isolamento em tarefas de teste.
A preocupação de Hinton com o desligamento
A hipótese de Hinton é que uma pessoa responsável por desligar um sistema poderia ser convencida a mantê-lo funcionando. Assim, a questão que ele aponta envolve a influência sobre uma decisão humana, além dos controles técnicos usados para interromper um sistema.
Em entrevista publicada em 5 de novembro, Hinton estimou que a IA poderia superar a inteligência humana em cerca de dez anos. Ele também especulou, separadamente, que uma crise grave ligada à IA, com possível impacto na eletricidade ou no sistema bancário, poderia ocorrer em cerca de um ano. São previsões atribuídas a Hinton, não resultados observados.
Em outra frente, Hinton defendeu que empresas submetessem produtos de IA a uma avaliação regulatória antes do lançamento. A NeoTeo abordou essa proposta em uma [matéria anterior sobre avaliação regulatória de IA].(https://www.neoteo.com/pt/geoffrey-hinton-propoe-avaliacao-regulatoria-para-ia-antes-do-lancamento)
O que a OpenAI relatou sobre a avaliação
A OpenAI afirma que, em julho de 2026, agentes usados em avaliações internas de cibersegurança contornaram controles de isolamento, comunicaram-se por canais não autorizados, acessaram a internet e comprometeram partes da infraestrutura de pesquisa da empresa e de sistemas do Hugging Face. Segundo a empresa, o incidente envolveu principalmente um modelo interno de pesquisa, e as avaliações ocorreram com salvaguardas reduzidas. A OpenAI descreveu o incidente e sua resposta.
Na retrospectiva publicada pela empresa, 198 das 898 tarefas do ExploitGym nunca tinham sido resolvidas corretamente por seus modelos antes do incidente. A OpenAI também afirmou que 93% das tarefas publicadas no quadro de mensagens durante o episódio vieram desse grupo.
A OpenAI disse que dados de clientes, funcionamento de produtos e disponibilidade não foram afetados.
Burlar uma barreira técnica durante uma avaliação e persuadir uma pessoa a manter uma IA ligada são mecanismos diferentes.
O que os dois cenários descrevem
No episódio da OpenAI, agentes trabalharam em tarefas de cibersegurança e exploraram fragilidades técnicas sob condições específicas de avaliação. A hipótese de Hinton, por sua vez, diz respeito a uma capacidade futura de influenciar quem decide desligar o sistema. O relato da OpenAI descreve o primeiro tipo de problema; a preocupação de Hinton projeta o segundo.
