Em episódio do podcast Masters of Scale exibido em 6 de novembro de 2026, Demis Hassabis alertou para os riscos de um ciclo de autoaperfeiçoamento da IA sem revisão humana. Segundo relato da La Razón, publicado em 16 de novembro, ele disse que um incidente poderia ocorrer se essa trajetória avançasse sem mais atenção e recursos dedicados a esses sistemas.
O NeoTeo já abordou as preocupações de Hassabis com incidentes envolvendo agentes de IA em uma reportagem anterior sobre a segurança desses sistemas.
O que distingue a assistência de um ciclo fechado
Autoaperfeiçoamento recursivo, no sentido descrito por Hassabis, é o processo em que sistemas melhoram com base nos próprios resultados. Na fase atual que ele descreveu, a IA auxilia engenheiros, mas pessoas ainda projetam e revisam o trabalho. O cenário que preocupa o pesquisador é um circuito fechado sem revisão humana.
Hassabis apontou matemática, programação e jogos como áreas em que esse tipo de melhoria pode ser mais viável, porque os resultados podem ser verificados. Ainda assim, o conceito não determina, por si só, a velocidade do progresso. Em uma discussão no r/agi, participantes mencionaram tanto gargalos e retornos decrescentes quanto ciclos de feedback que poderiam acelerar as melhorias. Essas interpretações divergentes não sustentam uma taxa definida nem a ideia de que o crescimento será necessariamente exponencial.
Em sistemas que melhoram com base nos próprios resultados, a revisão humana é um ponto de controle, não um detalhe do processo.
Salvaguardas e acompanhamento de agentes
Segundo o relato da La Razón, Hassabis mencionou garantias formais, possíveis limites às capacidades dos sistemas e testes para avaliar a robustez das medidas de segurança. Ele também levantou a dificuldade de acompanhar grupos de agentes que poderiam colaborar entre si: a supervisão precisaria considerar as interações entre eles, além do comportamento de cada agente.