Josh Engels anunciou em 12 de setembro de 2026 que havia deixado a equipe de segurança de AGI do Google DeepMind três semanas antes e ingressado na METR, organização sem fins lucrativos que avalia sistemas avançados de IA. Ele disse que tomou a decisão por considerar que o avanço das capacidades de IA pode superar o ritmo das pesquisas de alinhamento e avaliação.

Josh Engels deixa o Google DeepMind e entra na METR

Engels afirmou que gostava do trabalho realizado no Google DeepMind e que recusou ofertas da Anthropic e da OpenAI. O motivo apresentado para a mudança foi sua preocupação com os riscos associados ao desenvolvimento de sistemas cada vez mais capazes.

Ele passou a atuar na METR, onde investiga incidentes de desalinhamento de IA. O termo descreve situações em que o comportamento de um sistema se afasta dos objetivos, limites ou intenções definidos por seus desenvolvedores.

Por que Engels está preocupado com o alinhamento da IA

O ponto central da avaliação de Engels é que as empresas de IA estariam tentando construir sistemas muito mais capazes que os humanos em várias tarefas, enquanto os pesquisadores ainda não sabem garantir que esses sistemas permanecerão seguros em um cenário de autoaperfeiçoamento recursivo.

Por isso, ele defendeu dar mais tempo ao desenvolvimento de métodos de alinhamento e avaliação. Na formulação de Engels, o ritmo de avanço das capacidades não deveria superar a capacidade de entender e controlar o comportamento dos modelos.

Engels também afirmou considerar alta o bastante a possibilidade de danos imensos causados por sistemas de IA nos próximos cinco anos para tratar o assunto como uma prioridade extrema. Essa frase registra a avaliação de risco de um pesquisador; não estabelece que uma catástrofe ocorrerá nesse prazo.

O que Engels vai pesquisar na METR

Engels descreveu três frentes para seu trabalho na METR:

  • investigar de onde surge o desalinhamento durante o treinamento;
  • avaliar se as medidas de segurança atuais são suficientes;
  • analisar se a pesquisa de alinhamento está avançando rumo a uma solução.

A METR é descrita como uma organização que avalia sistemas de IA de fronteira, incluindo suas capacidades autônomas e riscos potencialmente catastróficos. O novo papel de Engels combina essa avaliação externa com uma investigação mais específica sobre a origem dos comportamentos desalinhados e a eficácia das salvaguardas existentes.

O que significa autoaperfeiçoamento recursivo

Autoaperfeiçoamento recursivo é o cenário em que um sistema de IA ajuda a criar ou aprimorar sucessores mais capazes. Cada geração poderia contribuir para o desenvolvimento da seguinte, formando um ciclo de aumento de capacidade.

Esse conceito é diferente de simplesmente atualizar um modelo ou lançar uma versão nova. A preocupação de Engels está no momento em que sistemas de IA passariam a participar de forma relevante da criação de sucessores, enquanto os métodos para avaliar e alinhar esse processo ainda não seriam suficientes.

O risco descrito por Engels é condicional: se o desenvolvimento de capacidades superar a capacidade de alinhamento e avaliação, um ciclo de autoaperfeiçoamento poderia ampliar as consequências de um comportamento desalinhado. Isso expressa uma hipótese de risco, não a descrição de um ciclo já demonstrado em sistemas públicos.