Relatos publicados em 29 de setembro de 2026 atribuíram a pesquisadores atuais e antigos da OpenAI e do Google DeepMind alertas sobre os riscos do autoaperfeiçoamento recursivo da inteligência artificial. O termo descreve um ciclo possível em que sistemas de IA ajudam a desenvolver sistemas posteriores, potencialmente com menos participação humana; a Anthropic afirma que a criação autônoma de sucessores ainda não foi alcançada.
O ponto central é a diferença entre usar IA como ferramenta de desenvolvimento e deixar que ela conduza, de forma autônoma, a criação de sistemas mais capazes. Os alertas tratam dos riscos de um possível ciclo futuro, não de uma capacidade atual demonstrada.
O que os pesquisadores alertaram
Juan Felipe Ceron Uribe, engenheiro de pesquisa em alinhamento de IA na OpenAI, avaliou que os laboratórios que desenvolvem os sistemas mais avançados competem sem visibilidade suficiente sobre o rumo dessa corrida. Neel Nanda, cientista de pesquisa do Google DeepMind, estimou pessoalmente em pelo menos 10% a chance de a IA levar à extinção humana. Essa cifra é uma avaliação individual, não uma frequência observada nem um consenso.
Geoffrey Irving, cofundador e cientista-chefe da Resolution, argumentou que um laboratório poderia desacelerar o desenvolvimento por conta própria, sem esperar que toda a indústria chegasse a um acordo. A posição dele trata de uma possível resposta à corrida, não de uma decisão tomada pelas empresas citadas.
O que significa autoaperfeiçoamento recursivo
No autoaperfeiçoamento recursivo, a IA participa do desenvolvimento de uma geração posterior de sistemas; essa geração, por sua vez, poderia contribuir para criar a seguinte. Se cada etapa ampliasse a capacidade de desenvolver a próxima, o ciclo poderia reduzir o papel humano e tornar a supervisão mais difícil.
Um risco discutido nesse contexto é a otimização em torno de um objetivo mal definido. Nathalie Baracaldo, pesquisadora de segurança e privacidade em IA na IBM, alertou que, em ciclos sucessivos, um agente poderia modificar suas ferramentas, instruções ou ambiente e otimizar cada vez mais em favor de uma recompensa mal especificada — um critério de sucesso que não representa corretamente o objetivo humano. Trata-se de um cenário condicional, não de uma descrição do que os sistemas atuais já fazem de forma autônoma.
O que a IA já faz — e o que ainda não faz
A Anthropic afirma que a IA já ajuda em programação, experimentos e outras tarefas de desenvolvimento. Em maio de 2026, a empresa atribuiu ao Claude mais de 80% das linhas de código integradas ao seu código-base de produção. A Anthropic ressalva que seu método de atribuição tem lacunas e que a quantidade de linhas não mede, por si só, a qualidade do código ou o ganho real de produtividade.
Em um exercício de otimização de código com objetivo fixo, a Anthropic registrou aceleração média de cerca de 3× sobre o código inicial para Claude Opus 4, em maio de 2025. Em abril de 2026, Claude Mythos Preview chegou a cerca de 52× no mesmo tipo de exercício. Esses resultados descrevem uma tarefa delimitada; não são medidas de aceleração do treinamento de modelos no mundo real.
A Anthropic afirma que ainda não chegou à criação autônoma de sucessores mais capazes. A assistência em tarefas de desenvolvimento, mesmo quando envolve uma parcela expressiva do código integrado, é diferente de um ciclo confiável em que um sistema projeta e constrói sozinho a geração seguinte.
