Em 30 de setembro de 2026, foi noticiado que mais de 20 pesquisadores ligados à OpenAI, Anthropic, Microsoft e Meta Platforms pediram aos legisladores uma supervisão mais clara de sistemas de IA cada vez mais envolvidos no desenvolvimento de outras IAs. Entre as recomendações atribuídas ao grupo estão o monitoramento de experimentos de alto risco e a possibilidade de interromper sistemas imediatamente.

Os pesquisadores também teriam apontado riscos potenciais de ciberataques, pandemias facilitadas por IA, impactos no trabalho e instabilidade geopolítica.

O que significa autoaperfeiçoamento recursivo

A IA pode ajudar em tarefas de desenvolvimento, como escrever código ou executar etapas de pesquisa. O autoaperfeiçoamento recursivo completo seria algo além: um sistema projetando e desenvolvendo autonomamente seu próprio sucessor.

A Anthropic afirma que seus sistemas já contribuem de forma significativa para o trabalho de desenvolvimento da empresa. Ainda assim, diz que esse ciclo autônomo completo não foi alcançado e não é inevitável.

A empresa afirma que Claude escreveu mais de 80% do código incorporado à sua base de código até maio de 2026. No segundo trimestre daquele ano, engenheiros da Anthropic incorporaram oito vezes mais código por dia do que em 2024. A empresa ressalva que linhas de código medem quantidade, não qualidade, e podem superestimar ganhos de produtividade.

Salvaguardas atribuídas aos pesquisadores

As propostas relatadas incluem regras mais claras para métodos automatizados de pesquisa, requisitos rigorosos de segurança e limites para o ritmo de desenvolvimento de capacidades. Também incluem monitoramento de experimentos de alto risco e a possibilidade de interromper sistemas imediatamente.

O grupo teria proposto ainda ambientes protegidos para pesquisas sensíveis, redes internacionais para compartilhar incidentes, protocolos de dissuasão mais claros e acordos globais para coordenar o ritmo do desenvolvimento.

O que a supervisão humana pode exigir

Para sistemas de alto risco abrangidos pela Lei de IA da União Europeia, os supervisores humanos devem poder entender as limitações do sistema, detectar anomalias, interpretar resultados, evitar confiança excessiva, desconsiderar ou sobrepor-se às saídas e interromper a operação.