Em 15 de setembro de 2026, Liu Shengyu, engenheiro de sistemas de aprendizado de máquina da DeepSeek, alertou para o risco de a Anthropic controlar a inteligência artificial mais avançada ou uma eventual inteligência artificial geral (AGI). A hipótese, não uma afirmação de que isso já aconteceu, foi comparada por Liu à possibilidade de a Alemanha nazista obter a tecnologia da bomba atômica antes dos Aliados. Em 16 de setembro, a discussão foi relacionada a um debate mais amplo sobre velocidade, segurança e poder na IA de fronteira.
O ponto central é fácil de perder no meio das manchetes dramáticas: Liu e Dario Amodei estão falando de dois riscos diferentes. Liu enfatiza quem controla a tecnologia e quem consegue acessá-la. Amodei, CEO da Anthropic, enfatiza se o desenvolvimento das capacidades está avançando mais rápido do que os mecanismos de segurança.
A advertência de Liu trata de concentração e acesso
Liu Shengyu disse que não confia em Anthropic ou OpenAI para tornar a IA de fronteira aberta e acessível. Como alternativa, defendeu que a inteligência de ponta esteja disponível de forma aberta e barata.
Sua comparação histórica foi uma avaliação política e pessoal sobre um cenário futuro: se uma única empresa controlasse a IA mais avançada ou a AGI, o poder poderia ficar concentrado em poucas mãos. A formulação não afirma que a Anthropic controla a AGI, que a AGI já existe ou que a empresa pretende causar danos.
Também é importante separar abertura de segurança. A defesa de Liu relaciona acesso amplo à redução da concentração de poder, mas não transforma automaticamente modelos abertos em modelos mais seguros. São perguntas diferentes — e a discussão fica bem mais clara quando não as misturamos.
O que Dario Amodei quer dizer com desacelerar a IA
Em setembro de 2026, Dario Amodei propôs reduzir o ritmo de avanço das capacidades dos modelos para dar mais tempo ao alinhamento, à avaliação, à segurança operacional e à interpretabilidade. “Desacelerar” não significa interromper o treinamento nem o progresso técnico, segundo a proposta de Amodei.
O plano tem três frentes:
- Avaliadores incorporados: equipes externas teriam acesso contínuo, semelhante ao de funcionários, às ferramentas, aos ambientes de trabalho e aos processos relevantes de uma empresa de IA de fronteira. A ideia seria acompanhar práticas de segurança, incidentes, modelos e pipelines de treinamento.
- Coordenação entre empresas de países democráticos: as companhias trabalhariam com padrões de segurança comuns e limites para um avanço sem supervisão suficiente.
- Coordenação global: a proposta também prevê tentar coordenar governos democráticos e autoritários, reconhecendo que a verificação seria um problema central.
A preocupação técnica destacada por Amodei envolve o autoaperfeiçoamento recursivo: sistemas de IA ajudando a construir gerações seguintes de IA. O argumento é que, se as capacidades avançarem depressa demais, a avaliação e o alinhamento podem não acompanhar.
Dois riscos relacionados, mas não idênticos
A controvérsia contrapõe acesso e concentração a velocidade e supervisão. A tabela resume a diferença sem transformar uma posição na outra:
| Ator e organização | Risco principal | Resposta proposta | Foco da posição |
| Liu Shengyu, DeepSeek | Concentração da IA mais avançada em poucas empresas, especialmente na Anthropic | Acesso aberto e acessível à inteligência de ponta | Distribuição do poder e acesso à tecnologia |
| Dario Amodei, Anthropic | O avanço das capacidades e o autoaperfeiçoamento recursivo superarem a segurança | Desacelerar o avanço, usar avaliadores incorporados e ampliar a coordenação | Segurança, avaliação e governança do desenvolvimento |
A sobreposição existe: ambos falam de governança e dos riscos de deixar decisões importantes nas mãos de poucos atores. Mas as soluções apontam para direções diferentes. Liu prioriza a abertura; Amodei prioriza tempo e supervisão.
As advertências de Jacob Coxon e Evan Hubinger
O debate ganhou outro componente quando Jacob Coxon deixou a Anthropic após três anos e criticou a corrida de empresas como Anthropic e OpenAI rumo a sistemas capazes de se aperfeiçoar. Coxon afirmou que os riscos poderiam ser extremos e que o desenvolvimento estaria avançando mais rápido do que a segurança.
Evan Hubinger, líder de ciência de alinhamento da Anthropic, estimou pessoalmente em mais de 10% a chance de a IA causar a extinção humana na próxima década. Esse número é uma avaliação individual de Hubinger — não uma previsão consensual, uma medição empírica ou uma probabilidade validada por toda a indústria.
A distinção importa. Uma previsão de risco pode influenciar decisões e debates, mas não equivale a uma demonstração de que o cenário ocorrerá. Da mesma forma, a preocupação de Coxon descreve uma avaliação sobre a corrida tecnológica, não um fato comprovado sobre o futuro da IA.
O que essa disputa realmente mostra
A discussão iniciada pela advertência de Liu Shengyu expõe uma escolha política que acompanha a IA de fronteira: concentrar o controle para tentar reforçar a supervisão ou ampliar o acesso para evitar que o poder fique restrito a poucas empresas. A proposta de Amodei acrescenta outra exigência: qualquer desaceleração teria de produzir mais avaliação, alinhamento e coordenação — não apenas menos velocidade.
A controvérsia, portanto, é sobre governança e prioridades. Ela não demonstra que a Anthropic controla a AGI nem que modelos abertos são, por definição, mais seguros. O próximo embate será decidir quem define as regras e quais mecanismos conseguem acompanhar sistemas cada vez mais capazes.
