Uma estimativa de risco de extinção por inteligência artificial é um julgamento sobre a chance de um desfecho extremo, não uma frequência calculada a partir de eventos anteriores. Por isso, percentuais diferentes só podem ser entendidos quando se sabe quem estimou, qual resultado avaliou e em que período.
Um estudo Delphi conduzido no fim de 2025 e divulgado em 2026 reuniu 272 especialistas de 37 países para avaliar 24 categorias de risco em IA. Em 18 delas, os participantes consideraram haver ao menos 10% de chance de um resultado catastrófico nos cinco anos seguintes, sob as trajetórias atuais. Esse resultado se refere a categorias de risco, não à probabilidade de extinção humana.
O que o estudo Delphi avaliou
A pesquisa organizou riscos relacionados à IA em 24 categorias e pediu avaliações de especialistas em três rodadas. O resultado de “18 de 24” quer dizer que 18 categorias atingiram o patamar de pelo menos 10% de chance de causar uma catástrofe dentro de cinco anos. Não são 18 previsões de extinção.
Michael Noetel, coautor do estudo, resumiu três grandes grupos de preocupação: uso deliberado da IA para causar danos, perda de controle humano à medida que os sistemas se tornam mais capazes e concentração extrema de poder econômico e político. São tipos distintos de risco; o número de categorias acima do patamar não indica que todos levariam ao mesmo desfecho.
Por que essas probabilidades são subjetivas
Não há um histórico de extinções causadas por IA que permita calcular a frequência desse evento. Chaitanya Joshi, professor de estatística da Adelaide University, explicou que estimativas desse tipo são probabilidades subjetivas: julgamentos sobre um futuro sem uma série de ocorrências anteriores que sirva de base estatística.
Joshi ilustrou a incerteza com um exemplo hipotético: uma estimativa mediana de 0,1 poderia vir acompanhada de uma faixa possível entre zero e 0,3. Esses valores ilustram como uma previsão pode comportar incerteza; não são um resultado de pesquisa sobre o risco da IA.
Michael Noetel argumentou que uma estimativa ainda pode ajudar a orientar decisões sobre riscos, mesmo quando não existe uma frequência histórica para confrontá-la. O percentual, sozinho, não informa o grau de confiança de quem o calculou nem explica quais hipóteses levaram à previsão.
Quatro estimativas, quatro escopos diferentes
Os números abaixo tratam de populações, resultados e períodos distintos. Não devem ser somados nem lidos como medidas concorrentes de uma única probabilidade.
| Avaliação | O que foi estimado | Resultado comunicado |
| Previsão pessoal de Evan Hubinger, pesquisador de alinhamento da Anthropic | A chance de a IA matar todos os seres humanos na próxima década | Mais de 10% |
| Estimativa anterior de Geoffrey Hinton | A chance de extinção humana causada por IA em 30 anos | De 10% a 20% |
| Pesquisa com 1.580 pesquisadores que publicaram em eventos de destaque em IA | Avanços futuros em IA causarem extinção humana ou uma perda de poder humano igualmente grave e permanente | Média de 18%; mediana de 10% |
| Estudo Delphi com 272 especialistas | A chance de resultados catastróficos em 24 categorias de risco, sob as trajetórias atuais | Em 18 categorias, ao menos 10% de chance em cinco anos |
A estimativa de Hubinger é pessoal. Já os 18% de média e 10% de mediana da pesquisa com 1.580 participantes se referem ao desfecho combinado de extinção ou perda de poder humano grave e permanente. A avaliação Delphi, por sua vez, mede categorias de risco e resultados catastróficos, não a extinção em si.
O que os cenários da RAND acrescentam
Uma análise exploratória da RAND, publicada em 2025, examinou cenários envolvendo armas nucleares, patógenos e geoengenharia. A instituição avaliou que provocar a extinção humana seria extremamente difícil nos cenários estudados, mas não descartou essa possibilidade.
Para que um agente de IA representasse uma ameaça de extinção nesses cenários, a análise apontou quatro capacidades necessárias:
- integração com sistemas ciberfísicos importantes;
- capacidade de operar sem manutenção humana;
- um objetivo de causar a extinção humana;
- capacidade de persuadir ou enganar pessoas para evitar ser detectado.
A análise descreve condições hipotéticas para aqueles cenários; não afirma que sistemas atuais reúnam essas capacidades.
