Em 18 de novembro de 2026, Gavin Newsom anunciou recomendações para reforçar a segurança da inteligência artificial na Califórnia. Entre elas está uma proposta de intervenção estadual diante de uma ameaça catastrófica iminente ou de uma grave perda de controle, caso o desenvolvedor se recuse a conter o risco. O relatório apresenta essas medidas como propostas de mudanças legislativas, não como poderes já concedidos. A publicação do governo estadual anunciou as recomendações; o relatório da California Government Operations Agency, datado de 16 de novembro, detalha como elas poderiam funcionar.

Quando o estado poderia ordenar uma intervenção?

A recomendação prevê uma ordem de emergência se autoridades tiverem motivos confiáveis para acreditar que existe uma ameaça iminente de risco catastrófico ou um evento grave de perda de controle, e o desenvolvedor se recusar a conter o perigo. A medida se dirige a essa situação específica, não a uma autorização geral para desligar sistemas de IA.

Se emitida, a ordem teria efeito imediato enquanto passasse por revisão judicial. O desenvolvedor poderia contestá-la e pedir uma ordem judicial temporária para suspendê-la. O estado deveria escolher a intervenção viável mais restrita e retirar a ordem quando o perigo deixasse de ser iminente.

A proposta separa a preparação contínua das empresas para conter riscos de uma ordem estadual excepcional, acionada diante de uma ameaça iminente e da recusa do desenvolvedor em agir.

Como funcionariam os protocolos de contenção?

O relatório recomenda protocolos testados e verificados para conter riscos em diferentes níveis, em vez de depender de um único comando de desligamento. As intervenções poderiam envolver a capacidade computacional, agentes de IA, acessos internos ou a implantação de um modelo. As empresas também deveriam definir responsáveis, testar se um modelo poderia atrapalhar o desligamento — inclusive copiando seus pesos — e prever como coordenar ações com provedores de nuvem e fornecedores de energia. Os planos precisariam ainda estabelecer quando seria seguro restaurar os sistemas.

Para desenvolvedores de modelos de pesos abertos, a recomendação limita as exigências de desligamento às implantações sob seu controle. Um desenvolvedor não pode desligar por conta própria um modelo que outra organização hospeda e opera.

Quem faria a avaliação independente e quais incidentes seriam comunicados?

O relatório propõe supervisão contínua de grandes desenvolvedores de modelos de fronteira por organizações independentes de verificação (IVOs, na sigla em inglês). Essas entidades licenciadas teriam acesso às pessoas e às informações relevantes das empresas e compartilhariam com o estado avaliações sem cortes. O estado também definiria padrões básicos de segurança, proteção e transparência; as IVOs desenvolveriam e atualizariam as especificações técnicas e os testes usados para verificar o cumprimento desses padrões.

A proposta reduziria para 48 horas o prazo de comunicação da maioria dos incidentes críticos de segurança. Para riscos catastróficos iminentes, seria mantido o prazo de 24 horas. O relatório descreve 15 dias como o prazo então vigente para a maioria dos incidentes. A ampliação da comunicação incluiria ocorrências graves de perda de controle, tentativas de roubo de pesos de modelos e um canal para quase acidentes.

O relatório também recomenda que a comunicação alcance modelos capazes de executar ações que possam causar riscos catastróficos mesmo quando tenham sido treinados com menos de 10²⁶ operações inteiras ou de ponto flutuante.

O que mais entraria na supervisão?

As recomendações incluem acompanhar a automação da pesquisa e do desenvolvimento de IA, inclusive a parcela de capacidade computacional dedicada a essas atividades. O estado poderia limitar o autoaperfeiçoamento recursivo — quando sistemas de IA participam do desenvolvimento de sucessores — se avaliasse que a automação acima de determinado nível poderia criar risco catastrófico. O relatório não fixa um valor numérico para esse nível.