No ensaio datado de 10 de outubro de 2026, Satya Nadella propõe que uma pessoa autorizada possa pausar ou desligar um modelo de IA durante uma tarefa. A recomendação prevê que as permissões de acesso e os controles sobre as ações fiquem fora do modelo, sob autoridade de quem opera o sistema. Nadella apresentou a proposta em seu ensaio; o texto não anuncia um recurso implantado pela Microsoft.
O que o freio mudaria na operação
A ideia é permitir uma intervenção humana enquanto o modelo trabalha: uma pessoa autorizada poderia interromper a tarefa ou desligar o modelo. Nadella não define qual cargo teria essa autoridade nem descreve uma interface ou um mecanismo técnico específico.
O princípio mais amplo é separar a capacidade do modelo da autoridade sobre suas ações. As permissões que definem a quais recursos ele pode acessar e o que pode fazer ficariam fora dele. Nadella também propõe separar o modelo do harness — o sistema que o coordena — e do espaço de ações permitido. Assim, a inteligência do modelo não seria, por si só, a instância que decide os próprios limites.
Registros, testes e supervisão independente
A recomendação inclui registros legíveis por pessoas e resistentes a alterações para cada ação relevante do modelo. Nadella também defende que os resultados possam ser reproduzidos sem depender do próprio modelo para confirmar o que fez. Na prática, esses registros dariam às equipes uma trilha para examinar as ações do sistema.
O ensaio ainda propõe validação independente e testes contínuos que cubram falhas, ataques, casos extremos e mudanças no sistema. A lógica é avaliar o conjunto em operação, não apenas confiar nas respostas do modelo. Nadella também recomenda diversidade de modelos e a divulgação rápida de falhas ou comprometimentos às partes afetadas, acompanhada de informações sobre o que deu errado e como evitar recorrências.
A transparência sobre o raciocínio do modelo, por si só, não substitui esses controles. Nadella considera a transparência da cadeia de pensamento um ponto de partida, mas diz que ela não é suficiente nem confiável, pois as respostas dos modelos ainda não são consistentemente fiéis ou transparentes.
Uma precaução, não uma acusação
Nadella propõe tratar modelos avançados — de código fechado ou com pesos abertos — como possíveis riscos internos. Isso não significa que sejam necessariamente maliciosos: o ensaio parte da possibilidade de que um sistema capaz cometa erros ou seja comprometido. A recomendação é, portanto, uma premissa preventiva de projeto, não a afirmação de que um modelo específico já sofreu uma invasão.
Essa distinção importa porque “presumir comprometimento” descreve a abordagem de contenção sugerida por Nadella. O texto não aponta um modelo comprometido nem relata um incidente.
Onde a proposta se encaixa
A recomendação se dirige às organizações que desenvolvem ou colocam modelos avançados em operação. Para Nadella, elas continuam responsáveis pelas ações realizadas em seu nome; essa responsabilidade não passa automaticamente ao fornecedor do modelo.
É um tema próximo, mas distinto, do rascunho do Humanist AI Code of Conduct para os modelos MAI. Aquele documento trata das condutas pretendidas para os modelos MAI; o ensaio de Nadella aborda princípios mais amplos de controle, validação e contenção para sistemas de IA avançados. O ensaio defende que tecnologias de contenção mais avançadas venham a ser padronizadas.
