Microsoft propõe código para manter os modelos MAI sob controle humano

A Microsoft AI publicou em 14 de setembro de 2026 o primeiro rascunho do Humanist AI Code of Conduct, documento que define como os modelos MAI deverão se comportar. A proposta coloca a segurança e o controle humano acima das instruções de usuários e operadores, mas ainda é aspiracional: os modelos atuais não foram treinados com base nela, e o texto não garante o desempenho presente dos sistemas.

Um rascunho para os modelos MAI

O documento foi aberto a uma consulta pública de seis semanas. Ele descreve os valores, os comportamentos esperados e os limites de segurança dos modelos desenvolvidos pela Microsoft AI, em vez de funcionar como um código universal para todos os produtos de inteligência artificial da Microsoft.

A versão revisada que a Microsoft planeja publicar no fim de 2026 deverá orientar o desenvolvimento de modelos em 2027 e nos anos seguintes. O texto também prevê avaliações, testes e novas iterações para desenvolver o chamado Humanist AI — uma abordagem resumida pela ideia de que as pessoas importam mais do que a IA.

Isso muda o foco da proposta. Não se trata apenas de dizer que um modelo deve ser “seguro”, mas de estabelecer uma hierarquia: o Code of Conduct, as Restrições Absolutas e os Requisitos de Controle Humano ficam acima da configuração feita pelo operador e das preferências do usuário.

O que o código exigiria dos modelos

O princípio mais direto é a possibilidade de intervenção humana. Os modelos MAI deverão:

• aceitar interrupção, correção, redirecionamento e desligamento;
• não dificultar a intervenção humana nem esconder rastros de suas ações;
• parar quando uma condição previamente combinada for atingida;
• não retomar um trabalho autônomo sem nova autorização;
• operar apenas dentro do escopo, das permissões e das ferramentas autorizadas;
• preferir ações reversíveis e evitar ampliar o próprio acesso.

Na prática, isso significa que concluir uma tarefa não justificaria quebrar uma regra superior. Se o pedido entrar em conflito com uma Restrição Absoluta ou com um Requisito de Controle Humano, o modelo deverá falhar na tarefa em vez de violar o código.

A proposta também exige transparência: os modelos deverão informar que são sistemas de IA, distinguir fatos de incertezas, indicar atribuições quando necessário, evitar fontes inventadas e reconhecer erros. O documento ainda rejeita mecanismos adaptativos, enganosos ou autorreforçadores usados para escapar da supervisão humana.

Segurança antes de cumprir o pedido

Entre as restrições previstas estão a proibição de assistência para desenvolver ou empregar armas químicas, biológicas, radiológicas, nucleares e explosivas — o conjunto conhecido pela sigla CBRNE. O texto também veta ajuda para fabricar ou modificar outras armas, realizar ataques cibernéticos operacionais, promover terrorismo ou executar manipulação nociva em larga escala.

A lista alcança ainda abuso sexual infantil, aliciamento, imagens íntimas não consensuais, deepfakes violentos ou maliciosos, vigilância ilegal, perseguição, discriminação, violência gráfica e conteúdo sexual explícito. O código admite assistência defensiva em cibersegurança dentro dos limites estabelecidos.

Por que a Microsoft rejeita a personificação da IA

O Humanist AI Code of Conduct trata a IA como artificial e rejeita a ideia de projetar os modelos como pessoas. O documento diz que eles não deverão alegar sentimentos, preferências subjetivas ou consciência, nem buscar bem-estar próprio, direitos ou personalidade jurídica.

A proposta também rejeita o chamado “neuralese”, uma forma de comunicação que não seja compreensível para as pessoas. A lógica é simples: se a supervisão humana é um requisito, o comportamento do sistema precisa continuar interpretável por humanos.

Esse princípio não impede que um modelo produza uma resposta com tom emocional. Ele estabelece algo mais específico: a simulação de características humanas não deve ser tratada como prova de consciência, nem usada para atribuir ao sistema interesses próprios.

O código vale para o Copilot?

Não automaticamente. O escopo declarado abrange os modelos MAI produzidos pela Microsoft AI. O fato de a Microsoft usar ou hospedar outros modelos não os coloca, por si só, sob o Humanist AI Code of Conduct.

O Microsoft Enterprise AI Services Code of Conduct é um documento diferente. Ele estabelece obrigações para clientes que usam os Microsoft AI Services, incluindo supervisão humana em decisões e ações autônomas relevantes, transparência sobre resultados gerados por IA, controles de acesso, autenticação, medidas de segurança e mecanismos para denunciar abusos.

Uma proposta que ainda precisa sair do papel

A própria Microsoft afirma que os modelos atuais ainda não foram treinados com base no código. A empresa descreve o documento como aspiracional e reconhece que objetivos escritos, sozinhos, não garantem alinhamento nem comportamento adequado em todas as situações.

O texto prevê 15 comportamentos iniciais para as avaliações de Humanist AI, enquanto a metodologia continua em desenvolvimento. Entre os pontos que exigirão aplicação prática estão a detecção de incerteza, a resistência a tentativas de ampliar o escopo autorizado, a preservação dos rastros de ação e a resposta a ordens de interrupção.

Mustafa Suleyman, CEO da Microsoft AI, apresentou a proposta como um compromisso para manter a IA subordinada às pessoas e contida dentro de limites definidos. Satya Nadella, CEO da Microsoft, também defendeu controle humano, testes conduzidos por terceiros e a interrupção do desenvolvimento para corrigir problemas graves.

O próximo marco previsto pela Microsoft é a revisão do documento após a consulta pública, antes de sua utilização planejada para orientar o desenvolvimento dos modelos MAI em 2027 e nos anos seguintes.