A Dreamforce 2026 colocou três visões incompatíveis sobre a segurança da inteligência artificial no mesmo palco em 15 de setembro: Dario Amodei defendeu desacelerar o crescimento das capacidades para permitir supervisão independente; Sam Altman apoiou compromissos de segurança que não dependam dos concorrentes; e Jensen Huang rejeitou novas leis específicas para a IA e preferiu testes técnicos antes do lançamento. O evento segue até 17 de setembro, no Moscone Center, em San Francisco, mas o debate central já deixou clara a divisão.
Nenhuma das propostas virou um acordo obrigatório. O que apareceu foi uma disputa sobre o ponto em que a segurança deve intervir: na coordenação entre empresas e países, nos compromissos permanentes dos laboratórios ou no controle técnico de cada produto.
Três formas de tornar a IA mais segura
| Ator | Mecanismo principal | Coordenação e regulação | Barreira operacional descrita |
| Dario Amodei, Anthropic | Reduzir o ritmo de crescimento das capacidades sem interromper o progresso técnico | Avaliadores externos, padrões entre países democráticos e coordenação global | Acesso contínuo dos avaliadores a escritórios, ferramentas, permissões e processos relevantes |
| Sam Altman, OpenAI | Manter segurança, alinhamento e monitoramento à frente das capacidades | Compromissos independentes da conduta de concorrentes e relatos transparentes de incidentes | Diminuir ou interromper o avanço quando a segurança deixar de acompanhar as capacidades |
| Jensen Huang, NVIDIA | Testar funcionalidade, capacidade e segurança antes de liberar produtos | Responsabilidade das empresas e forças de mercado, sem novas leis ou regulamentações específicas | Não lançar um produto quando a empresa não estiver confiante em sua segurança |
| Marc Benioff, Salesforce | Cobrar responsabilidade pelas decisões de acelerar ou desacelerar | Aplicar regras existentes e permitir que elas evoluam | As empresas devem responder pelos riscos que conhecem em seus próprios modelos |
O que Dario Amodei propôs
Dario Amodei não pediu o fim do treinamento de modelos nem do progresso técnico. A proposta apresentada por ele é ritmar a fronteira: reduzir o avanço das capacidades o suficiente para que avaliação, alinhamento — o trabalho de manter o comportamento dos sistemas compatível com objetivos humanos — e segurança consigam acompanhar a corrida.
O primeiro passo seria incorporar avaliadores independentes às empresas de IA de fronteira. Eles teriam acesso contínuo, semelhante ao de funcionários, a ambientes de trabalho, ferramentas, permissões e processos relevantes. Também poderiam examinar os pipelines de treinamento, verificar práticas de segurança, relatar incidentes e publicar descobertas importantes, com exceções para informações sensíveis de segurança, sigilo legal, segredos comerciais e dados confidenciais de terceiros.
A segunda etapa seria uma coordenação entre empresas de países democráticos para criar padrões comuns de segurança e limites para avanços de capacidade sem controles equivalentes. A terceira ampliaria a coordenação para governos autoritários, incluindo a China. Amodei apontou a verificação e os incentivos geopolíticos como obstáculos importantes nessa fase.
Na prática, é um modelo de governança que tenta impedir que a competição transforme a segurança em uma variável descartável. A velocidade não desaparece; passa a depender de controles capazes de acompanhar o que os modelos conseguem fazer.
O que Sam Altman defendeu
Sam Altman ficou próximo da ideia de manter a segurança à frente das capacidades, mas acrescentou uma condição política importante: os compromissos não deveriam depender de rivais ou países demonstrarem responsabilidade primeiro.
O CEO da OpenAI também defendeu uma cultura de relatos transparentes de incidentes e aprendizado, inspirada parcialmente na aviação. Para ele, acidentes podem ocorrer com tecnologias novas; o mecanismo de resposta precisa registrar o que aconteceu, investigar as falhas e incorporar as lições aos sistemas seguintes.
Altman apontou dois riscos centrais: acidentes que levem à perda de controle e concentração excessiva de poder. Sua proposta combina avaliação independente, monitoramento contínuo e disposição para reduzir ou interromper o avanço quando os controles não conseguirem acompanhar as capacidades.
Por que Jensen Huang rejeitou novas leis
Jensen Huang tratou a segurança como um problema de engenharia. Na visão apresentada na Dreamforce, empresas devem testar a funcionalidade, a capacidade e a segurança de um produto antes de colocá-lo no mercado. Se não tiverem confiança suficiente nesses três pontos, não devem fazer o lançamento.
Huang também disse que não são necessárias novas leis ou regulamentações para esse objetivo. Sua alternativa é uma combinação de testes técnicos, decisões internas de lançamento e responsabilidade perante o mercado. Ele rejeitou a ideia de que inovação, velocidade e produtos seguros sejam escolhas necessariamente incompatíveis.
Essa posição desloca o centro da decisão para cada empresa: o portão de segurança fica no processo de validação do produto, não em um mecanismo comum de supervisão entre laboratórios. É uma diferença grande em relação à proposta de Amodei, que pretende dar a avaliadores externos acesso permanente aos processos das empresas.
A responsabilidade que Marc Benioff coloca sobre as empresas
Marc Benioff defendeu a responsabilização corporativa e afirmou que as regras existentes já se aplicam aos modelos, enquanto a regulação pode evoluir conforme as capacidades fiquem mais claras.
O CEO da Salesforce também colocou a decisão de acelerar ou desacelerar nas mãos das empresas de IA — mas vinculou essa liberdade à responsabilidade pelos resultados. O ponto de Benioff funciona como uma ponte entre os outros argumentos: não determina um ritmo único, mas exige que as empresas respondam pelas escolhas que fazem.
Koa, o lançamento que acompanhou o debate
No mesmo evento, Salesforce e NVIDIA anunciaram o Salesforce Koa, um modelo de raciocínio voltado para tarefas de CRM e construído sobre o NVIDIA Nemotron. A Salesforce afirma que o treinamento usou cenários sintéticos baseados em experiências de CRM e não utilizou dados de clientes.
A empresa também informou que Koa apresentou três vezes menos erros em ações de CRM no CRM Bench da Salesforce. Em outros testes divulgados pela própria Salesforce, o modelo teve 11% mais precisão nas ações, 2,1 vezes mais confiabilidade e desempenho 15% superior em contexto longo quando comparado a modelos gerais padrão não identificados.
Esses números se referem a tarefas de CRM e aos testes descritos pela Salesforce; não são uma medida de inteligência geral. Koa estava disponível para clientes-piloto, e a disponibilidade geral era esperada para o inverno de 2026 nas regiões dos Estados Unidos.
O que mudou depois da Dreamforce 2026
A Dreamforce terminou sem uma nova lei de IA, sem um acordo obrigatório entre as empresas e sem uma pausa vinculante no desenvolvimento de modelos de fronteira. O resultado concreto foi outro: líderes de empresas com posições diferentes tornaram públicas as ferramentas que consideram aceitáveis para controlar os riscos — avaliadores incorporados, compromissos independentes, relatos de incidentes, testes de engenharia e responsabilização corporativa.
