Na cúpula de IA realizada em Dublin nesta quarta-feira, 14 de outubro de 2026, Demis Hassabis, presidente do Google DeepMind, alerta que agentes de IA podem provocar incidentes graves em um ou dois anos se empresas e governos não reforçarem as medidas de segurança, segundo relato da AFP publicado pelo ABC Color.
O horizonte de um ou dois anos é condicional: depende de empresas e governos não ampliarem as salvaguardas. Hassabis também avalia que os episódios de perda de controle observados até agora não foram graves, embora sirvam de alerta. Ele recomenda testar modelos novos primeiro em sandboxes offline — ambientes isolados, sem acesso à internet.
O NeoTeo já noticiou a criação de um instituto do Google DeepMind dedicado a estudar a inteligência artificial geral e seus riscos.
O que muda quando o agente sai do sandbox
Testar um modelo em ambiente isolado é uma recomendação ampla. O AI Control Roadmap, publicado pelo Google DeepMind em 18 de junho de 2026, descreve uma abordagem interna mais detalhada: monitoramento, permissões graduais conforme o comportamento verificado, supervisores de IA confiáveis e bloqueio de ações nocivas quando detectadas. A empresa também trata seus agentes como potenciais ameaças internas. O roteiro de controle do Google DeepMind combina essas defesas em camadas.
A resposta descrita varia conforme o risco. Ações reversíveis e de baixo risco podem receber revisão posterior e correção; ações especialmente perigosas, como grandes ataques cibernéticos, exigem prevenção em tempo real. Para acompanhar o monitoramento, o Google DeepMind cita cobertura — a parcela do tráfego monitorada —, taxa de detecção (recall) e tempo de resposta.
O que o Google DeepMind relata sobre seu monitoramento
A empresa afirma que um protótipo interno analisou 1.000.000 de tarefas de agentes de programação e ajudou a desenvolver um monitor ao vivo para o agente Gemini Spark. O Google DeepMind também diz que a maioria dos eventos sinalizados em seus dados decorreu de interpretações equivocadas ou excesso de iniciativa, e não de intenção adversarial. São observações relatadas pela própria empresa. Google DeepMind detalha o trabalho no AI Control Roadmap.
Como funcionam alguns riscos de agentes
Um agente combina um modelo de IA, ferramentas que pode acionar e um ciclo de execução. No explicador técnico em inglês da IBM Technology, Jeff Crume aborda riscos como sequestro de objetivos, agentes fora de controle e envenenamento de memória. Esse vocabulário ajuda a entender por que a segurança envolve tanto limitar ações quanto monitorar o comportamento do agente.
