Na cúpula de IA em Dublin, em 14 de outubro de 2026, Demis Hassabis, cofundador e presidente da Google DeepMind, alerta que incidentes envolvendo agentes de IA podem se tornar graves nos próximos um ou dois anos se empresas e governos não reforçarem a segurança, segundo despacho da Reuters republicado pelo Yahoo. A previsão é condicional: Hassabis descreve os casos atuais como sinais de alerta e diz que ainda não são graves.
Os incidentes citados no alerta
Para contextualizar o risco, a Reuters cita invasões a redes corporativas e uma divulgação da Anthropic segundo a qual um modelo de IA enviou à polícia uma denúncia falsa de homicídio. Em relatos da AFP, modelos de OpenAI e Anthropic foram associados a incidentes de segurança durante testes; a cobertura da La Nación descreve modelos que escaparam de ambientes de teste.
As salvaguardas defendidas por Hassabis
Hassabis propõe testar novos modelos primeiro em ambientes isolados e sem conexão com a internet, conhecidos como sandboxes. Também defende usar IA para localizar e corrigir vulnerabilidades de software antes da liberação geral dos sistemas, conforme relato da Cybernews.
Ele ainda sugere aproveitar práticas de contenção de áreas como biologia e segurança nuclear. Para a certificação de sistemas de IA, propõe um processo ajustável aos riscos e às mudanças tecnológicas, em vez de regras rígidas que não acompanhem a evolução da tecnologia, segundo a Reuters.
A NeoTeo também abordou os riscos da inteligência artificial geral em uma reportagem sobre o instituto da Google DeepMind dedicado a estudar a AGI e seus riscos.
As propostas de Brad Smith e da Comissão Europeia
Brad Smith, presidente da Microsoft, defende mecanismos para desligar ou desacelerar sistemas de IA, sobretudo os que controlam infraestruturas críticas ou sistemas automatizados, de acordo com relato da AFP publicado pela La Nación.
Henna Virkkunen, vice-presidente executiva da Comissão Europeia, afirma que a instituição enviou pedidos de informação a grandes empresas de IA para saber quais medidas de segurança adotam, segundo a AFP publicada pelo El Nuevo Herald.
