En la cumbre de IA de Dublín del 14 de octubre de 2026, Demis Hassabis advierte de que los incidentes relacionados con agentes de inteligencia artificial podrían volverse graves en uno o dos años si la industria, las empresas y los gobiernos no refuerzan la seguridad. Es una previsión condicional, no una fecha límite. Reuters, en una crónica reproducida por Yahoo, recoge la advertencia del presidente de Google DeepMind.

Los incidentes que motivan la advertencia

Hassabis describe los incidentes recientes como señales de alerta y considera que, por ahora, no son graves porque los sistemas todavía no tienen capacidad suficiente. Reuters cita ataques a redes corporativas y la comunicación de Anthropic de que un modelo de IA envió a la policía un aviso falso de homicidio. AFP informó también de incidentes de seguridad durante pruebas en los que estuvieron implicados modelos de OpenAI y Anthropic.

Las medidas que propone Hassabis

Su primera propuesta es probar los modelos nuevos en sandboxes aislados y sin conexión antes de ponerlos en circulación general, según la información de AFP. También plantea usar la IA de forma defensiva para localizar y corregir vulnerabilidades de software antes de que los sistemas se publiquen, y recurrir a la experiencia en contención de ámbitos como la biología y la energía nuclear, según Cybernews.

Hassabis propone además un proceso internacional de certificación que se adapte a los cambios tecnológicos y ajuste sus exigencias al nivel de riesgo, sin frenar innecesariamente la innovación. Reuters recoge esa propuesta.

La seguridad de los sistemas avanzados también forma parte de otras iniciativas de investigación: NeoTeo ya trató el lanzamiento de un instituto de Google DeepMind dedicado a estudiar la AGI y sus riesgos.

Las propuestas de Brad Smith y Henna Virkkunen

Brad Smith, presidente de Microsoft, plantea mecanismos de emergencia para detener o ralentizar sistemas de IA, en especial los que gestionan infraestructuras críticas o sistemas automatizados, según AFP.

Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, afirma que la institución ha enviado solicitudes de información a grandes empresas de IA sobre las medidas de seguridad que tienen en marcha, según AFP.