En la cumbre de IA de Dublín del 14 de octubre de 2026, Demis Hassabis advierte de que podrían producirse incidentes graves con agentes de IA en uno o dos años si empresas y gobiernos no refuerzan las medidas de seguridad. El presidente de Google DeepMind también sostiene que los incidentes de pérdida de control observados hasta entonces no habían sido graves, aunque los considera señales de alerta. El relato de AFP publicado por ABC Color recoge ambas declaraciones.
Hassabis recomienda que los modelos nuevos se prueben primero en sandboxes: entornos aislados y sin conexión a internet. La propuesta busca limitar lo que un modelo puede alcanzar durante las pruebas; no equivale a una política formal de aplicación general.
Qué controles describe Google DeepMind
La recomendación de aislar modelos es solo una parte del enfoque. En su AI Control Roadmap, publicado el 18 de junio de 2026, Google DeepMind describe un sistema interno que combina salvaguardas tradicionales con supervisión y permisos graduales, concedidos según el comportamiento verificado del agente. También contempla supervisores de IA de confianza y mecanismos para bloquear acciones dañinas cuando las detectan. Google DeepMind detalla su hoja de ruta de control.
La respuesta prevista depende del riesgo: las acciones reversibles de bajo riesgo pueden revisarse más tarde mediante el análisis de sus transcripciones, con medidas correctivas si hace falta. Para acciones especialmente peligrosas, como ciberataques de gran escala, el planteamiento contempla prevenirlas en tiempo real. Google DeepMind señala tres medidas para evaluar la monitorización: la cobertura del tráfico, la proporción de comportamientos desalineados que se detecta y el tiempo de respuesta.
Qué cuenta la empresa sobre su monitorización
Google DeepMind afirma que su prototipo analizó un millón de tareas de agentes de programación y contribuyó al desarrollo de un monitor en directo para Gemini Spark. Según la empresa, la mayoría de los eventos señalados en esos datos se debieron a errores de interpretación o a un exceso de iniciativa, no a una intención adversaria. Son resultados comunicados por Google DeepMind sobre su propio trabajo.
NeoTeo ya había abordado la investigación de Google DeepMind sobre los riesgos de la IA al informar sobre su instituto para estudiar la AGI y sus riesgos.
Qué riesgos puede presentar un agente de IA
Un agente combina un modelo, herramientas y un ciclo de ejecución: puede recibir una instrucción, usar herramientas y continuar actuando. En una explicación general de seguridad de agentes, Jeff Crume, de IBM Technology, aborda riesgos como el secuestro de objetivos, los agentes fuera de control y el envenenamiento de memoria. Su explicación aporta contexto técnico, pero no trata sobre la cumbre de Dublín ni sobre los sistemas internos de Google DeepMind.
