Demis Hassabis pidió el 14 de octubre de 2026, en la Cumbre Internacional sobre IA de Dublín, crear un organismo internacional que fije estándares para el desarrollo y el uso seguros de la inteligencia artificial. El cofundador y presidente de Google DeepMind también propuso una certificación dinámica y proporcional a los riesgos detectados, capaz de adaptarse a medida que evolucione la tecnología. Así lo contó EFE en una información publicada por Diario de León.
Qué propone Hassabis y por qué
La propuesta combina dos ideas: acordar estándares internacionales de seguridad y evaluar los sistemas con una certificación cuyo nivel de exigencia responda al riesgo. Hassabis defendió que el proceso pudiera cambiar con la tecnología, en lugar de aplicar un criterio inamovible.
Como argumento, describió incidentes recientes relacionados con agentes de IA como señales de alerta y advirtió de que podrían producirse incidentes más graves en uno o dos años si el sector, las empresas y los gobiernos no reforzaban sus esfuerzos de seguridad. Es una previsión de Hassabis, recogida por EFE, no una predicción independiente.
NeoTeo ya había abordado el interés de Google DeepMind por los riesgos de la inteligencia artificial general en su artículo sobre el DeepMind Institute.
En qué se diferencia de las iniciativas existentes
La propuesta de Hassabis, una norma de gestión organizativa y un informe científico tienen objetivos distintos. La comparación ayuda a entender qué función cumple cada instrumento:
| Instrumento | Finalidad y objeto | Tipo de instrumento |
| Propuesta de Demis Hassabis | Fijar estándares internacionales para el desarrollo y el uso seguros de la IA, con una certificación proporcional al riesgo | Propuesta de organismo internacional y proceso de certificación |
| ISO/IEC 42001:2023 | Establecer requisitos y orientación para el sistema de gestión de IA de una organización | Norma internacional de gestión; la organización puede optar por una certificación independiente |
| International AI Safety Report 2026 | Sintetizar evidencia científica sobre capacidades, riesgos y gestión de riesgos de la IA para informar a responsables políticos | Evaluación científica, sin recomendaciones políticas específicas |
ISO/IEC 42001:2023 es una norma internacional publicada para establecer, implantar, mantener y mejorar continuamente el sistema de gestión de IA de una organización. ISO explica que una organización puede optar por una certificación independiente de ese sistema. El objeto es la gestión de la organización, no la certificación técnica de cada modelo o aplicación de IA. ISO detalla el alcance de la norma y explica la certificación.
El International AI Safety Report 2026 cumple otra función: reúne evidencia científica para contribuir a la elaboración de políticas, pero no formula recomendaciones políticas específicas. En esta edición participaron más de 100 expertos y un panel asesor nominado por más de 30 países y organizaciones internacionales. El informe describe su alcance y composición.
La diferencia práctica es clara: ISO/IEC 42001 ofrece un marco para gestionar la IA dentro de una organización; el informe aporta una síntesis científica para orientar el debate público; la propuesta de Hassabis plantea un organismo internacional y una certificación adaptable al riesgo.
