En una entrevista de Masters of Scale emitida el 6 de noviembre de 2026, Demis Hassabis advirtió de que la automejora recursiva de la inteligencia artificial podría entrañar riesgos si los sistemas empezaran a mejorarse sin revisión humana. La advertencia, publicada por La Razón el 16 de noviembre, fue condicional: Hassabis planteó que podría producirse un incidente si esa trayectoria continuaba sin más atención y recursos.

Qué cambia cuando la IA se mejora a sí misma

La automejora recursiva (RSI, por sus siglas en inglés) describe aquí sistemas que usan sus propios resultados para mejorar. La diferencia importante está en quién revisa el proceso: Hassabis distinguió la asistencia actual, en la que una persona diseña y supervisa el trabajo, de un posible circuito cerrado sin revisión humana.

La Razón también atribuyó a Hassabis la idea de que las matemáticas, la programación y los juegos son ámbitos propicios para estos ciclos porque sus resultados se pueden comprobar. Que una respuesta sea verificable, sin embargo, no determina por sí solo cuánto ni con qué rapidez mejorará el sistema.

En un ciclo de automejora, la pregunta clave es si una persona conserva la revisión antes de que cada resultado pase a la siguiente iteración.

La RSI no implica necesariamente un avance exponencial. En un debate de r/agi, algunas personas imaginaron ciclos de retroalimentación que acelerarían las mejoras; otras señalaron posibles cuellos de botella, rendimientos decrecientes o avances lentos. Son interpretaciones distintas sobre el ritmo, no mediciones de un sistema concreto. La discusión ayuda a separar la idea de un bucle de mejora de cualquier tasa específica.

Qué salvaguardas mencionó Hassabis

Según La Razón, Hassabis propuso garantías formales, posibles límites a las capacidades de los sistemas y pruebas para comprobar la robustez de las medidas de seguridad. También planteó el reto de seguir la actividad de grupos de agentes de IA que podrían colaborar: supervisar varios agentes a la vez complica entender cómo se relacionan sus acciones.

La preocupación enlaza con la cobertura previa de NeoTeo sobre las advertencias de Hassabis acerca de los agentes de IA y su seguridad.