Josh Engels anunció el 12 de septiembre de 2026 que había dejado el equipo de seguridad de AGI de Google DeepMind tres semanas antes para incorporarse a METR, una organización sin ánimo de lucro dedicada a evaluar sistemas avanzados de inteligencia artificial. El investigador explicó que su decisión responde a la posibilidad de que el desarrollo de capacidades avance más deprisa que las técnicas de alineación y evaluación.

Josh Engels deja Google DeepMind y se incorpora a METR

Engels afirmó que había disfrutado de su trabajo en Google DeepMind y que rechazó ofertas de Anthropic y OpenAI. Según explicó, su salida no estuvo motivada por una ruptura con su anterior actividad, sino por la importancia que atribuye a los riesgos asociados al desarrollo de sistemas cada vez más capaces.

En METR, Engels trabaja como miembro del equipo técnico e investiga incidentes de desalineación de sistemas de inteligencia artificial. La organización evalúa sistemas avanzados para estudiar sus capacidades autónomas y posibles riesgos graves.

Por qué Engels considera que el ritmo de desarrollo es un problema

La preocupación central de Engels es que las capacidades de los modelos puedan superar la capacidad de los investigadores para alinearlos —hacer que persigan objetivos compatibles con las instrucciones y la seguridad previstas— y evaluar su comportamiento.

El investigador sostuvo que existe una posibilidad «aterradora» de que los sistemas de IA causen un daño inmenso en los próximos cinco años. También reconoció que no puede asignar una probabilidad exacta a ese escenario, aunque considera que el riesgo es suficientemente alto como para exigir mucha más atención.

Su propuesta es acompasar el desarrollo de la IA para que las capacidades no avancen por delante de la capacidad de alinear los modelos y determinar hasta qué punto están realmente alineados. Se trata de una valoración personal de Engels sobre el riesgo y el ritmo de la investigación.

Qué investigará Engels en METR

Engels explicó que su trabajo en METR se centrará en tres líneas:

  • estudiar de dónde procede la desalineación durante el entrenamiento;
  • evaluar si las medidas de mitigación actuales son suficientes;
  • analizar si la investigación sobre alineación avanza hacia una solución viable.

Ese programa coloca la evaluación en el centro del debate. No basta con que un modelo complete tareas complejas: también hay que estudiar cómo se comporta cuando recibe objetivos ambiguos, dispone de más autonomía o participa en procesos que pueden modificar sus propias capacidades.

Qué significa la mejora recursiva

La mejora recursiva describe un proceso en el que un sistema de IA ayuda a crear sucesores más capaces. Cada nueva generación podría contribuir a diseñar o mejorar la siguiente, formando un ciclo de aumento de capacidades.

El riesgo que señala Engels aparece cuando ese ciclo avance más deprisa que las técnicas capaces de entender, evaluar y controlar el comportamiento de los sistemas. Su advertencia se refiere especialmente a la dificultad de garantizar que una cadena de mejora mantenga objetivos compatibles con la seguridad humana.

Por eso considera insuficiente conocer únicamente el rendimiento de un modelo en pruebas convencionales. Su agenda en METR busca estudiar también los mecanismos de desalineación y la eficacia real de las medidas diseñadas para contenerla.

La advertencia de cinco años es una valoración de Engels

El horizonte de cinco años pertenece a la evaluación personal que Engels publicó al explicar su cambio profesional. No presentó una probabilidad exacta: dijo que consideraba suficientemente alta la posibilidad de un daño inmenso como para tratar el problema como una prioridad excepcional.

Su incorporación a METR convierte esa preocupación en una agenda de investigación concreta: analizar incidentes de desalineación, medir las mitigaciones existentes y comprobar si el campo está avanzando al ritmo necesario para afrontar sistemas con capacidades cada vez mayores.