Le chercheur en sécurité de l’IA Josh Engels a annoncé le 12 septembre 2026 avoir quitté l’équipe de sécurité AGI de Google DeepMind trois semaines plus tôt pour rejoindre METR. Il affirme vouloir étudier les incidents de désalignement, l’efficacité des mesures de sécurité actuelles et la capacité de la recherche sur l’alignement à suivre les progrès de l’IA.

Engels a expliqué que sa décision ne venait pas d’un rejet de son travail chez Google DeepMind. Il a déclaré avoir apprécié cette activité et avoir refusé des offres d’Anthropic et d’OpenAI. Sa préoccupation porte plutôt sur l’écart possible entre l’accélération des capacités des systèmes d’IA et les méthodes permettant de comprendre, d’évaluer et d’orienter leur comportement.

Le passage de Google DeepMind à METR

L’annonce publique de Josh Engels date du 12 septembre 2026. Il y indiquait avoir quitté l’équipe de sécurité AGI de Google DeepMind trois semaines auparavant et avoir rejoint METR. Son site personnel le présente comme membre de l’équipe technique de METR et indique qu’il y étudie des incidents de désalignement de l’IA.

Pourquoi Engels estime que l’alignement est sous pression

Engels décrit une course vers des systèmes d’IA très supérieurs aux humains dans de nombreuses tâches. Son inquiétude est que les capacités progressent plus vite que la compréhension du comportement des modèles et que les méthodes destinées à les aligner.

Il estime qu’il existe une possibilité « terrifiante » que des systèmes d’IA causent des dommages considérables dans les cinq prochaines années. Il précise toutefois ne pas connaître la probabilité exacte de ce scénario. Cette échéance et cette évaluation sont les siennes : elles ne constituent ni une prévision scientifique établie ni un consensus sur l’évolution de l’IA.

Pour Engels, la réponse consiste à ralentir suffisamment le développement pour que les capacités ne dépassent pas la capacité des chercheurs à aligner les modèles et à mesurer leur niveau réel d’alignement. L’enjeu est particulièrement important si des systèmes peuvent participer à la conception de leurs propres successeurs.

Que signifie l’auto-amélioration récursive ?

L’auto-amélioration récursive désigne un processus dans lequel un système d’IA contribue à créer ou à améliorer des systèmes ultérieurs plus capables. Une boucle de ce type pourrait accélérer l’évolution des capacités : chaque génération participerait à la conception de la suivante.

Dans l’avertissement d’Engels, le risque ne vient pas du simple fait qu’un modèle soit plus performant. Il vient du décalage possible entre cette progression et la capacité à vérifier que les successeurs restent conformes aux objectifs humains. Il affirme que les chercheurs ne savent pas encore garantir qu’une IA soit suffisamment sûre pour une telle boucle d’amélioration.

Ce que Josh Engels va étudier chez METR

Engels a décrit trois axes pour son travail chez METR :

  • étudier l’origine du désalignement pendant l’entraînement des modèles ;
  • évaluer si les mesures de sécurité actuelles sont suffisantes ;
  • déterminer si la recherche sur l’alignement progresse assez pour résoudre réellement le problème.

METR est présenté comme une organisation à but non lucratif qui évalue des systèmes d’IA de pointe, notamment leurs capacités autonomes et les risques potentiellement catastrophiques. Le rôle d’Engels relie ainsi une inquiétude théorique — la possibilité d’une progression trop rapide — à un travail d’évaluation des comportements et des protections existantes.

La conséquence concrète de ce changement est claire : Engels quitte une équipe de sécurité intégrée à Google DeepMind pour se consacrer, chez METR, à l’examen indépendant des risques de désalignement et de la solidité des garde-fous qui accompagnent les systèmes d’IA avancés.