Dans un entretien de Masters of Scale diffusé le 6 novembre 2026, Demis Hassabis a mis en garde contre une possible boucle d’auto-amélioration de l’IA sans relecture humaine. Dans son compte rendu publié le 16 novembre, La Razón rapporte qu’il a évoqué le risque d’un incident si cette trajectoire se poursuit sans davantage d’attention ni de moyens consacrés à ces systèmes.

Le point crucial n’est pas seulement qu’une IA contribue à ses propres progrès, mais de savoir si une personne peut encore examiner et contrôler chaque étape.

Ce qui distingue l’assistance d’une boucle fermée

L’auto-amélioration récursive désigne ici des systèmes qui utilisent leurs propres résultats pour s’améliorer à leur tour. Dans la situation actuelle décrite par Hassabis, l’IA aide les ingénieurs, mais une personne continue de concevoir et de vérifier leur travail. Le scénario qui l’inquiète est une boucle fermée où le système progresserait sans cette relecture humaine.

Selon le compte rendu de La Razón, Hassabis cite les mathématiques, la programmation et les jeux comme des domaines où les résultats peuvent être vérifiés. Cette possibilité de contrôle permet d’évaluer plus directement les productions du système; elle ne signifie pas, à elle seule, que chaque étape d’une boucle autonome serait sûre.

Cette mise en garde prolonge les alertes de Hassabis sur la sécurité des agents d’IA, déjà abordées par NeoTeo dans un précédent article.

Le terme ne fixe pas la vitesse des progrès

L’auto-amélioration récursive n’implique pas nécessairement une croissance exponentielle. Dans une discussion sur r/agi, des participants évoquent des scénarios différents : certains imaginent une boucle de rétroaction qui s’accélère, tandis que d’autres avancent des gains lents, des goulets d’étranglement ou des rendements décroissants. Ces avis ne mesurent pas les performances d’un système; le seul fait qu’une IA contribue à son amélioration ne détermine donc pas le rythme de ses progrès.

Les garde-fous évoqués par Hassabis

La Razón rapporte que Hassabis a cité des garanties formelles, d’éventuelles limites aux capacités des systèmes et des tests destinés à éprouver la robustesse des mesures de sécurité. Ce sont les catégories de protections qu’il a évoquées, sans que le compte rendu leur attribue une méthode de mise en œuvre particulière.

Il a aussi soulevé la difficulté de suivre des groupes d’agents susceptibles de collaborer. Quand plusieurs agents interagissent, la question de la surveillance porte sur leurs échanges autant que sur les actions de chacun.