Le 28 septembre 2026, des articles ont relayé l’avertissement d’un rapport selon lequel l’automatisation de la recherche et du développement (R&D) en IA pourrait accélérer fortement les progrès. Ses auteurs proposent une supervision renforcée, mais décrivent une possible « explosion de l’intelligence » comme un scénario incertain, pas comme une évolution déjà en cours.

Un rapport met en garde contre l’automatisation de la R&D en IA

Le rapport, intitulé What if automating AI R&D triggers an intelligence explosion?, porte sur la possibilité que des systèmes d’IA contribuent à automatiser la recherche qui permet de concevoir des systèmes plus performants. Geoffrey Hinton, Yoshua Bengio, Jack Clark et Jakub Pachocki figuraient parmi les auteurs cités dans les articles parus le 28 septembre.

Les auteurs emploient l’expression « explosion de l’intelligence » pour décrire une accélération susceptible de comprimer en quelques mois, voire moins, des avancées qui auraient autrement pris des années. Dans l’un des scénarios envisagés, un développeur pourrait diriger une capacité de travail équivalente à celle de millions de chercheurs humains de haut niveau, à condition que l’IA atteigne un niveau expert en R&D. Il s’agit d’une projection conditionnelle, pas d’une capacité mesurée aujourd’hui.

Ce que signifie une possible « explosion de l’intelligence »

L’amélioration récursive désigne ici une boucle dans laquelle l’IA aide à automatiser la recherche et le développement susceptibles de produire des systèmes d’IA plus performants. L’enjeu ne se limite donc pas à demander à un modèle de mieux répondre : il concerne aussi l’automatisation du travail qui contribue à construire de nouveaux modèles.

Dans les scénarios décrits par les auteurs, une progression rapide pourrait réduire le contrôle humain sur la R&D en IA. Des menaces cybernétiques ou biologiques pourraient aussi se développer plus vite que les contre-mesures, tandis qu’un avantage initial limité d’un État pourrait devenir décisif. Les auteurs soulignent que les conséquences restent incertaines et que l’IA pourrait également accélérer la réduction de certains risques.

Les mesures de supervision proposées par les auteurs

Les recommandations visent à rendre les progrès en R&D plus visibles et à préparer des moyens d’intervention. Elles comprennent des comptes rendus transparents sur les avancées, le recours à des évaluateurs indépendants et des limites au rythme de progression.

Les auteurs proposent aussi de pouvoir mettre en pause certains projets de R&D menés dans des centres de données, d’isoler les systèmes automatisés concernés et de préparer des plans d’urgence. Ce sont des propositions, pas des règles déjà généralisées.

Une prévision conditionnelle pour 2028

Les auteurs prévoient que, d’ici 2028, l’IA pourrait automatiser entièrement des projets de R&D qui demandent des mois de travail humain. Cette échéance porte sur ces projets-là, et relève d’une prévision, pas d’une capacité constatée.

Le scénario dépend notamment des capacités de calcul, des difficultés d’automatisation, des rendements décroissants, de la durée des entraînements, des chaînes d’approvisionnement et de la réglementation. Ces facteurs peuvent influer sur la vitesse et l’ampleur de l’automatisation envisagée.