Plus de 20 chercheurs associés à OpenAI, Anthropic, Microsoft et Meta Platforms auraient appelé les législateurs à renforcer la supervision des systèmes d’IA qui participent au développement d’autres IA. L’appel a été rapporté le 30 septembre 2026.

Une demande d’encadrement adressée aux législateurs

L’enjeu est de surveiller des systèmes qui contribuent déjà à certains travaux de développement en IA. Anthropic indique que Claude a rédigé plus de 80 % du code intégré à sa base de code en mai 2026. Cette mesure concerne le code de l’entreprise, pas l’ensemble du secteur.

Anthropic rapporte aussi qu’au deuxième trimestre 2026, un ingénieur type a intégré chaque jour huit fois plus de code qu’en 2024. L’entreprise précise que le volume de code mesure la quantité, pas la qualité, et peut exagérer les gains de productivité.

L’assistance de l’IA n’est pas l’auto-amélioration récursive complète

L’auto-amélioration récursive désigne ici une boucle dans laquelle un système d’IA conçoit et développe de façon autonome son propre successeur. Cela va plus loin que l’utilisation de l’IA pour écrire du code ou contribuer à des travaux de recherche.

Anthropic affirme que cette boucle autonome complète n’a pas été atteinte et qu’elle n’est pas inévitable. La distinction est importante : l’IA peut aider au développement de systèmes futurs sans concevoir et construire seule leur successeur.

Les garde-fous que les chercheurs auraient proposés

Les recommandations attribuées aux chercheurs portent sur une supervision réglementaire plus claire des méthodes de recherche automatisées, des exigences de sécurité strictes et un suivi rigoureux des expériences à haut risque. Elles incluraient aussi la possibilité d’arrêter immédiatement un système.

Les propositions rapportées évoquent également des environnements sécurisés pour les recherches sensibles, le partage international des incidents, des protocoles de dissuasion clarifiés et des accords internationaux visant à coordonner le rythme du développement. Il s’agit de mesures proposées, non de règles déjà adoptées.

Ce que la supervision humaine implique concrètement

Pour les systèmes à haut risque concernés, le règlement européen sur l’IA prévoit une supervision humaine permettant de comprendre les capacités et les limites du système, de détecter les anomalies et d’interpréter ses résultats. Les personnes chargées de cette supervision doivent aussi pouvoir écarter une sortie, passer outre une recommandation ou interrompre le système.