Le 15 septembre 2026, Liu Shengyu, ingénieur en systèmes d’apprentissage automatique chez DeepSeek, a averti qu’un contrôle hypothétique d’Anthropic sur l’intelligence artificielle la plus avancée ou sur l’AGI — l’intelligence artificielle générale — pourrait créer une concentration dangereuse du pouvoir. Le 16 septembre, cette mise en garde a été rapprochée du débat plus large sur la vitesse de développement de l’IA et ses garde-fous. Il ne s’agit pas d’une annonce selon laquelle Anthropic contrôlerait aujourd’hui l’AGI : Liu décrit un scénario possible et y oppose sa préférence pour un accès ouvert et abordable à l’intelligence de pointe.
La mise en garde de Liu porte sur le contrôle et l’accès
Liu Shengyu a déclaré ne pas faire confiance à Anthropic ni à OpenAI pour rendre l’IA de frontière — les systèmes les plus avancés du moment — suffisamment ouverte et abordable. Il a comparé la perspective de voir Anthropic contrôler l’IA la plus avancée ou l’AGI à l’hypothèse où l’Allemagne nazie aurait obtenu la technologie de la bombe atomique avant les Alliés.
Cette comparaison est le jugement politique et personnel de Liu Shengyu. Elle ne transforme pas une hypothèse en fait : elle ne signifie ni que l’AGI existe déjà, ni qu’Anthropic la contrôle, ni qu’Anthropic chercherait à nuire.
Son remède privilégié est donc l’ouverture et l’accessibilité financière. Mais ouverture et sécurité ne sont pas synonymes. La préférence de Liu pour des modèles accessibles ne démontre pas, à elle seule, que l’approche de DeepSeek serait plus sûre que celle d’Anthropic.
Amodei veut ralentir la course, pas l’arrêter
Dario Amodei, PDG d’Anthropic, défend une autre lecture du danger : les capacités des modèles pourraient progresser plus vite que les travaux d’alignement, d’évaluation et de supervision. Dans un texte publié en septembre 2026, il propose de ralentir suffisamment ces progrès pour laisser les dispositifs de sécurité suivre le rythme. Il précise que ce « ralentissement » ne signifie pas arrêter l’entraînement des modèles ni le progrès technique.
Sa proposition repose sur trois axes :
- Des évaluateurs intégrés : des équipes tierces disposeraient d’un accès continu, comparable à celui de salariés, aux outils, espaces de travail et processus pertinents afin d’évaluer les modèles et les pratiques de sécurité.
- Une coordination entre entreprises de pays démocratiques : ces entreprises chercheraient à définir des normes de sécurité communes et des limites aux progrès non encadrés.
- Une coordination internationale plus large : elle associerait des gouvernements démocratiques et autoritaires, avec des mécanismes de vérification destinés à réduire les risques de non-respect.
Pour Amodei, le problème central est notamment celui de l’auto-amélioration récursive : un système d’IA pourrait contribuer à concevoir la génération suivante, accélérant encore la progression des capacités. Sa proposition vise à gagner du temps pour améliorer l’alignement, la sécurité opérationnelle, l’interprétabilité et les tests.
Deux risques liés, mais pas identiques
Liu Shengyu et Dario Amodei parlent tous deux de gouvernance, mais ils ne désignent pas le même danger. Liu s’inquiète surtout de la concentration d’une intelligence de pointe entre les mains d’un petit nombre d’entreprises privées. Amodei insiste sur la vitesse de progression et sur le risque que la supervision ne suive plus.
| Acteur et organisation | Risque principal | Réponse proposée | Ce que cette position affirme |
| Liu Shengyu, DeepSeek | Une concentration de l’IA la plus avancée pourrait donner trop de pouvoir à quelques entreprises, notamment Anthropic | Rendre l’intelligence de pointe ouverte et abordable | L’accès large est présenté comme un moyen d’éviter une hiérarchie technologique trop concentrée |
| Dario Amodei, Anthropic | Les capacités, notamment l’auto-amélioration récursive, pourraient progresser plus vite que la sécurité et la supervision | Ralentir les progrès, intégrer des évaluateurs tiers et coordonner les entreprises et les gouvernements | Le développement technique continuerait, mais avec davantage de temps consacré à l’évaluation et à l’alignement |
La différence est importante : rendre une technologie plus accessible ne répond pas automatiquement au problème de son comportement, tandis que ralentir la course ne répond pas automatiquement à la question de savoir qui peut y accéder. Les deux approches traitent donc des conséquences possibles du pouvoir technologique, mais par des leviers différents.
Coxon et Hubinger ajoutent une alerte sur les capacités
Le débat s’est aussi tendu après la démission de Jacob Coxon d’Anthropic. Cet ancien chercheur, qui avait également travaillé chez OpenAI, a déclaré après trois années chez Anthropic que les entreprises d’IA de frontière se dirigeaient vers des systèmes capables de s’améliorer eux-mêmes et prenaient des risques avec l’avenir de l’humanité.
Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a répondu qu’il estimait personnellement à plus de 10 % la probabilité que l’IA provoque l’extinction de l’humanité au cours de la prochaine décennie. Ce chiffre est son appréciation personnelle : ce n’est ni une mesure empirique, ni une prévision consensuelle du secteur.
La position de Hubinger distingue par ailleurs le risque posé par les modèles actuels, qu’il juge faible, d’un risque futur lié à une superintelligence issue de l’auto-amélioration récursive. Cette distinction rejoint l’argument d’Amodei sur la nécessité de faire progresser les mécanismes de sécurité avant d’atteindre des niveaux de capacité jugés critiques.
Une dispute de gouvernance, pas une preuve de contrôle de l’AGI
L’épisode oppose finalement deux questions concrètes : qui doit pouvoir accéder à l’intelligence artificielle la plus avancée, et à quelle vitesse ces systèmes doivent-ils progresser ? Liu Shengyu met en avant la concentration du pouvoir et l’accès abordable. Dario Amodei met en avant le temps nécessaire à l’évaluation, à l’alignement et à la coordination.
Cette distinction permet de comprendre la controverse sans transformer une mise en garde hypothétique en révélation technique. Le débat porte sur les règles qui devraient encadrer l’IA de frontière avant que ses capacités ne progressent davantage.
