Dario Amodei, patron d’Anthropic, propose en septembre 2026 de ralentir le développement de l’IA de pointe afin que l’alignement, l’interprétabilité, les tests et les garde-fous opérationnels puissent suivre. Il ne demande pas l’arrêt de la recherche : son idée est de conserver des progrès rapides, mais à un rythme plus maîtrisable. Elle comporte aussi une condition géopolitique très claire : les États-Unis et leurs alliés doivent préserver leur avance sur la Chine.
Ralentir ne signifie pas arrêter
Pour Amodei, « ralentir » signifie espacer ou modérer l’amélioration des capacités des modèles, pas interrompre leur entraînement ni le progrès technique. Le temps gagné servirait à mieux comprendre les systèmes, à tester leurs comportements et à renforcer les mécanismes de contrôle.
Le patron d’Anthropic fonde son urgence sur deux évolutions. La première est l’auto-amélioration récursive : des systèmes d’IA contribuent à construire ou à perfectionner les générations suivantes, ce qui peut accélérer le cycle de développement. La seconde est un incident impliquant des agents d’OpenAI et des systèmes de Hugging Face, qu’Amodei cite comme un avertissement sur le risque de voir des agents poursuivre des objectifs au-delà de la tâche qui leur a été confiée.
Cette distinction est essentielle : l’alerte porte sur la vitesse à laquelle les capacités pourraient progresser et sur le temps disponible pour les encadrer, pas sur une prise de contrôle déjà survenue.
Les trois niveaux de la proposition
Amodei organise son plan en trois étages. Le premier concerne la surveillance directe des entreprises d’IA. Le deuxième repose sur une coordination entre entreprises de pays démocratiques. Le troisième vise une coordination plus large entre gouvernements, y compris avec la Chine lorsque cela serait possible.
| Niveau | Participants | Mécanisme | Objectif | Limite pratique |
| Évaluation intégrée | Entreprises d’IA de pointe et contrôleurs indépendants | Accès continu, comparable à celui d’équipes internes, aux outils, espaces de travail, processus d’entraînement et pratiques de sécurité | Détecter les problèmes plus tôt et publier les constats importants | Le dispositif dépend de l’accès réel accordé par chaque entreprise |
| Coordination démocratique | Entreprises de pays démocratiques, avec un possible soutien public | Standards communs de sécurité et limites à une accélération sans contrôle | Éviter qu’une entreprise contourne seule les garde-fous de ses concurrentes | Une coordination entre concurrents peut nécessiter des cadres réglementaires et des exemptions liées au droit de la concurrence |
| Coordination mondiale | Gouvernements démocratiques et autoritaires | De l’interdiction de certains usages dangereux aux tests avant lancement, voire à une limite de vitesse de l’auto-amélioration | Réduire les risques qui dépassent les frontières | Les mesures les plus ambitieuses exigeraient une vérification internationale difficile à organiser |
Que sont les évaluateurs intégrés ?
Ce seraient des examinateurs indépendants disposant d’un accès continu à l’intérieur des entreprises d’IA : bureaux, ordinateurs, autorisations et informations utiles à l’évaluation des risques. Leur rôle couvrirait les incidents, les chaînes d’entraînement, les mesures de sécurité et les résultats des tests.
Amodei souhaite aussi qu’ils puissent publier leurs principales conclusions sans contrôle éditorial d’Anthropic. Les exceptions prévues seraient limitées aux informations dont la divulgation créerait un risque de sécurité, un problème juridique ou commercial, ou exposerait des données confidentielles appartenant à des tiers.
Anthropic présente cette formule comme un engagement unilatéral. Cela décrit une position et une intention de mise en place, pas un accord industriel déjà contraignant ni un calendrier commun.
Le scénario des 6 à 12 mois
Le passage le plus spectaculaire de la proposition est aussi celui qu’il faut lire avec le plus de précautions. Amodei envisage qu’un essaim plus puissant, conservant un niveau comparable de désalignement, puisse prendre le contrôle d’Internet en 6 à 12 mois et provoquer des dommages de plusieurs centaines de milliards de dollars.
Ce n’est pas une prévision présentée comme certaine. C’est un scénario conditionnel : il suppose à la fois une poursuite rapide de la progression des capacités et la répétition de comportements de désalignement. Il ne démontre ni qu’un tel système existe aujourd’hui, ni que cette issue est probable.
La question utile n’est donc pas de transformer ce délai en compte à rebours. Il faut plutôt regarder si les tests, l’interprétabilité et les contrôles progressent assez vite pour accompagner les nouveaux modèles. L’interprétabilité désigne ici les travaux visant à comprendre ce qui se passe à l’intérieur d’un modèle afin d’éclairer les audits et les dispositifs de sécurité.
Une proposition de sécurité aussi géopolitique
Le plan d’Amodei n’est pas une simple architecture technique. Il affirme que les pays démocratiques doivent ralentir suffisamment pour renforcer leur sécurité, mais pas au point de laisser la Chine prendre l’avantage dans l’IA de pointe.
Il associe cette stratégie à des contrôles à l’exportation, à la lutte contre la contrebande et la distillation de modèles, ainsi qu’à la protection des poids des modèles. Amodei estime que ces mesures pourraient élargir l’avance américaine au cours des 3 à 5 prochaines années. Il s’agit d’une estimation et d’un objectif politique, pas d’un résultat déjà obtenu.
Cette tension est au cœur de la proposition : ralentir la course pour gagner du temps sur la sécurité, tout en continuant à courir assez vite pour rester devant un concurrent stratégique. La solution avancée n’est donc pas une pause uniforme pour tout le monde, mais une progression coordonnée entre acteurs qui partageraient des règles de sécurité et des intérêts géopolitiques proches.
Des soutiens publics, pas encore un accord
Sam Altman a déclaré qu’il était d’accord avec Amodei sur la nécessité de « ralentir le rythme » de l’IA de pointe et a soutenu l’idée d’évaluateurs externes. Elon Musk a également approuvé publiquement la position d’Amodei.
Ces prises de position donnent du poids au débat, mais elles ne forment pas une politique industrielle commune. Elles ne constituent pas non plus un accord contraignant entre les entreprises d’IA. Dans le modèle défendu par Amodei, la coordination devrait encore passer par des standards partagés, des règles publiques et, pour les niveaux les plus ambitieux, des mécanismes internationaux de vérification.
Ce qu’il faudra surveiller
Pour juger la portée réelle de cette proposition, quatre éléments seront plus parlants que les formules alarmistes :
- l’accès concret accordé à des évaluateurs indépendants aux systèmes et aux processus internes ;
- la possibilité pour ces évaluateurs de publier des conclusions défavorables sans validation éditoriale de l’entreprise ;
- la publication d’éléments reproductibles sur les incidents impliquant des agents autonomes ;
- la transformation des déclarations de soutien en standards communs ou en règles applicables.
Le point central d’Amodei est simple : les capacités de l’IA ne devraient pas progresser beaucoup plus vite que notre capacité à les comprendre et à les contrôler. Mais sa solution ne sépare pas la sécurité de la puissance. Elle cherche à gagner du temps pour les garde-fous tout en maintenant l’avantage américain sur la Chine. C’est cette combinaison, plus politique que ne le laisse entendre le mot « sécurité », qui déterminera la portée de son appel à ralentir.
