Le 20 octobre 2026, Model Evaluation and Threat Research (METR) a publié un examen du rapport de risques d’Anthropic d’août, fondé uniquement sur ce document. METR précise que cet examen n’a pas utilisé l’accès interne annoncé par Anthropic le 15 octobre : il s’agit d’une analyse du rapport, pas d’un résultat produit par l’équipe intégrée chez Anthropic.
Ce que METR a examiné
METR s’est penché sur la partie « Misalignment in high-stakes settings » du rapport d’Anthropic. L’évaluation couvrait les modèles déployés en interne ou à l’extérieur avant le 15 juillet 2026, dont Mythos 5 et un modèle réservé à un usage interne appelé « Model 2 ».
METR indique que l’examen avait été convenu avant l’annonce du nouvel accès. Ses conclusions portent donc sur le rapport d’août et les modèles qu’il couvre, non sur les observations des six employés qui ont ensuite obtenu un accès aux systèmes d’Anthropic.
Ce que l’accès accordé à METR comprend
Le 15 octobre, Anthropic a annoncé que six employés de METR avaient commencé à bénéficier d’un accès comparable à celui de ses propres équipes chargées de l’évaluation des risques : matériel informatique fourni par l’entreprise, espace de bureau et accès aux systèmes internes. Anthropic a également indiqué que cette petite équipe était isolée des autres employés de METR et travaillait selon les règles de sécurité de l’entreprise, dans le cadre d’accords exécutoires.
Ce dispositif reprend la proposition de Dario Amodei d’intégrer des évaluateurs externes, évoquée dans notre article sur son appel à ralentir le développement de l’IA de pointe.
Anthropic décrit trois niveaux d’évaluation. La différence de publication est déterminante pour comprendre les conditions annoncées à METR :
| Niveau | Conditions de publication décrites par Anthropic |
| 1 | Anthropic doit approuver la publication. |
| 2 | L’évaluateur peut publier sans approbation, sous réserve de caviardages dans des catégories précises. |
| 3, accord de METR | Anthropic dit ne pas pouvoir opposer de veto à la publication. Des caviardages restent possibles dans les catégories définies, et Anthropic décide si une information relève de ces catégories. METR peut faire certaines déclarations sur l’accès et les informations reçus. |
Les catégories citées par Anthropic comprennent les informations sur les clients, les éléments protégés par le secret professionnel entre avocat et client, ainsi que des informations sur l’architecture des modèles. Le niveau 3 associe l’accès comparable à celui d’employés aux droits de publication du niveau 2, selon la description d’Anthropic.
Le jugement de METR et ses réserves
Pour les modèles couverts, la meilleure estimation de METR était que le risque de dommages catastrophiques dus au désalignement était faible. METR attribuait surtout ce jugement aux capacités limitées de ces modèles, plutôt qu’aux garde-fous ou à leur entraînement à l’alignement.
Cette appréciation reste assortie d’une réserve importante : METR a dit ne pas être sûr que les méthodes du rapport permettraient de repérer de façon fiable un niveau de risque plus élevé. L’organisation a recommandé des tests adversariaux de bout en bout plus complets du système de surveillance asynchrone d’Anthropic. Elle a aussi proposé d’inclure dans l’analyse le risque que des systèmes d’IA compromettent des décisions liées à la sécurité chez Anthropic.
