Le 15 octobre 2026, Anthropic a annoncé avoir commencé à intégrer six salariés de l’organisation à but non lucratif Model Evaluation and Threat Research (METR) à son dispositif d’évaluation des risques liés aux modèles d’IA. L’équipe reçoit du matériel et des bureaux de l’entreprise, ainsi qu’un accès à ses outils et systèmes internes comparable, selon Anthropic, à celui de ses propres équipes d’évaluation des risques. Le communiqué d’Anthropic décrit aussi les limites de cet accès et les règles de publication.
Cette annonce apporte un nouvel éclairage sur un débat déjà abordé par NeoTeo au sujet de l’indépendance de METR.
À quoi METR peut-il accéder ?
L’accès concerne une équipe réduite de six personnes, soumise à des accords exécutoires. Anthropic indique que les autres membres de METR, y compris ceux qui travaillent avec l’entreprise sur d’autres projets, sont cloisonnés des travaux de cette équipe. Le dispositif ne donne donc pas accès aux systèmes d’Anthropic à l’ensemble de l’organisation.
Anthropic décrit trois niveaux d’accès pour les évaluateurs externes. METR relève du troisième, le plus étendu de ce cadre.
Les trois niveaux d’évaluation d’Anthropic
| Niveau | Périmètre d’accès | Règles de publication |
| 1 | Enquêtes sur les risques à périmètre restreint ; Anthropic détermine les accès accordés. | La publication nécessite l’accord préalable d’Anthropic. |
| 2 | Accès à davantage d’informations qu’au niveau 1. | Publication sans accord préalable, sous réserve des occultations prévues ; les évaluateurs peuvent aussi exprimer leur avis sur leur justification. |
| 3 — METR | Accès comparable à celui d’un salarié, avec des outils et systèmes internes proches de ceux des équipes d’évaluation des risques d’Anthropic. | Droits de publication similaires à ceux du niveau 2. |
Qui décide des informations occultées ?
Le 16 octobre, Anthropic a précisé les règles de publication : l’entreprise affirme ne pas pouvoir opposer son veto à un texte de METR, mais peut exiger l’occultation d’informations relevant de catégories prédéfinies. Anthropic décide si une information entre dans ces catégories. METR peut, de son côté, faire certaines déclarations sur le niveau d’accès et les informations reçues.
Les catégories citées par Anthropic comprennent les données des clients, les informations protégées par le secret des échanges avocat-client et celles portant sur l’architecture des modèles. L’entreprise indique qu’elle peut chercher à partager des informations sur l’architecture lorsqu’elles sont très pertinentes pour l’évaluation, avec des autorisations internes explicites. La possibilité de publier s’accompagne donc d’un pouvoir de classification conservé par Anthropic.
Les autres évaluations liées à Anthropic
Anthropic indique que SecureBio examine le chapitre consacré aux armes chimiques et biologiques de son rapport sur les risques d’août 2026. SecureBio avait auparavant réalisé et publié un examen pilote d’un rapport antérieur.
Anthropic travaille également avec Accenture et Faculty à un partenariat en préparation. Les travaux envisagés portent sur l’évaluation des modèles, le red teaming, l’évaluation de l’alignement, les tests de garde-fous et le développement de compétences au sein des organisations. L’entreprise dit par ailleurs être en discussions préliminaires avec d’autres organisations, dont Hugging Face.
Les critères qu’Anthropic fixe aux évaluateurs
Anthropic estime que les évaluateurs doivent disposer d’une expertise dans l’évaluation des modèles d’IA de pointe, d’un accès suffisant pour examiner les risques et de la liberté de publier leurs observations. L’entreprise cite aussi l’indépendance financière et opérationnelle parmi ses critères : les évaluateurs ne devraient notamment détenir aucune participation dans l’entreprise évaluée ni en dépendre financièrement ou opérationnellement.
