OpenAI a annoncé le 16 novembre 2026 des accords avec quatre organisations chargées d’évaluer l’alignement de ses modèles et l’efficacité de ses garde-fous pendant l’entraînement et l’usage interne. Apollo Research, METR, Transluce et Goodfire auront des missions distinctes, avec un accès défini pour chaque évaluation, selon l’annonce d’OpenAI.
Que va examiner chaque organisation ?
Les quatre équipes se pencheront sur des aspects différents de la sécurité des modèles. Leurs travaux vont de la recherche de comportements de subversion à l’analyse des évaluations après entraînement.
| Organisation | Domaine examiné | Détail du périmètre ou du calendrier |
| Apollo Research | Quatre hypothèses liées à la subversion : ce que l’entraînement peut inciter un modèle à faire, ce que les évaluations ou les tests d’équipe rouge peuvent déclencher, les tentatives pendant l’usage interne et la détection du raisonnement associé. | Évaluation en deux étapes, à partir de modèles et de ressources sélectionnés. |
| METR | Les comportements désalignés lors d’une exécution d’apprentissage par renforcement de pointe qu’OpenAI décrit comme la plus importante menée par l’entreprise à ce jour. | Analyse de points de contrôle échantillonnés, de traces d’entraînement et d’évaluation et de données de surveillance pertinentes. OpenAI précise que ce périmètre est plus restreint que l’enquête générale proposée par METR. |
| Transluce | La qualité et la couverture de certaines évaluations d’alignement après entraînement. | OpenAI et Transluce prévoient un suivi d’environ huit semaines au début de 2027, avec un accès plus large. |
| Goodfire | L’interprétabilité — l’analyse du fonctionnement interne des modèles — ainsi que la surveillance des entraînements, le débogage et l’alignement. | Les chercheurs d’OpenAI seront les premiers destinataires des résultats; Goodfire prévoit également de publier des enseignements issus de la collaboration. |
Le 16 novembre, OpenAI a aussi décrit comme préliminaire un projet distinct avec METR consacré à l’évaluation des systèmes de surveillance; son périmètre restait à convenir. Le suivi prévu avec Transluce relève, lui, d’une intention pour début 2027.
Comment OpenAI encadre-t-elle l’accès et la publication ?
L’accès dépend des besoins de chaque évaluation et des ressources convenues pour la mener. Il peut porter sur des points de contrôle de modèles, du code source, des données d’entraînement et d’évaluation, des systèmes de surveillance, de la documentation technique ou des échanges avec des chercheurs et des ingénieurs. Les évaluateurs peuvent demander un accès supplémentaire. Si un accès direct risque d’exposer une propriété intellectuelle sensible, OpenAI indique qu’elle peut envisager d’autres modalités.
Les travaux nécessitant des informations confidentielles sensibles se déroulent dans les bureaux d’OpenAI, sur des appareils fournis par l’entreprise. OpenAI autorise les salariés appelés à échanger avec les évaluateurs; ces conversations sont confidentielles et ne peuvent être publiées ni attribuées aux personnes concernées. Les évaluateurs peuvent demander à OpenAI de confirmer officiellement certaines déclarations. Ils peuvent publier ces déclarations ou indiquer que l’entreprise a refusé de les confirmer.
OpenAI dit laisser les évaluateurs publier leurs conclusions, tout en se réservant le droit de retirer des informations confidentielles et de demander un délai pour divulguer des éléments sensibles. Le comité de sûreté et de sécurité du conseil d’administration de l’OpenAI Foundation reçoit les rapports non expurgés et peut s’entretenir en privé avec les évaluateurs. En cas de désaccord non résolu après son examen par le groupe consultatif sur la sécurité d’OpenAI et des dirigeants, le comité constitue le dernier échelon de recours prévu par le protocole.
OpenAI indique qu’Apollo Research et Goodfire sont rémunérées sans que leur paiement dépende des résultats. METR et Transluce ne reçoivent pas de rémunération financière pour ces évaluations, mais peuvent accepter des crédits d’API ou de calcul.
Pour comprendre la portée d’une évaluation, regardez à la fois ce que l’équipe peut examiner et ce qu’elle peut publier : le protocole définit ces deux aspects.
Pourquoi les modalités d’accès sont-elles discutées ?
Tomek Korbak, ancien employé d’OpenAI, estime qu’un audit intégré exige un accès comparable à celui d’un salarié plutôt qu’une mission limitée à un sujet précis. NPR rapporte cette critique dans son article sur le programme et les inquiétudes de chercheurs. Elle met en lumière la différence entre les évaluations définies par périmètre dans le protocole d’OpenAI et une conception de l’audit qui suppose une latitude plus large pour examiner l’entreprise.