OpenAI a annoncé le 16 novembre 2026 un accord avec Apollo Research pour évaluer si des modèles pourraient agir à l’encontre des intentions de leurs développeurs et si les garde-fous permettraient de le détecter. Cette évaluation s’inscrit dans la première phase d’un programme qui réunit aussi METR, Transluce et Goodfire. OpenAI détaille les missions et les règles de cette phase.
L’annonce fait écho aux demandes de trois anciens chercheurs d’OpenAI en faveur du maintien des évaluations externes, rapportées dans un précédent article de NeoTeo. Apollo a désormais un mandat défini dans ce programme, avec un accès et des conditions de publication encadrés par OpenAI.
Ce qu’Apollo Research évaluera
OpenAI présente quatre questions pour l’évaluation d’Apollo. Les modèles ont-ils été entraînés de manière à favoriser la subversion, c’est-à-dire à agir à l’encontre des intentions de leurs développeurs ? Des évaluations poussées ou des exercices de red team peuvent-ils faire émerger ce comportement ? Les modèles ont-ils tenté de le faire pendant leur utilisation interne ? Enfin, le raisonnement qui le sous-tendrait pourrait-il être détecté ?
Ces questions portent sur des risques et des méthodes de détection, pas sur des résultats d’évaluation. Elles distinguent notamment la capacité d’un test à faire apparaître un comportement de celle des dispositifs de surveillance à le repérer.
Quels accès sont prévus, et quelles sont les règles de publication ?
Pour la première étape, OpenAI indique qu’Apollo pourra travailler sur une sélection de modèles publics et non publiés, ainsi que sur des points de contrôle de leur entraînement. L’accès annoncé comprend aussi les données d’entraînement et résultats d’évaluation pertinents, les interventions effectuées pendant l’entraînement, les systèmes de surveillance et comportements signalés, le contexte fourni par des chercheurs, ainsi que des outils et des ressources de calcul pour mener des tests indépendants.
Chaque évaluation est organisée autour d’un périmètre convenu et de mesures de sécurité. Pour les informations confidentielles sensibles, OpenAI prévoit un travail sur place, avec des appareils de l’entreprise et des règles de sécurité au moins équivalentes à celles imposées à ses employés. Les échanges avec les employés autorisés sont confidentiels : Apollo ne peut ni les publier ni les attribuer à des personnes. Les évaluateurs peuvent toutefois demander à OpenAI d’attester certaines déclarations et signaler si l’entreprise refuse de le faire.
OpenAI indique que les évaluateurs restent libres de publier leurs analyses. L’entreprise peut expurger des informations confidentielles et demander un délai de divulgation responsable lorsque des conclusions présentent des risques pour la sûreté ou la sécurité. Ces conditions comptent pour le lecteur : la possibilité de publier ne signifie pas que chaque détail sensible paraîtra sans modification ni délai.
Pour apprécier la portée d’une évaluation, regardez à la fois les questions posées et les ressources auxquelles les évaluateurs peuvent accéder.
Qui supervise le programme, et que font les quatre évaluateurs ?
Le Safety and Security Committee d’OpenAI, comité indépendant rattaché au conseil d’administration de l’OpenAI Foundation, doit recevoir les rapports non expurgés et peut échanger en privé avec les évaluateurs. Selon la procédure décrite par OpenAI, les désaccords sont d’abord transmis au Safety Advisory Group et aux dirigeants de l’entreprise. S’ils persistent, ils sont renvoyés au comité.
Les quatre organismes n’ont pas la même mission. Le tableau résume les rôles et les modalités de rémunération annoncés par OpenAI :
| Évaluateur | Mission annoncée | Rémunération annoncée |
| Apollo Research | Examiner les risques de subversion des modèles et la capacité des garde-fous à les détecter. | Rémunération financière non liée aux résultats. |
| METR | Évaluer l’alignement du plus grand entraînement par apprentissage par renforcement d’OpenAI à ce jour. | Pas de rémunération financière pour cette évaluation ; des crédits de calcul ou d’API peuvent être acceptés. |
| Transluce | Examiner la qualité et la couverture des évaluations d’alignement après l’entraînement. | Pas de rémunération financière pour cette évaluation ; des crédits de calcul ou d’API peuvent être acceptés. |
| Goodfire | Utiliser l’interprétabilité pour surveiller les entraînements, déboguer les modèles et contribuer à leur alignement. | Rémunération financière non liée aux résultats. |
OpenAI indique que la mission de METR consacrée à une évaluation plus large des systèmes de surveillance dépend encore d’un accord sur son périmètre. L’entreprise prévoit aussi une évaluation complémentaire par Transluce, d’environ huit semaines, au début de 2027. Pour Goodfire, les chercheurs d’OpenAI constituent le principal public visé, tandis que Goodfire doit également publier des enseignements et des résultats.