Dans un entretien publié le 23 octobre 2026, l’ancien chercheur en sécurité d’OpenAI Tomek Korbak a qualifié de restreint l’examen de l’incident de l’été 2026 impliquant Hugging Face. Mikita Balesni a estimé que les discussions sur la poursuite d’audits intégrés n’avançaient pas bien. Le cadre publié par OpenAI le 22 septembre fixe quatre priorités d’évaluation, sans établir que l’accès précis évoqué par Balesni ait été accordé.

Les quatre domaines d’évaluation cités par OpenAI

OpenAI demande que les évaluations externes portent sur quatre domaines :

  • les dossiers de sécurité ;
  • les protections critiques ;
  • l’évaluation des capacités et de l’alignement ;
  • les enquêtes sur les incidents critiques de désalignement.

Dans ses principes publiés le 22 septembre 2026, l’entreprise décrit aussi la conduite qu’elle préconise pour ces évaluations : un périmètre et des objectifs convenus, un accès proportionné, des méthodes transparentes, des évaluateurs compétents et indépendants, des protections de sécurité et de confidentialité, des résultats exploitables assortis d’un délai de remédiation, et une publication responsable. OpenAI indique que ces évaluations peuvent durer plusieurs semaines ou plusieurs mois, selon la question étudiée.

Le cadre prévoit ainsi plusieurs évaluateurs externes pour différents risques et objectifs. Pour l’incident lié à Hugging Face, OpenAI a invité des chercheurs de METR et de Redwood Research à participer à l’examen.

Ce que Korbak a raconté de l’examen de METR

Selon Korbak, la première visite de METR devait durer deux jours. L’équipe a ensuite été invitée à revenir pour une deuxième puis une troisième visite, à mesure que l’ampleur de l’incident se précisait. Il a décrit l’examen comme restreint et dit qu’il aurait souhaité que les évaluateurs puissent voir davantage.

El Mundo rapporte que METR a déclaré qu’OpenAI avait censuré certains résultats que l’organisation pouvait communiquer. Cette déclaration s’ajoute aux réserves de Korbak sur le périmètre de l’examen.

Balesni sur la poursuite des audits intégrés

Balesni a estimé que les discussions sur la poursuite d’audits intégrés, avec un accès comparable à celui d’un salarié, n’avançaient pas bien. Le cadre d’OpenAI prévoit un accès proportionné aux objectifs convenus et envisage des modalités indirectes ou préservant la confidentialité lorsque l’accès direct n’est pas réaliste. Il ne précise pas que l’arrangement particulier évoqué par Balesni a été conclu.

Le désaccord sur les licenciements

OpenAI a attribué le licenciement de trois chercheurs à une mauvaise gestion d’informations sensibles, selon un récit publié par El Mundo. Les chercheurs ont contesté cette explication. Le différend sur les départs de Balesni et Korbak est également traité dans notre précédent article sur leurs licenciements.