Les garanties pour évaluateurs IA sont des conditions destinées à rendre crédible l’examen indépendant des systèmes d’intelligence artificielle de pointe. Le 18 septembre 2026, l’AI Evaluator Forum a publié une lettre qui en propose cinq : indépendance, pluralité des évaluateurs, transparence, protection contre les représailles et accès comparable à celui de hauts responsables internes. La lettre formule des propositions, sans imposer d’obligation aux entreprises.
L’enjeu est concret : si les évaluateurs dépendent de l’entreprise examinée pour leur financement, leur accès ou la publication de leurs conclusions, leur autonomie peut être fragilisée.
Les cinq garanties proposées par l’AI Evaluator Forum
| Garantie proposée | Ce que prévoit la lettre |
| Indépendance réelle | Les évaluateurs ne devraient être ni détenus ni gouvernés par les entreprises examinées, ni entretenir avec elles d’autres relations commerciales importantes. Leur rémunération ne devrait pas dépendre de leurs conclusions. La lettre demande aussi qu’ils gardent la maîtrise éditoriale de leurs travaux et déclarent et gèrent leurs conflits d’intérêts. |
| Plusieurs points de vue | Les entreprises devraient faire appel à plusieurs organismes d’évaluation, aux compétences et aux perspectives de risque différentes. Les évaluateurs devraient pouvoir faire connaître leurs conclusions lorsqu’elles divergent de celles des employés de l’entreprise. |
| Transparence | Les méthodes, les résultats, les conditions d’accès et les modalités des évaluations devraient être rendus publics. Les évaluateurs devraient pouvoir communiquer rapidement et sans filtrage avec les conseils d’administration ou d’autres instances de supervision. Les occultations devraient être limitées dans leur portée et leur durée. |
| Protection contre les représailles | La lettre demande des protections contre les poursuites visant à exercer des représailles, ainsi que des financements qui ne pénalisent pas les évaluateurs pour leurs méthodes raisonnables ou leurs conclusions défavorables. |
| Accès comparable à celui de hauts responsables internes | Les évaluateurs devraient pouvoir consulter les systèmes, les données et les outils pertinents, accéder aux espaces physiques et échanger directement avec le personnel. Des exceptions protégeraient les données sensibles de clients et de tiers. |
L’AI Evaluator Forum demande que les méthodes, les résultats et les conditions d’accès soient suffisamment transparents pour permettre un contrôle extérieur. Cette exigence va de pair avec l’indépendance : publier des conclusions ne suffit pas si les évaluateurs ne peuvent pas examiner les systèmes et les pratiques concernés.
La page de la lettre recensait plus de 200 signataires, tous à titre personnel, lors de sa mise à jour du 23 septembre 2026.
Les engagements d’entreprises restent distincts des cinq garanties
Dario Amodei, PDG d’Anthropic, et Sam Altman, PDG d’OpenAI, se seraient engagés à intégrer des évaluations externes à leurs entreprises. Elon Musk, PDG de xAI, aurait soutenu la proposition d’Amodei. Ces engagements rapportés portent sur le principe d’évaluations intégrées ; les cinq conditions détaillées par le Forum constituent une proposition distincte.
Les discussions autour des évaluateurs externes s’inscrivent dans un débat plus large sur la manière de surveiller les laboratoires d’IA. Le débat sur les propositions de Dario Amodei et Sam Altman en donne un autre éclairage.
L’évaluation intégrée complète les autres formes de contrôle
Pour l’AI Evaluator Forum, la présence d’évaluateurs au sein des entreprises ne doit pas remplacer la transparence à plus grande échelle ni l’accès des chercheurs indépendants. Ces évaluations doivent s’ajouter à d’autres formes de contrôle.
Le Forum précise que ses conditions ne couvrent pas tous les aspects de la supervision. Il demande qu’elles soient standardisées, inscrites dans des règles et effectivement appliquées.
