Une explication produite par une IA décrit la sortie du système ; à elle seule, elle ne dit pas ce qu’une personne a fait. Pour documenter une action humaine, il faut identifier l’acte accompli et ce sur quoi il portait.
Andreas Ehstand propose quatre catégories dans un projet individuel de l’IETF consacré à la terminologie de la supervision humaine. Elles aident à préciser ce qu’une trace permet d’établir, sans transformer une mention générique comme « vérifié » en preuve détaillée.
Quatre actes de supervision humaine
Dans cette terminologie, observer, vérifier, décider et autoriser désignent des actions différentes. La portée d’une trace dépend de l’acte qu’elle consigne.
| Acte | Ce que la trace permet d’établir |
| Observation | La personne a eu accès à l’objet présenté. La trace ne précise pas ce qu’elle a remarqué. |
| Vérification | La personne a examiné une propriété nommée et consigné le résultat. Celui-ci porte sur cette propriété, pas sur toutes les autres caractéristiques de l’objet. |
| Décision | La personne a choisi une action, par exemple utiliser, écarter ou interrompre le résultat. Cela ne prouve pas qu’elle l’a vérifié. |
| Autorisation | La personne a permis une action précise dans le cadre d’une autorité qu’elle détenait déjà. Cela établit la permission, pas la justesse de l’action ni de ses données d’entrée. |
Ce qu’un registre de supervision peut identifier
La définition proposée par Ehstand prévoit qu’une trace puisse être attribuée à la personne chargée de la supervision et qu’elle identifie cette personne, le type d’acte, l’objet concerné et le moment de l’action. Pour une vérification, elle précise aussi la propriété examinée et le résultat.
Ces éléments circonscrivent la portée de la trace. Un résultat positif sur une propriété précise ne vaut pas vérification complète de l’objet. Pour une autorisation, indiquer l’autorité préexistante et l’action permise aiderait à situer la permission dans son périmètre. Le projet propose ces informations sur le plan sémantique ; il ne prescrit pas de format de registre.
Ce qu’un test de contrôle peut établir
Pour évaluer une étape de vérification, le projet définit la détectabilité des erreurs par rapport à une population de référence et aux personnes et conditions concernées. La proportion de cas signalés ne suffit pas à mesurer cette capacité : un contrôle qui signale tous les cas ne distingue pas les erreurs des résultats corrects.
Ben Green a publié le 24 octobre 2022 une étude portant sur 41 politiques de supervision humaine des algorithmes gouvernementaux. Il soutient que l’efficacité de tels dispositifs doit être étayée par des éléments empiriques, faute de quoi les politiques risquent de donner une assurance trompeuse (article de Ben Green).
Le statut de la proposition
Le document d’Andreas Ehstand est un projet individuel à visée informative, daté du 26 septembre 2026. Il propose une terminologie ; il ne définit ni protocole, ni format de données, ni procédure, ni méthode ou seuil de mesure, ni interprétation juridique.
