Een uitleg van een AI-systeem beschrijft de uitkomst of werking van het systeem, maar laat op zichzelf niet zien wat een mens ermee deed. Een verslag van menselijk toezicht moet daarom de handeling van die persoon vastleggen, niet alleen de systeemuitkomst.
Vier handelingen van menselijk toezicht
Een individuele Internet-Draft van Andreas Ehstand onderscheidt vier soorten menselijke handelingen. De tekst, gedateerd 26 september 2026, stelt terminologie voor om vast te leggen wat iemand met een AI-uitkomst doet. (Lees de Internet-Draft)
| Handeling | Wat de handeling vastlegt |
| Waarneming | De persoon krijgt het object voorgelegd. De registratie zegt niet wat die persoon daadwerkelijk heeft opgemerkt. |
| Controle | De persoon beoordeelt of een vooraf benoemde eigenschap geldt. De uitkomst geldt alleen voor die eigenschap. |
| Beslissing | De persoon kiest een handelwijze, bijvoorbeeld een uitkomst gebruiken, overrulen, onderbreken of doorverwijzen. De registratie bewijst niet dat er ook een controle plaatsvond. |
| Vrijgave | De persoon staat een bepaalde handeling toe binnen een bevoegdheid die al bestond. Dat legt toestemming vast, niet de juistheid van de handeling of de invoer. |
De verschillen zijn praktisch: een registratie van een beslissing laat zien welke route iemand koos, terwijl een controle ook moet aangeven wat die persoon precies heeft beoordeeld. Een vrijgave is weer iets anders: die legt toestemming vast, geen inhoudelijke goedkeuring van de uitkomst.
Welke gegevens een toezichtverslag kan bevatten
Volgens de voorgestelde terminologie vermeldt een verslag de toezichthouder, de handeling, het object waarop die betrekking heeft en het tijdstip. Bij een controle komen daar de gecontroleerde eigenschap en de uitkomst bij. Voor een vrijgave kunnen ook de bestaande bevoegdheid en de toegestane handeling worden vermeld, zodat duidelijk is waarop de toestemming betrekking had.
Zo maakt een verslag concreet wat er is gebeurd. Bij de registratie “controle: adresgegevens komen overeen, ja” is de beoordeelde eigenschap afgebakend. Dat zegt op zichzelf niets over andere eigenschappen van dezelfde uitkomst. De draft beschrijft deze gegevens als begrippen; ze schrijft geen verplicht verslagformaat voor.
Wat een test van het controleproces kan aantonen
Een controlelog laat zien dat iemand een handeling heeft geregistreerd. Om te beoordelen of de controle fouten kan herkennen, moet een test ook benoemen op welke groep gevallen de uitkomst betrekking heeft en onder welke omstandigheden en door wie de controle is uitgevoerd.
De draft onderscheidt foutdetecteerbaarheid van het aandeel gevallen dat een proces markeert. Een proces dat ieder geval markeert, kan alle fouten signaleren, maar maakt daarmee nog geen onderscheid tussen correcte en foutieve gevallen. Andreas Ehstand noemt het testen met bewust ingevoegde fouten als mogelijke aanpak; zulke testgevallen moeten zo worden afgeschermd dat ze geen gevolgen hebben voor betrokkenen. De draft bevat geen meetmethode of drempelwaarde.
In een paper uit 2022 onderzocht Ben Green 41 beleidsregels die menselijk toezicht op overheidsalgoritmen voorschreven. Green betoogt dat de effectiviteit van dat toezicht empirisch moet worden onderbouwd. (Lees de paper van Ben Green)
Een terminologievoorstel, geen verplichte standaard
De Internet-Draft is een individuele bijdrage met de beoogde status “Informational”. Ze definieert termen, maar bevat geen protocol, gegevensformaat, procedure, meetmethode of juridische interpretatie. De vier handelingen vormen dus een vocabulaire om toezicht te beschrijven, geen voorgeschreven logboek of kant-en-klare testprocedure.
