Wyjaśnienie wygenerowane przez AI opisuje wynik działania systemu. Samo nie pokazuje, co zrobił człowiek. Proponowany przez Andreasa Ehstanda zapis nadzoru ma rozróżniać konkretne czynności człowieka i wskazywać, co dokładnie sprawdzono.
Wyjaśnienie AI nie opisuje działania człowieka
Opis tego, jak system doszedł do wyniku, odpowiada na inne pytanie niż zapis ludzkiej kontroli. Żeby ustalić, co zrobiła osoba nadzorująca, trzeba odnotować jej czynność i jej przedmiot. Ogólna etykieta w rodzaju „sprawdzono” nie mówi, czy ktoś tylko zobaczył wynik, zweryfikował jego właściwość, podjął decyzję czy zezwolił na dalsze działanie.
Cztery czynności nadzoru człowieka
W indywidualnym drafcie terminologicznym Andreasa Ehstanda opisano cztery rodzaje czynności: obserwację, sprawdzenie, decyzję i zezwolenie na działanie. Każda pozwala ustalić coś innego.
| Czynność | Co może potwierdzić zapis |
| Obserwacja | Przedstawienie obiektu osobie nadzorującej; samo w sobie nie określa, co ta osoba zauważyła. |
| Sprawdzenie | Weryfikację wskazanej właściwości i jej wynik. Wniosek dotyczy tej właściwości, a nie całego wyniku. |
| Decyzja | Wybór dalszego działania, na przykład użycia wyniku, jego odrzucenia albo przekazania do ponownej oceny. Nie przesądza, czy wcześniej wykonano sprawdzenie. |
| Zezwolenie na działanie | Zgodę na określone działanie w granicach uprawnień, które osoba miała wcześniej. Nie potwierdza poprawności działania ani jego podstaw. |
Przykładowo, jeśli osoba sprawdza, czy wynik systemu uwzględnia konkretny warunek, zapis powinien nazywać właśnie ten warunek i podawać rezultat sprawdzenia. Odnotowanie samej decyzji o użyciu wyniku nie potwierdza, że warunek został zweryfikowany.
Jakie informacje może zawierać zapis nadzoru
Proponowana definicja wskazuje cztery podstawowe informacje: osobę nadzorującą, rodzaj czynności, jej przedmiot oraz czas. Przy sprawdzeniu zapis ma dodatkowo wskazywać badaną właściwość i wynik. Dzięki temu czytelnik może ustalić, kto wykonał daną czynność, czego dotyczyła i jaki miała zakres.
Przy zezwoleniu na działanie przydatne jest też wskazanie, na jakie działanie zezwolono i w ramach jakich wcześniej posiadanych uprawnień. Pozwala to ocenić zakres samego zezwolenia, ale nie stanowi dowodu, że działanie było prawidłowe.
To propozycja pól znaczeniowych, a nie gotowy format formularza czy obowiązkowy schemat zapisu. Draft nie opisuje sposobu uwierzytelniania osoby ani technicznej postaci takiego zapisu.
Jak ocenić, czy kontrola wykrywa błędy
Sama liczba przypadków oznaczonych przez kontrolę nie mówi, jak dobrze rozpoznaje ona błędne wyniki. Jeśli procedura oznacza każdy przypadek, może wskazać wszystkie błędy, ale równocześnie nie odróżniać ich od wyników poprawnych.
W terminologii draftu wykrywalność błędów odnosi się do określonej populacji referencyjnej oraz osób i warunków, w jakich działa kontrola. Wynik dotyczy więc konkretnego zakresu, a nie wszystkich użytkowników i sytuacji. Dokument nie podaje metody pomiaru ani progu, który uznawałby kontrolę za skuteczną.
W opublikowanym w 2022 r. artykule Ben Green opisał przegląd 41 polityk wymagających nadzoru człowieka nad algorytmami stosowanymi przez administrację publiczną. Argumentował, że skuteczność takiego nadzoru wymaga uzasadnienia dowodami empirycznymi (artykuł Bena Greena w arXiv).
Draft terminologiczny, nie standard
Proponowane cztery nazwy i definicje pochodzą z indywidualnego Internet-Draftu Andreasa Ehstanda, datowanego na 26 września 2026 r. (tekst draftu). Dokument ma status informacyjny i ogranicza się do terminologii. Nie określa protokołu, formatu danych, procedury ani interpretacji prawnej; sam nie ustanawia wymogu prowadzenia takiego zapisu.
