Eine Erklärung der KI belegt nicht, dass ein Mensch ihr Ergebnis geprüft hat. Ein Aufsichtsprotokoll muss dafür festhalten, welche Handlung eine bestimmte Person an welchem Gegenstand vorgenommen hat. Andreas Ehstands individueller Internet-Draft schlägt vier Kategorien vor: Beobachtung, Prüfung, Entscheidung und Freigabe.
Was eine KI-Erklärung über menschliche Prüfung aussagt
Eine KI-Erklärung beschreibt die Ausgabe des Systems. Sie sagt für sich genommen nicht, ob ein Mensch die Ausgabe geprüft, eine Entscheidung getroffen oder eine Handlung freigegeben hat. Um solche Vorgänge auseinanderzuhalten, braucht es einen nachvollziehbaren Eintrag zur menschlichen Handlung.
Ehstands individueller Internet-Draft zu Handlungen der menschlichen Aufsicht ordnet diese Handlungen in vier Kategorien. Der Entwurf vom 26. September 2026 liefert Begriffe, kein vorgeschriebenes Protokoll.
Vier Handlungen der menschlichen Aufsicht
Die Kategorien unterscheiden sich danach, was die jeweilige Handlung festhält. Ein Eintrag über eine Entscheidung belegt zum Beispiel nicht automatisch, dass zuvor eine Prüfung stattgefunden hat.
| Handlung | Was sie festhält |
| Beobachtung | Die Person bekommt den Gegenstand zu sehen. Das allein belegt nicht, was sie dabei wahrgenommen hat. |
| Prüfung | Die Person prüft, ob eine zuvor benannte Eigenschaft zutrifft. Das Ergebnis bezieht sich auf genau diese Eigenschaft. |
| Entscheidung | Die Person wählt eine Handlung, etwa eine Ausgabe zu verwenden, zu übersteuern, einen Vorgang zu unterbrechen oder weiterzuleiten. Daraus folgt nicht, dass sie zuvor eine Prüfung vorgenommen hat. |
| Freigabe | Die Person erlaubt eine bestimmte Handlung im Rahmen einer bereits bestehenden Befugnis. Die Freigabe belegt weder die Richtigkeit der Ausgabe noch die der erlaubten Handlung. |
Welche Angaben ein Aufsichtsprotokoll enthalten kann
Nach der Begriffsdefinition im Entwurf lässt sich ein Eintrag der verantwortlichen Person zuordnen und sollte die Person, die Art der Handlung, den Gegenstand und den Zeitpunkt benennen. Bei einer Prüfung kommen die geprüfte Eigenschaft und das Ergebnis hinzu. So bleibt erkennbar, worauf sich eine Aussage wie „geprüft“ tatsächlich bezieht.
Bei einer Freigabe helfen außerdem die benannte Befugnis und die erlaubte Handlung dabei, den Umfang der Freigabe einzuordnen. Diese Angaben sind vorgeschlagene Begriffe und Inhalte, keine verbindliche Log-Vorlage. Der Entwurf schreibt weder ein Datenformat noch ein Verfahren vor.
Wie sich eine Prüfstufe bewerten lässt
Ob eine Prüfstufe Fehler erkennt, hängt laut Entwurf von einer festgelegten Vergleichsgruppe sowie von den beteiligten Personen und den Prüfbedingungen ab. Die Zahl der markierten Fälle ist dafür kein Ersatz: Wenn ein Verfahren jeden Fall markiert, zeigt das noch nicht, ob es fehlerhafte von korrekten Fällen unterscheiden kann.
Ein Test mit gezielt eingebauten Fehlern kann die Prüfung untersuchen, sofern fehlerhafte Testfälle nicht zu betroffenen Personen gelangen. Der Entwurf legt dafür keine Testmethode und keinen Schwellenwert fest.
Ben Green untersuchte in einer 2022 veröffentlichten Arbeit 41 Richtlinien, die menschliche Aufsicht über staatliche Algorithmen verlangen. Green argumentiert, dass die Wirksamkeit solcher Vorgaben empirisch gestützt werden muss. Die Arbeit von Ben Green liefert keine allgemeine Erfolgsquote für menschliche Prüfungen.
Ein Begriffs Vorschlag, keine rechtliche Vorgabe
Ehstands individueller, bei der IETF veröffentlichter Internet-Draft ist als informatives Arbeitspapier angelegt und beschränkt sich auf Begriffe. Er begründet keine gesetzliche Pflicht und enthält keine rechtliche Auslegung. Die vier Kategorien und die vorgeschlagenen Protokollangaben sind daher ein begrifflicher Rahmen, kein verbindlicher Standard.
