Uma explicação gerada por IA descreve a saída do sistema, não a ação de uma pessoa. Para documentar essa ação, um Internet-Draft individual de Andreas Ehstand propõe distinguir observação, verificação, decisão e liberação.
Essa diferença delimita o que um registro permite afirmar: uma decisão registrada, por exemplo, não demonstra por si só que alguém verificou o resultado antes de decidir.
Quatro atos, quatro alcances
A proposta separa quatro ações humanas. Cada uma descreve uma relação diferente com o resultado da IA e permite afirmar coisas diferentes.
| Ato | O que o registro desse ato pode demonstrar |
| Observação | A pessoa teve acesso ao objeto, mas o registro não diz o que ela percebeu nele. |
| Verificação | A pessoa avaliou se uma propriedade definida antes da checagem se confirmava. O resultado se limita a essa propriedade. |
| Decisão | A pessoa escolheu uma ação, como usar, substituir ou interromper o uso de um resultado. Isso não demonstra que houve verificação. |
| Liberação | A pessoa permitiu uma ação específica com base em uma autoridade que já possuía. A permissão não atesta que a ação ou seus dados estejam corretos. |
O que um registro pode identificar
Na terminologia proposta por Ehstand, um registro deve poder ser atribuído à pessoa supervisora e identificar quem agiu, o tipo de ato, o objeto e o momento. Se o ato foi uma verificação, entram também a propriedade checada e o resultado. Assim, “verificado” sozinho não informa o que foi examinado nem o que a checagem concluiu.
No caso de uma liberação, identificar a autoridade preexistente e a ação permitida ajuda a delimitar o alcance daquela autorização. Esses são elementos semânticos da proposta, não um modelo obrigatório de formulário ou sistema de registro.
Como avaliar se uma verificação detecta erros
O conceito de detectabilidade de erros no draft depende de uma população de referência e das pessoas e condições envolvidas na verificação. A proporção de casos sinalizados não equivale à capacidade de separar resultados errados dos corretos: um processo que sinaliza todos os casos pode incluir todos os erros entre os alertas, mas também sinaliza os casos corretos.
Por isso, um resultado de teste só descreve a detectabilidade em relação à população, às pessoas e às condições consideradas. O documento não define um método de medição nem um limite de desempenho.
Em artigo publicado em 2022, Ben Green analisou 41 políticas que exigem supervisão humana de algoritmos governamentais. Green argumenta que presumir a eficácia dessa supervisão sem sustentação empírica pode criar uma falsa sensação de segurança, como resume seu estudo sobre políticas de supervisão humana.
O alcance da proposta
O documento de Ehstand é um Internet-Draft individual, com data de 26 de setembro de 2026 e status informativo. Ele propõe terminologia para os quatro atos, mas não especifica protocolo, formato de dados, procedimento, método de medição ou interpretação jurídica. Não é um padrão adotado nem estabelece, por si só, uma exigência legal.
