Por que uma etapa de revisão humana costuma falhar?
Uma etapa de revisão humana costuma falhar porque a pessoa vê apenas o veredito da IA, tem itens demais para conferir e nunca recebe orientação sobre o que procurar, então aprovar se torna o caminho mais rápido. Isso é chamado de aprovação automática e dá a aparência de supervisão sem que ela exista de fato.
Imagine uma distribuidora atacadista fictícia com 25 pessoas, a Oakbridge Supplies. Uma ferramenta de IA compara faturas de fornecedores com pedidos de compra e marca cada uma como 'correspondente' ou 'divergente'. A assistente financeira, Priya, aprova as correspondentes para pagamento. Sua fila em uma quinta-feira diz: '212 faturas, 205 correspondentes, 7 divergentes'. Cada linha mostra fornecedor, valor e uma marca de verificação verde. No mês passado, uma fatura de fornecedor de 400 unidades foi paga quando apenas 40 tinham sido entregues, porque a ferramenta encontrou o mesmo número de pedido e Priya aprovou a marca de verificação.
Em quais etapas deve haver supervisão humana?
Uma pessoa deve participar da revisão sempre que uma saída da IA afetar dinheiro, o acesso de alguém a algo, um compromisso com um cliente ou uma consequência jurídica ou de segurança, e antes que essa mudança se torne difícil de reverter. Já as saídas rotineiras e reversíveis podem ser verificadas por amostragem.
O artigo do EU AI Act sobre supervisão humana de sistemas de alto risco apresenta a mesma ideia em linguagem regulatória: as pessoas que supervisionam um sistema devem entender seus limites, estar atentas ao viés de automação e ser capazes de desconsiderar, reverter ou interromper sua saída. Mesmo que a lei não se aplique a você, esses são bons objetivos de projeto.
Quais são os formatos de revisão com supervisão humana?
Há quatro formatos comuns de revisão, e o mais adequado depende do custo de um erro e da quantidade de itens.
Aprovar antes de agir
Uma pessoa aprova cada saída antes que qualquer ação ocorra. Use em trabalhos de alto custo e baixo volume, como pagamentos acima de um limite ou reembolsos a clientes.
Análise de exceções
A IA trata os casos claros e encaminha os incertos ou incomuns para uma pessoa. Só funciona se as regras de encaminhamento forem testadas e alguns casos 'claros' continuarem sendo verificados.
Auditoria por amostragem
Os resultados são enviados, e uma pessoa verifica uma amostra aleatória depois. Use em trabalhos reversíveis e de alto volume, como resumos internos.
Primeiro, de forma independente
A pessoa forma sua própria opinião antes de ver a sugestão da IA. É mais lento, mas evita que a resposta da IA sirva de âncora em julgamentos importantes.
Como é um plano de revisão fraco e um aprimorado?
Projeto fraco: todas as faturas vão para Priya com uma marca verde ou vermelha. Ela aprova 205 itens marcados em 20 minutos. Nada informa por que cada item recebeu aquela marca, e nada testa se ela continua prestando atenção.
Processo melhorado: faturas abaixo de um valor definido, nas quais o número do pedido, a quantidade e o preço unitário coincidem com o comprovante de entrega, são pagas automaticamente, e Priya verifica dez delas aleatoriamente por semana. Qualquer valor acima do limite, qualquer fornecedor novo e qualquer diferença de quantidade são encaminhados a ela com os três campos lado a lado e a justificativa da IA em uma linha, como 'quantidade na fatura 400, entregue 40'. Uma vez por mês, o responsável pelo financeiro inclui discretamente dois erros conhecidos na fila para confirmar que sejam detectados. Priya também registra cada vez que contraria a decisão da IA. Uma queda repentina para zero decisões contrariadas é tratada como um alerta, não como um sucesso.
Como você verifica se a revisão é feita de verdade e não é apenas uma aprovação automática?
Verifique se a revisão realmente acontece por meio de medições: tempo gasto por item, frequência com que os revisores corrigem a IA e detecção de erros inseridos para teste. Um revisor que nunca discorda da ferramenta está revisando resultados muito bons ou não está revisando nada, e você precisa de evidências para saber qual é o caso.
Mostre evidências, não apenas conclusões
Coloque os campos de origem ao lado da resposta da IA para facilitar a conferência.
Limite a fila
Se uma pessoa não consegue revisar adequadamente o volume de trabalho, mude o processo em vez de pedir que ela se esforce mais.
Dar autoridade
Os revisores devem poder rejeitar ou pausar sem precisar de permissão.
Teste o ciclo
Inclua erros conhecidos de vez em quando e registre se eles são detectados.
Quais são os erros comuns na supervisão humana de sistemas de IA?
O erro mais comum é incluir um revisor em um processo sem mudar mais nada e depois tratar a aprovação dele como prova de que o resultado estava correto. Outros: pedir que uma pessoa aprove centenas de itens por dia, esconder as evidências atrás de cliques adicionais, revisar decisões irreversíveis depois que a ação já aconteceu e comemorar a queda na taxa de intervenções humanas sem perguntar o motivo. O viés de automação também afeta pessoas cuidadosas, por isso o desenho do processo importa mais do que boas intenções.
Onde a supervisão humana se encaixa no catálogo da Tosheo.ai?
A participação humana no processo faz parte da categoria IA responsável e políticas, no curso de letramento em IA, após os temas de IA ética e controles de IA responsável. O assunto retorna nas lições sobre IA agêntica e automação, nas quais as ferramentas agem em vez de apenas sugerir. A tarefa prática pede que você redesenhe uma etapa de revisão do seu próprio trabalho, e a avaliação com base nos critérios de pontuação verifica se o ponto de revisão, as evidências e a autoridade estão claros.