- Data:
- De:
- Engenharia Codebunker
- Para:
- Quem coloca IA em produção
- Classificação:
- Pública
Assunto:
Revisão humana vai além do botão de aprovar.
Colocar uma pessoa no fluxo é fácil. Fazer essa pessoa decidir bem, sem virar carimbo, é desenho de sistema.
Quase todo projeto de agentes promete revisão humana. Na prática, muitos entregam uma fila de aprovações onde a pessoa clica em tudo porque não tem tempo, contexto ou motivo para discordar. O humano está no loop, mas não está decidindo. Isso é pior do que automação declarada: cria a aparência de controle sem o controle.
Decida pelo risco o que vai para uma pessoa
A primeira decisão de desenho é o que vai para uma pessoa. Se tudo vai, ninguém olha. Se nada vai, ninguém confia. Definimos com o cliente as condições que exigem julgamento humano: valor acima de um limite, conflito entre fontes, cliente em situação sensível, baixa confiança do agente, regra nova. O resto o sistema resolve dentro de limites escritos, e isso fica registrado.
Mostre a evidência junto com o pedido
Um pedido de revisão que diz apenas 'aprovar?' convida ao carimbo. Um pedido que mostra a cláusula encontrada, o lançamento divergente, o histórico do cliente e a regra aplicada convida ao julgamento. Nesses casos, o agente monta o dossiê para que uma pessoa decida rápido e bem.
Meça a revisão também
- Tempo até a decisão e taxa de devolução, por tipo de caso. Uma fila que nunca devolve nada está sendo carimbada.
- Casos em que o humano discordou do agente viram exemplos de avaliação. A revisão alimenta o sistema.
- Quem decidiu, com que evidência e sob qual versão da regra. A auditoria precisa conseguir reconstruir o raciocínio inteiro, além do resultado.
Permissões por escrito
O agente opera com uma identidade própria, com permissões próprias, que podem ser menores do que as da pessoa que ele ajuda. Ele pode ler o contrato, mas não alterá-lo. Pode propor o lançamento, mas não aprová-lo acima de um valor. Essas fronteiras ficam no código e na documentação, e o cliente consegue apontar para elas.
Nota do campoRevisão humana funciona quando a pessoa tem motivo, contexto e poder para dizer não. Sem os três, é teatro.