Introdução
O human-in-the-loop e níveis de autonomia define quando o Hermes pode agir sozinho, quando precisa apresentar uma prévia e quando deve aguardar decisão humana. Esse controle evita que toda tarefa seja lenta por excesso de confirmações e impede que ações de impacto sejam executadas apenas porque o agente interpretou um pedido de maneira plausível.
A aprovação precisa ser informativa. Um botão genérico sem alvo, dados ou consequência transfere responsabilidade sem permitir uma decisão real. O revisor deve compreender o que será feito, por que, em qual sistema, com quais informações e se existe forma de desfazer.
Neste tutorial será criada uma supervisão humana de agentes baseada em risco, reversibilidade, sensibilidade e confiança. O fluxo inclui expiração, delegação, correção e auditoria, permitindo que a autonomia cresça somente onde o desempenho é conhecido.
Pré-requisitos / Materiais
Catálogo de ações
Liste ferramentas e operações com efeitos. Diferencie leitura, rascunho, criação, atualização, envio, pagamento e exclusão. Para cada ação, registre dados usados, alvo e possibilidade de reversão.
Matriz de risco
Combine impacto, alcance, sensibilidade, confiança e reversibilidade. Uma consulta pública pode ser automática; uma mensagem externa em massa exige controle mais forte. A matriz deve produzir regras compreensíveis.
Interface de aprovação
Prepare uma tela ou mensagem com resumo, diferenças, riscos e opções. O aprovador precisa editar, recusar ou solicitar informação. Registre identidade e horário da decisão.
Cenários de avaliação
Inclua ações rotineiras, incomuns, ambíguas e destrutivas. Teste também mudança após aprovação e solicitação expirada. Esses casos validam o controle humano sobre IA.
Passo a Passo Sequencial
1. Defina quatro níveis
No nível zero, o Hermes apenas informa. No primeiro, sugere e cria rascunho. No segundo, executa ações reversíveis dentro de limites. No terceiro, operações sensíveis exigem aprovação explícita. A nomenclatura pode mudar, mas os limites devem ser objetivos.
2. Classifique cada ferramenta
Não atribua autonomia ao agente inteiro. Uma ferramenta de consulta pode ser automática enquanto o envio de e-mail exige aprovação. Avalie também parâmetros, pois ler um cadastro difere de exportar milhares.
3. Considere o contexto
A mesma ação muda de risco conforme destinatário, volume, horário e dados. Atualizar uma tarefa interna é diferente de alterar um contrato. Recalcule o nível com base nos parâmetros reais.
4. Gere uma prévia verificável
Mostre ação, alvo, campos alterados, fonte dos dados e consequência. Em textos, destaque diferenças. Em exclusões, liste itens. A prévia deve ser produzida antes do efeito e corresponder exatamente ao comando aprovado.
5. Explique incertezas
Indique campos inferidos, correspondências ambíguas e informações ausentes. Baixa confiança não deve ser escondida por linguagem firme. O aprovador precisa saber onde concentrar atenção.
6. Vincule aprovação à versão
Calcule um identificador sobre ação e parâmetros. Se qualquer campo mudar, a autorização deixa de valer. Isso impede que uma aprovação para um rascunho seja reutilizada depois de alteração do destinatário.
7. Defina validade e escopo
A aprovação expira após um período e vale para uma operação. Autorizações recorrentes precisam de limite, público e possibilidade de revogação. Evite consentimentos amplos escondidos em uma confirmação.
8. Permita correção
O revisor pode editar parâmetros ou devolver orientação. Após a correção, o Hermes deve validar novamente e mostrar nova prévia. Registre a diferença para melhorar regras e prompts.
9. Trate recusa como dado
Uma recusa encerra a ação, não inicia tentativas de persuasão. Motivos opcionais podem ajudar na melhoria, mas o agente não deve pressionar. Bloqueie repetição automática da mesma solicitação.
10. Execute e confirme
Após aprovação, verifique versão, validade e identidade. Execute uma vez com chave idempotente e confirme o efeito no sistema. Informe sucesso, falha parcial e possibilidade de reversão.
11. Crie escalada
Defina quem decide quando o aprovador está ausente ou não possui competência. Questões jurídicas, financeiras, trabalhistas ou de privacidade podem exigir profissional especializado, não apenas qualquer usuário disponível.
12. Registre auditoria
Armazene proposta, risco, prévia, decisão, alterações, execução e resultado. Proteja dados sensíveis e retenha apenas pelo período necessário. A aprovação humana em automações deve ser comprovável.
13. Meça a carga humana
Acompanhe tempo de espera, aprovações, recusas, correções e alertas ignorados. Muitas confirmações triviais geram fadiga. Agrupe ações semelhantes somente quando o conjunto puder ser compreendido e desfeito.
14. Ajuste autonomia por evidência
Revise métricas por ferramenta. Ações reversíveis com alto acerto podem receber mais autonomia; incidentes ou mudanças de processo exigem recuo. Não transforme o aumento de autonomia em caminho sem volta.
Exercício de política
Teste quatro ações: consultar agenda, criar rascunho, enviar mensagem externa e excluir registro. Confirme que cada uma recebe nível diferente. Em seguida, altere volume e destinatário para verificar se o risco muda dinamicamente.
Aprove uma mensagem e modifique uma palavra relevante antes da execução. O sistema deve invalidar o aceite. Depois simule falha após envio e confirme que a idempotência impede uma segunda mensagem.
Defina experiência para situações urgentes
Urgência não deve eliminar controles, mas pode mudar a rota de escalada. Crie contatos substitutos, prazos de resposta e opção segura de cancelar. Se ninguém autorizado responder, o Hermes precisa escolher o estado conservador previsto, não conceder permissão a si mesmo.
Apresente aprovações em linguagem direta, sem esconder riscos em detalhes técnicos. Para mudanças de dados, mostre antes e depois. Para mensagens, destaque destinatários e anexos. Para operações em lote, informe quantidade e permita abrir amostras. Uma interface clara reduz aprovações automáticas por hábito.
Aprenda com correções sem vigiar pessoas
Analise padrões agregados de edição, recusa e tempo, com acesso e retenção apropriados. Se um campo é corrigido com frequência, melhore extração ou regra. Se quase todas as aprovações são automáticas e sem leitura, reduza ruído ou reavalie a interface, em vez de concluir que não existe risco.
Documente mudanças de nível e motivo. Equipes afetadas devem saber quais ações passaram a ser automáticas e como interrompê-las. Autonomia responsável depende de governança contínua, não apenas da configuração inicial.
Inclua acessibilidade e uso em dispositivos diferentes na revisão da interface. Aprovações importantes não podem esconder campos por falta de espaço nem depender apenas de cor. Confirme identidade do aprovador e proteja sessões compartilhadas. O controle humano também depende da qualidade do canal usado para decidir.
Teste com pessoas reais e corrija pontos que incentivem decisões rápidas sem leitura.
Perguntas Frequentes
Toda ação precisa de aprovação?
Não. Consultas e sugestões de baixo risco podem ser automáticas. A política deve concentrar atenção humana onde impacto e incerteza justificam.
Quem deve aprovar?
A pessoa com autoridade e contexto para aquela ação. Temas especializados podem exigir responsáveis de segurança, finanças, jurídico ou privacidade.
Uma aprovação pode valer para várias ações?
Somente com escopo claro, limite e revogação. Operações sensíveis devem manter autorizações específicas para evitar efeitos inesperados.
Como evitar fadiga de alertas?
Reduza confirmações triviais, destaque diferenças e priorize risco. Métricas de correção e recusa ajudam a encontrar etapas mal calibradas.
O que acontece quando a aprovação expira?
A ação permanece pendente ou é cancelada conforme a política. O Hermes deve gerar uma nova prévia se ainda houver necessidade.
Autonomia maior significa agente melhor?
Não. Qualidade é cumprir objetivos com controle proporcional. Em alguns processos, pedir revisão no momento certo é a melhor decisão.
Supervisão humana funciona quando apresenta escolhas reais e protege o vínculo entre intenção e execução. Com níveis claros, o Hermes pode ser ágil em tarefas rotineiras e cuidadoso onde o impacto aumenta.
Artigos relacionados: automação empresarial com aprovação; execução segura de ferramentas.