Human-in-the-loop é uma forma de organizar um fluxo de trabalho em que uma pessoa fornece informações, revisa o trabalho ou toma uma decisão em um ponto definido que pode influenciar a atividade de um sistema de IA.
Essa definição operacional trata do papel da pessoa no fluxo. Sua participação pode esclarecer uma instrução, corrigir um resultado proposto ou autorizar uma operação. Essas contribuições são diferentes: fornecer informações não concede permissão automaticamente, e aprovar não comprova que a operação aprovada ocorreu.
Identifique a contribuição de que o fluxo precisa
Uma pessoa pode ser chamada para resolver uma ambiguidade, avaliar a qualidade, escolher entre alternativas ou aprovar uma exceção. Identifique essa contribuição e a etapa em que ela pode afetar o trabalho. Quem avalia um rascunho antes de sua liberação tem uma oportunidade de intervenção diferente de quem revisa um registro depois da liberação.
O AI RMF Playbook do NIST, em GOVERN 3.2, orienta diferenciar papéis e responsabilidades humanos, incluindo as pessoas que usam sistemas de IA e aquelas que os supervisionam. Iniciar uma tarefa não comprova que a pessoa tem autoridade sobre toda decisão decorrente dela.
Aprovar exige autoridade, informação e escopo
Quando a participação funciona como controle de aprovação, identifique o que a pessoa pode decidir e o que precisa saber. A operação, o alvo, as entradas relevantes e as condições aplicáveis devem ser compreensíveis o suficiente para a decisão solicitada. Uma questão que o revisor não consegue resolver deve permanecer em aberto ou chegar a alguém capaz de tratá-la.
A aprovação pode cobrir uma operação ou uma classe delimitada de trabalho em condições especificadas. Ela não deve acompanhar silenciosamente uma mudança de destino ou tarefa. O fluxo também precisa definir se a operação aguarda, o que acontece quando o revisor está indisponível e como o executor aplica a decisão.
O guia de governança pré-execução explica essa conexão com uma operação cujo efeito protegido ainda pode ser impedido. Registrar a resposta humana produz evidência dessa resposta; não basta para comprovar que a execução a respeitou.
O que o rótulo não garante
Human-in-the-loop não exige que uma pessoa aprove toda ação de agente. Um diálogo de confirmação também não comprova julgamento informado, aplicação efetiva de controles ou governança completa. O valor depende do papel e do controle realmente implementados.
A análise sobre human-in-the-loop e governança distingue uma decisão autorizada de aceitar risco da verificação de um fato desconhecido.
O pilar de governança de agentes de IA situa a participação humana junto à autoridade delegada, às políticas, aos controles automatizados, à observação e às evidências.