← BlogENTERPRISE AI GOVERNANCE

Uma tarefa concluída ainda pode ser uma ação não autorizada

Concluir a tarefa é só um critério de aceite para agentes de IA. Defina autoridade, alternativas permitidas e evidências sobre o caminho percorrido.

● KonaSense · 22 DE OUT. DE 2026 · 5 min
Um relatório concluído fica ao lado de um envelope ainda não enviado, enquanto um revisor examina a autorização para enviá-lo.

Um resultado útil não demonstra que o agente de IA tinha permissão para executar cada etapa que levou até ele. A empresa deve avaliar o trabalho por dois critérios: se concluiu a tarefa autorizada e se respeitou os meios autorizados. As respostas podem ser diferentes.

Em 9 de outubro de 2026, a Anthropic relatou ações não pretendidas em avaliações e uso interno, incluindo restrições contornadas e envios indevidos de formulários. A empresa descreveu impacto real mínimo. A maioria dos casos veio de uma revisão de transcrições iniciada em julho. 9 de outubro é a data de publicação; o relato não apresenta uma cronologia completa dos casos. Nossa análise trata de critérios empresariais de aceite, não da frequência desses comportamentos.

Defina o limite da tarefa, além do resultado desejado

“Conclua a avaliação do fornecedor” descreve um objetivo de negócio. Não esclarece se o agente pode contatar o fornecedor, enviar um questionário interno, criar uma conta ou aceitar termos. Uma pessoa acostumada ao processo de Compras talvez deduza esses limites. O processo ainda precisa explicitá-los e sustentá-los com controles.

Numa avaliação hipotética, permita ao agente ler um conjunto definido de documentos e preparar uma comparação preliminar. Reserve a comunicação externa e o envio para um colaborador autorizado. A entrega passa a ser um rascunho com referências, não uma interação concluída com o fornecedor. Essa distinção deve aparecer tanto na definição da tarefa quanto nas permissões disponíveis ao agente.

Esse é um ponto de partida útil para a governança de agentes de IA: identificar quais decisões de negócio a pessoa delegou e quais continuam sob sua responsabilidade. Ter acesso a uma ferramenta não deve equivaler a uma autorização irrestrita para todas as operações que ela oferece.

Decida o que fazer quando o caminho previsto falhar

O caminho de exceção precisa ser desenhado. Suponha que o repositório aprovado fique indisponível no meio da avaliação do fornecedor. O agente pode buscar fontes públicas, usar um documento em cache, pedir acesso a um colega ou deve parar? Cada alternativa muda a evidência ou o escopo da tarefa.

Escolha previamente quais alternativas são permitidas. O agente pode, por exemplo, devolver uma comparação parcial e identificar o documento que falta, mas não enviar um pedido externo em nome do colaborador. Um resultado incompleto, acompanhado de uma explicação correta, pode ser o desfecho esperado. O responsável pelo processo deve aceitá-lo, em vez de incentivar a conclusão a qualquer custo.

Isso também revela uma pergunta de compra: a integração escolhida consegue aplicar o limite necessário ou apenas colocá-lo numa instrução? Se não houver controle técnico, avalie se o processo manual restante é suficiente antes de delegar o trabalho.

Separe preparação de efetivação

Redigir uma mensagem e enviá-la são atos diferentes. Preparar uma compra e realizá-la também. Preencher um formulário e submetê-lo também. Tratar cada par como uma tarefa contínua pode esconder o momento em que a empresa passa a responder por um efeito externo.

O limite deve acompanhar a transmissão efetiva de dados ou uma mudança de estado. Algumas interfaces enviam dados durante o preenchimento dos campos ou salvam rascunhos num serviço externo. Verifique esses efeitos antes que o agente comece a inserir informações.

Em trabalhos com consequências relevantes, marque cada um desses limites. Defina qual função pode autorizá-lo e o que essa pessoa precisa examinar: destinatário, destino, conteúdo, anexos e contexto de negócio. Se o processo não oferece informação suficiente para uma decisão consciente, acrescentar um botão de confirmação não resolve a lacuna.

A verificação de permissões deve corresponder ao caminho real da execução. Restringir uma ferramenta não demonstra que outra rota disponível não consiga realizar a mesma ação. Examine ferramentas, credenciais e destinos em conjunto. Nosso guia de arquitetura de governança de agentes de IA explica onde a observação e a intervenção podem ocorrer nesse caminho.

Examine o que aconteceu, além da explicação do agente

O resumo final ajuda a entender a entrega. Não deve ser o único registro usado para aprovar um trabalho com consequências relevantes. Peça evidências que conectem a solicitação às operações realizadas e aos resultados obtidos.

No exemplo do fornecedor, o revisor poderia verificar quais documentos foram lidos, se houve comunicação externa e se um envio proposto chegou ao destino. A evidência necessária depende do processo e pode vir do ambiente do agente, do sistema de destino ou de ambos. A falta de visibilidade deve permanecer registrada como um limite.

Um aceite bem definido distingue quatro situações: concluiu dentro do escopo, parou dentro do escopo, tentou uma ação fora do escopo que foi impedida ou executou uma ação fora do escopo. Cada situação pede uma resposta. Uma tentativa bloqueada pode justificar a revisão da política ou da tarefa sem ser descrita como um incidente externo consumado.

Troque a pergunta sobre conclusão pela pergunta sobre conclusão autorizada

Um relatório de piloto pode mostrar economia de tempo e ainda deixar a gestão sem condições de avaliar a autoridade delegada. Peça ao responsável que apresente uma tarefa bem-sucedida, um caso com recurso indisponível e outro que chegue a uma ação proibida. O objetivo é observar se o processo se comporta de maneira aceitável quando o caminho mais fácil desaparece.

A decisão de investimento fica mais precisa. A gestão pode ampliar um processo cujos limites foram demonstrados, restringir outro com permissões excessivas ou adiar um terceiro cujas consequências ainda não consegue examinar. “Concluiu” continua sendo informação útil. Deixa de servir como substituto de autorização.

Revise a autoridade que está delegando

Converse com a KonaSense sobre um processo com agentes, as ações permitidas e as evidências necessárias para avaliar controles nas integrações compatíveis do seu ambiente.

Get in touch

Let's secure your AI
before your next board meeting.