Uma decisão de governança determina como um uso de IA ou uma operação proposta pode prosseguir sob critérios e autoridade definidos. A avaliação de incidente determina se a atividade analisada atende aos critérios de incidente aplicáveis. Uma decisão de negar a operação pode contribuir para essa avaliação, mas o rótulo Deny não a realiza.
São perguntas distintas, não categorias mutuamente exclusivas. Uma organização pode reter uma operação enquanto investiga as circunstâncias que a originaram. Também pode declarar um incidente enquanto partes da atividade ou do resultado permanecem sem esclarecimento. Permissão, aplicação de um controle e avaliação de uma situação precisam de fundamentos próprios.
Separe a resposta operacional da avaliação de incidente
A pergunta operacional tem um objeto definido: este uso, esta solicitação ou esta ação proposta, sob estas condições. A resposta pode permitir, negar ou exigir uma aprovação aplicável. Ela não explica necessariamente por que a solicitação surgiu, se houve uso indevido da identidade executora ou o que ocorreu por outro caminho.
A pergunta sobre incidente trata da situação em avaliação. Seu escopo pode incluir atividades anteriores, recursos afetados, sinais de comprometimento da autoridade e consequências além da solicitação atual. Um controle bem-sucedido em determinado ponto pode ser evidência relevante, mesmo que a situação ao redor ainda exija investigação.
Mantenha também a decisão separada de sua aplicação. Uma negação registrada estabelece a resposta selecionada, dentro dos limites desse registro. Para concluir que uma leitura protegida foi retida, o revisor precisa de evidências sobre o ponto de controle relevante. Nem a decisão isolada nem a ausência de uma mensagem de sucesso comprovam que os dados nunca foram acessados.
O Framework de Governança de IA em Runtime atribui responsabilidades por essas diferentes perguntas. A triagem de incidentes acrescenta um julgamento específico: o que as informações disponíveis justificam fazer diante da situação, segundo os critérios de resposta da organização?
Explicite qual definição de incidente orienta a avaliação
A terminologia de incidentes depende do propósito e do escopo. O NIST SP 800-61r3 trata evento como uma ocorrência observável que envolve ativos computacionais. Sua definição de incidente de cybersecurity inclui comprometimento efetivo ou iminente, sem autorização, de informações ou sistemas, além de violações ou ameaças iminentes de violação de políticas especificadas. Não exige dano consumado para que uma situação possa se enquadrar. NIST SP 800-61r3, seção 1.
O documento da OCDE de 2024 propõe outra distinção para a terminologia de IA: um incidente envolve a ocorrência dos danos especificados, enquanto um perigo, ou hazard, poderia plausivelmente levar a esses danos. O texto apresenta definições preliminares e contextuais. Não é uma reformulação intercambiável da definição de cybersecurity do NIST. OCDE, Defining AI incidents and related terms, páginas 10–13.
A exigência prática é identificar os critérios usados na avaliação, em vez de classificar a atividade pela definição que produza o rótulo mais conveniente. Este artigo usa decisão de governança como termo operacional para a pergunta sobre permissão; não propõe uma definição universal de incidente de IA nem substitui o processo de resposta a incidentes de uma organização.
A investigação e as medidas de proteção não devem aguardar prova de dano consumado apenas porque uma terminologia distingue dano efetivo de potencial. O DE.AE-08 do NIST vincula a declaração de incidente a critérios definidos, aplicados a características conhecidas e presumidas da atividade analisada, considerando falsos positivos conhecidos. A avaliação pode reconhecer incertezas e ainda justificar uma resposta. NIST SP 800-61r3, DE.AE-08.
Investigue as circunstâncias de uma solicitação negada
Exercício hipotético de revisão: um agente encarregado de preparar um resumo de andamento de um projeto solicita material da pasta restrita de outro projeto. A política aplicável retorna Deny para essa solicitação. Essas são condições propostas para examinar um processo de resposta, não um incidente coletado, uma implantação de cliente ou um resultado de teste.
A decisão responde à pergunta sobre permissão daquela solicitação. Sozinha, não comprova violação de política, intenção hostil ou acesso à pasta. O pedido pode refletir um escopo incorreto de recuperação de informações, uma instrução cuja autoridade não foi estabelecida ou outra causa que o registro inicial não explica. Essas possibilidades são perguntas a resolver, não achados.
Suponha que uma revisão estabeleça que a configuração de recuperação selecionou a pasta errada, a leitura relevante foi retida e nenhum critério de incidente se aplica à atividade examinada. A equipe pode encaminhar essa conclusão delimitada para correção do fluxo. Deve preservar o fundamento da conclusão, em vez de descartar a situação apenas porque o controle retornou Deny.
Agora suponha que a credencial usada na operação não possa ser atribuída ao operador esperado, ou que existam informações críveis sobre acessos relacionados que o ponto de controle não avaliou. A negação da solicitação atual não esclarece esses fatos. O responsável pela identidade ou pelo recurso pode precisar investigá-los, e a equipe autorizada de resposta deve avaliar se as informações disponíveis atendem aos critérios de incidente. Não se afirma que qualquer dessas possibilidades ocorreu neste exemplo.
A equipe pode estabelecer uma restrição operacional temporária enquanto investiga, dentro da autoridade e do escopo de seu processo. Essa é uma decisão sobre como o trabalho pode continuar. Não comprova um efeito passado, não elimina uma dúvida sobre exposição nem estabelece que um incidente já foi declarado. Se os critérios de incidente aplicáveis forem atendidos, a resposta deve prosseguir sem esperar que a correção do fluxo termine.
Um resultado desconhecido é informação a investigar, não uma classificação
A nota controlada sobre a ação do agente oferece um exemplo restrito de por que um campo de status não pode sustentar toda a conclusão. Em case-01, o laboratório reteve o envio, nenhum processo executor (worker) foi iniciado e o arquivo estava ausente do destino amostrado. Em case-03, o worker executou e o observador leu o conteúdo proposto para o arquivo, enquanto o laboratório suprimiu deliberadamente o retorno coletado. O componente chamador (caller) informou confirmação indisponível nos dois casos.
Essa comparação não identifica um incidente. As intervenções foram deliberadas, o conteúdo era sintético e o fluxo não continha mecanismo de políticas ou uso empresarial. Ela estabelece uma diferença delimitada entre um estado de confirmação e estados observados no destino. Uma investigação operacional também precisaria da autoridade, dos critérios e do contexto aplicáveis antes de classificar sua própria situação.
Trate um resultado não esclarecido como uma lacuna específica de informação. Pergunte qual fonte poderia estabelecer o fato relevante e o que essa fonte consegue observar. O guia de trilha de auditoria de agentes de IA aprofunda essas relações de evidência. A falta de informação pode aumentar a urgência da revisão quando as consequências puderem ser significativas; não transforma todo estado desconhecido em incidente confirmado ou em ausência comprovada de dano.
Preserve o fundamento de cada resposta
Um registro útil de triagem informa o que é conhecido, o que é presumido, quais critérios de incidente foram aplicados e por que a próxima ação se justifica. Identifica quem deve resolver a incerteza material e qual condição deve provocar uma reavaliação. Esse é o raciocínio que fundamenta a resposta, não outra coleta genérica de todos os campos de log disponíveis.
Mantenha essa avaliação conectada à decisão operacional, sem fundir seus estados. Aprovação pendente significa que a operação ainda não tem a permissão exigida naquele ponto. Investigação pendente significa que uma pergunta sobre a situação continua aberta. Um aprovador pode resolver uma questão de autorização de negócio sem conseguir estabelecer se uma credencial foi comprometida. Uma pessoa pode acumular as duas responsabilidades, mas as evidências e a autoridade necessárias a cada uma continuam distintas.
Da mesma forma, uma exceção autorizada para trabalho futuro não comprova que atividades anteriores eram permitidas ou inofensivas. Corrigir a política ou o fluxo pode resolver um problema enquanto uma investigação separada continua necessária. Por outro lado, uma revisão pode concluir que nenhum critério de incidente se aplica e, ainda assim, preservar uma negação válida e uma tarefa de melhoria do fluxo.
O resultado operacional deve ser compreensível para o próximo responsável: o que pode prosseguir agora, qual restrição precisa ser aplicada e verificada, quais fatos ainda exigem investigação e se um incidente foi declarado segundo os critérios relevantes. Essa separação mantém a utilidade de uma decisão normal de política sem ocultar uma situação que exige resposta.