Um plano de controle de IA é uma camada lógica de gestão que configura políticas de IA, coordena decisões de política e oferece visibilidade sobre como essas políticas são aplicadas.
Este glossário usa o termo como uma definição operacional, não como uma especificação universal de produto. Ele descreve responsabilidades que podem se distribuir entre vários componentes. Um serviço de gestão e um componente de aplicação da política podem trabalhar juntos sem que toda solicitação de IA passe pelo serviço de gestão.
Quatro responsabilidades distintas
Configuração define as regras, seu escopo e as versões destinadas a determinados ambientes. Salvar uma regra estabelece a configuração pretendida, não necessariamente a que está em uso.
Tomada de decisão avalia uma solicitação conforme a política e o contexto aplicáveis. Ela determina um resultado, como permissão, negativa ou exigência de aprovação.
Aplicação da política dá efeito à decisão em um componente capaz de restringir a operação. A decisão e sua aplicação podem ocorrer em lugares diferentes.
Observabilidade fornece informações sobre configuração, decisões, execução e falhas. Essas informações podem apoiar uma revisão posterior ou alimentar outra decisão; não constituem automaticamente um controle preventivo.
A publicação Zero Trust Architecture, SP 800-207, do NIST distingue o mecanismo que decide sobre o acesso dos componentes que executam suas decisões e aplicam as condições de acesso. São responsabilidades lógicas, mesmo quando reunidas em um serviço. Essa distinção é útil aqui sem exigir que todo sistema de IA adote a arquitetura de referência.
Salvar uma política não conclui sua distribuição
Exemplo hipotético: um fluxo de geração de relatórios muda sua política para exigir aprovação antes que um agente crie um link público de compartilhamento. Um administrador salva a nova regra, mas um dos executores ainda usa a versão anterior.
A regra salva e a política efetiva do executor agora representam estados diferentes. Uma revisão útil verifica qual versão o executor recebeu, qual regra fundamentou a decisão e o que restringiu a operação. Um console que exibe a nova regra não comprova esses fatos sozinho.
O que o rótulo não garante
Um plano de controle não intercepta necessariamente todo prompt, chamada de ferramenta ou conexão de rede. A cobertura depende das integrações reais e dos caminhos de execução. A arquitetura deve identificar onde as decisões ocorrem, quais componentes as aplicam e o que acontece quando uma atualização de política ou uma decisão está indisponível.
A administração central pode apoiar a consistência das regras, mas essa consistência também depende da distribuição, do tratamento das versões e da aplicação. Uma interface única não comprova que a mesma política esteja efetivamente em uso em todos os ambientes.
Conceitos relacionados
A governança de IA estabelece as responsabilidades e regras organizacionais mais amplas. A governança de agentes de IA as aplica à autoridade delegada aos agentes.
O pilar de governança de agentes de IA explica como revisar os caminhos de execução, as aprovações e as evidências que conectam essas decisões às ações.