Governança de IA é o conjunto de políticas, responsabilidades, controles e evidências que uma organização usa para decidir como a inteligência artificial pode ser desenvolvida, implantada e utilizada.
O termo descreve uma forma de organizar decisões e responsabilidades. Ele identifica quem pode decidir sobre IA, o alcance dessas decisões, como elas produzem efeito e como são revisadas pela organização. Seu escopo inclui o modelo e o contexto em que pessoas ou software o utilizam.
Por que importa
Uma aprovação precisa continuar compreensível fora da reunião em que foi concedida. As equipes precisam conhecer suas condições, quem pode alterá-las e o que acontece quando o uso muda. A governança explicita essas responsabilidades para que “IA aprovada” represente uma decisão com escopo definido.
O NIST AI RMF Playbook, GOVERN 1.2 recomenda conectar a governança de IA à governança organizacional, aos controles de risco e às políticas de dados existentes. As decisões sobre IA precisam, portanto, fazer parte dos processos da organização, inclusive daqueles relativos a sistemas adquiridos de terceiros.
Como funciona
A governança começa por uma decisão com responsável, finalidade e limites. Uma revisão estabelece as condições para um uso específico, como os dados e acessos permitidos, e identifica quem pode aprovar uma exceção. O rigor da análise deve refletir os riscos daquele uso.
Procedimentos e controles técnicos colocam essas condições em prática. Uma condição que exige revisão de uma saída precisa de um processo de revisão; uma restrição de acesso precisa de um limite efetivo nas permissões. Documentar uma condição e implementá-la são responsabilidades distintas, mesmo quando a mesma equipe cuida de ambas.
As evidências ajudam a verificar se a decisão continua adequada e se suas condições foram respeitadas. Elas podem incluir registros de avaliação, aprovações, atividades relevantes e achados. A falta de evidência continua sendo uma lacuna a investigar. A governança também precisa permitir a revisão ou revogação de uma decisão quando mudam o uso, os riscos ou as evidências disponíveis.
O que o termo não significa
Um documento de política expressa regras. A aprovação de um modelo registra uma decisão sobre sua adequação. Uma ferramenta de software pode apoiar controles ou registros específicos. Cada um desses elementos pode fazer parte da governança de IA, mas nenhum representa o conjunto inteiro. Comprar uma ferramenta não atribui responsabilidades nem determina quais usos a organização deve aceitar.
Conceitos relacionados
- A governança de agentes de IA trata da autoridade delegada aos agentes: seus acessos, ferramentas e ações, com as aprovações e evidências aplicáveis.
- Shadow AI descreve o uso de IA fora da aprovação ou gestão da organização, o que exige examinar o alcance do programa de governança.
O pilar de governança de IA explica como essas decisões se conectam nos fluxos corporativos, da adequação do modelo às permissões usadas na execução.