← BlogENTERPRISE AI GOVERNANCE

Aprovar o modelo não aprova seus plugins

O modelo aprovado é apenas uma parte da operação. A supervisão executiva também precisa delimitar o software, as permissões e as mudanças ao seu redor.

● KonaSense · 03 DE NOV. DE 2026 · 5 min
Um mecanismo de modelo aprovado fica separado de módulos de plugins pendentes de revisão individual, enquanto um deles é inspecionado.

A aprovação de IA fica incompleta quando identifica o modelo, mas deixa de examinar o software ao redor dele. A empresa está autorizando um ambiente de trabalho, com pessoas, integrações e acesso a recursos corporativos. O registro da decisão deve descrevê-lo com clareza suficiente para reconhecer quando ele muda.

Em 30 de outubro de 2026, o CERT-EU publicou um experimento isolado com cópias locais modificadas de extensões legítimas de terceiros para agentes. O código inserido coletava informações sem depender do modelo. Os pesquisadores não alteraram nem distribuíram versões públicas; o relato descreve um experimento controlado com cópias locais.

Para um comitê executivo, a resposta útil é examinar o alcance da própria autorização. A aprovação cobre o serviço contratado, o aplicativo instalado pelos funcionários ou a configuração completa usada no trabalho? Essas respostas podem descrever coisas diferentes.

Defina exatamente o que foi aprovado

Imagine uma equipe de engenharia autorizada a usar um serviço de IA em uma tarefa de desenvolvimento delimitada. Depois, um desenvolvedor acrescenta um plugin conveniente e conecta outro sistema interno. A tarefa de negócio parece a mesma, mas a configuração mudou. O processo precisa reconhecer isso antes que “IA aprovada” vire um rótulo para um ambiente que ninguém avaliou.

Um registro útil deve identificar o aplicativo, o conjunto de extensões permitido, a configuração relevante, a finalidade de negócio e o responsável. Também deve separar mudanças já autorizadas daquelas que exigem revisão. O objetivo é permitir que a decisão seja reproduzida, em vez de manter uma lista de marcas aberta a interpretações.

Essa é uma questão organizacional e de segurança. Uma equipe não consegue cumprir uma configuração que não sabe identificar. Um auditor não consegue reconstruir a decisão original a partir apenas do nome de um fornecedor.

Distribua a responsabilidade pelo que fica entre os contratos

Compras pode cuidar do contrato do modelo, enquanto engenharia escolhe o aplicativo do agente e cada equipe seleciona suas extensões. Essa divisão exige uma passagem explícita de responsabilidade. Quem aceita um novo plugin na configuração aprovada? Quem pode reverter a decisão? Quem recebe o aviso quando o fornecedor muda de controle ou a integração muda de comportamento?

Uma alternativa é atribuir a configuração aprovada a um responsável de plataforma e o uso a um responsável de negócio. Segurança define critérios de aceite e analisa exceções relevantes. Nem a assinatura de um contrato nem uma instalação bem-sucedida deveriam se transformar silenciosamente na decisão final de segurança.

Em equipes pequenas, essas funções podem ficar com a mesma pessoa. A distinção continua necessária: aprovar uma compra e aceitar a ampliação do acesso a recursos da empresa são decisões diferentes. Registre ambas quando o contexto exigir.

Pergunte qual fronteira cada controle protege

O resultado do CERT-EU evidencia um limite específico: controlar tool calls geradas pelo modelo pode não interceptar código de plugin que age de forma independente. Essa distinção precisa estar explícita na avaliação de segurança de agentes de IA.

Para cada risco relevante, peça à equipe técnica que indique o ponto em que o controle atua, a ação que consegue afetar e a evidência de seu funcionamento. “Inspecionamos ações dos agentes” precisa de uma explicação mais precisa antes de sustentar uma decisão sobre todo o software daquele ambiente.

O exercício não exige explorar uma vulnerabilidade. Uma operação de teste inofensiva fora do caminho inspecionado pode mostrar onde termina um controle e começa outra responsabilidade. Peça que a avaliação identifique essa fronteira, sem interpretar o silêncio de um dashboard como prova de ausência de atividade em todo o ambiente.

Aprove um processo de mudança

Uma revisão inicial perde valor se ninguém sabe quando atualizá-la. Defina os eventos que reabrem a decisão: acrescentar uma integração, mudar sua finalidade, passar a um projeto mais sensível ou usar uma conta de operação diferente. A análise deve acompanhar a exposição alterada, sem repetir automaticamente todo o processo de compras.

Antes de incluir uma extensão na configuração aprovada, registre sua origem, versão, permissões adicionais e sistemas que ela alcançaria. Defina quem pode autorizar a inclusão e quem pode retirá-la. Uma atualização que amplia o acesso precisa aparecer no histórico da configuração, mesmo que a finalidade anunciada permaneça igual.

Teste também a parte administrativa. A organização consegue identificar as equipes que usam aquela configuração e comunicar a elas uma decisão de retirada? Uma análise técnica bem-feita tem valor limitado se seu resultado não chega a quem executa o trabalho.

Compare a configuração aprovada com o que está em execução

A entrega é um inventário que permita comparar a aprovação com um ambiente instalado: aplicativo do agente e versão, extensões e suas origens, conta de operação, permissões e sistemas conectados. Identifique separadamente as inclusões ainda não avaliadas, para que sua presença no inventário não seja confundida com aprovação.

A equipe técnica pode então executar um teste inofensivo desse limite em ambiente isolado. Por exemplo, uma extensão de teste autorizada grava um marcador fixo e não sensível em um arquivo temporário, a partir do próprio handler de evento, sem pedir ao modelo que gere uma tool call. Compare a operação de arquivo registrada no teste com o que o controle do agente informa. Não são necessárias credenciais ou documentos reais da empresa.

Registre se a operação foi observada, impedida ou ficou fora da cobertura daquele controle. Identifique o controle separado responsável por esse caminho e qualquer lacuna restante. O exercício testa um caminho; não comprova que toda extensão seja segura. Ele oferece à liderança uma resposta específica sobre o alcance da configuração aprovada e de seus controles.

Get in touch

Let's secure your AI
before your next board meeting.