Governança

Onde colocar a aprovação humana em agentes de IA

· fundador da ETCSEC · atualizado a 17 de novembro de 2026 · 10 min
Ilustração de um robô que faz uma pausa em um ponto de revisão antes de uma ação bloqueada.
A resposta curta

Coloque o portão de aprovação humana apenas nas ações de alto impacto de um agente de IA, aplicado fora do próprio agente, nunca dentro de um prompt que ele controla. Antes de decidir quem aprova o que resta, reduza primeiro o que o agente pode fazer, e depois registre quem autorizou cada ação aprovada, sobretudo as que não podem ser desfeitas.

Aprovar tudo torna os agentes inúteis; não aprovar nada é um risco

Um CTO que implanta agentes de IA costuma cair em um de dois modos de falha. Exigir aprovação para cada ação e os agentes deixam de economizar tempo, pois alguém ainda precisa clicar manualmente em cada etapa. Não exigir nenhuma aprovação e uma única chamada de ferramenta errada, um arquivo apagado por engano, uma mensagem enviada ao cliente errado, um merge que pula a revisão, vira um problema que o agente precisa explicar depois dos fatos, não antes. Nenhum dos dois extremos é uma política; ambos são uma admissão de que ninguém decidiu onde o portão deveria ficar.

O GenAI Security Project da OWASP chama o problema subjacente de Excessive Agency: ações prejudiciais realizadas em resposta a uma saída de modelo inesperada, ambígua ou manipulada, enraizadas em funcionalidade excessiva, permissões excessivas, ou autonomia excessiva concedida ao agente. A correção que a OWASP descreve não é uma tela de aprovação genérica na frente de cada ação; é reduzir primeiro o que pode dar errado, e só então travar o que resta.

Os dois modos de falha descritos acima não são hipotéticos para agentes conectados via MCP, o protocolo que a maioria dessas ferramentas usa para alcançar sistemas reais. A mesma pergunta de aprovação, essa chamada específica deve esperar por uma pessoa, surge para cada ferramenta que um agente pode alcançar, não apenas para o resultado final do agente, o que explica por que a resposta precisa ser uma regra aplicada ferramenta por ferramenta, em vez de uma decisão tomada uma única vez quando o agente foi implantado pela primeira vez.

Reduzir o que precisa de aprovação antes de decidir quem aprova

A OWASP lista minimizar extensões, minimizar a funcionalidade das extensões, evitar extensões abertas como uma ferramenta geral de execução de shell, minimizar as permissões de extensão até o que o sistema a jusante realmente precisa, como acesso somente leitura a um banco de dados, e executar cada extensão no contexto próprio do usuário específico com privilégios mínimos, como primeiras linhas de defesa contra a Excessive Agency. Nenhuma dessas medidas envolve um humano clicando em aprovar; elas removem a ação, a permissão, ou o raio de dano antes mesmo de a questão da aprovação se colocar.

Uma ferramenta que um agente não pode chamar não precisa de portão de aprovação, e uma conexão de banco de dados somente leitura não pode ser aquela que apaga uma tabela, não importa o que uma tela de aprovação decida. A Atipol aplica a mesma ordem dentro do seu próprio modelo de permissões: um subagente nunca tem mais permissões do que o agente que delegou a ele, então restringir o que o agente de nível superior pode fazer restringe também cada subagente abaixo dele.

Traduzido para a configuração real de um agente, isso significa que um agente usado no fluxo de tickets já descrito neste blog recebe um limite de escopo de arquivos e nada parecido com uma ferramenta de shell de propósito geral, que um agente que redige respostas de clientes recebe uma função de envio limitada a rascunhos em vez de entrega direta, e que um agente que toca um banco de dados recebe exatamente as colunas e os direitos de leitura ou escrita que a tarefa especifica, nada mais amplo concedido por conveniência.

Colocar o portão nas ações de alto impacto, aplicado fora do agente

Uma vez removidas a funcionalidade, as permissões e a autonomia desnecessárias, a sexta mitigação da OWASP trata do que resta: «Utilise human-in-the-loop control to require a human to approve high-impact actions before they are taken.» A orientação acrescenta que esse controle pode ficar a jusante da chamada da extensão ou dentro da própria extensão, e o combina com uma sétima mitigação, mediação completa: aplicar a autorização no sistema a jusante toda vez, em vez de confiar no próprio julgamento do modelo sobre se uma ação é permitida.

Esse segundo ponto importa operacionalmente. Um aviso de aprovação que o próprio agente decide se exibe ou não não é um portão, já que um agente manipulado ou simplesmente equivocado pode pular o aviso da mesma forma que pularia qualquer outra instrução. A decisão de exigir aprovação, e a aplicação dessa exigência, precisa existir em um sistema que o agente não controla.

A OWASP também lista duas medidas que limitam o dano sem impedir a Excessive Agency em primeiro lugar: registrar e monitorar a atividade das extensões, e limitar a taxa de ações indesejáveis. Ambas importam, mas nenhuma substitui o próprio portão de aprovação; uma exclusão não autorizada bem registrada continua sendo uma exclusão, e um limite de taxa desacelera o dano repetido sem impedir a primeira ocorrência.

Onde as equipes realmente colocam o portão

Os casos de uso da Atipol mostram onde diferentes equipes colocam esse portão, ação por ação, em vez de equipe por equipe.

O que o portão protege difere conforme o domínio, um relacionamento com o cliente, um incidente ativo, uma base de código, um demonstrativo financeiro, mas a forma do portão é a mesma em cada linha: uma pessoa, diferente de quem disparou a ação, decide antes de ela surtir efeito, sem revisá-la depois.

DomínioAção sujeita a aprovaçãoQuem decideEscopo da aprovação
Suporte ao clienteEnviar uma resposta a um clienteA pessoa que aprova o envioEssa mensagem específica, uma vez
Operações de segurançaConter um incidenteO analistaEssa chamada específica, uma vez
Desenvolvimento de softwareFazer merge de uma pull requestUm revisor diferente de quem pediuEssa chamada específica, antes do merge
ObservabilidadeAbrir um incidente de monitoramentoO aprovadorEssa chamada específica
Publicação de conteúdoPublicar no CMSA pessoa que aprova via MCPEncaminhado pela aprovação do MCP
Relatórios financeirosValidar um relatórioO CEO ou o CFOEsse relatório específico

Uma chamada, uma decisão, nunca um sim geral

Um portão que permanece aberto após a primeira aprovação não é um portão. A Atipol aplica a regra como um limite de escopo: a aprovação humana é concedida para uma chamada específica, uma vez, e cada ferramenta carrega um de três estados de permissão, permitido, sujeito à aprovação de uma pessoa, ou negado, definido ferramenta por ferramenta. Quando uma ferramenta é configurada para exigir aprovação, a chamada espera a decisão de uma pessoa; se for negada, a chamada é recusada e registrada em vez de tentada novamente em silêncio.

O mesmo modelo só se torna mais rígido em escopo maior, nunca mais frouxo: um espaço de trabalho pode passar de aberto, para somente catálogo, para aprovação obrigatória, mas uma regra no nível do espaço de trabalho não pode ser relaxada pela configuração de um agente individual. Uma solicitação fora do catálogo aprovado é decidida e registrada por um administrador, o que mantém a exceção visível em vez de deixá-la se tornar um padrão silencioso.

Esses três estados se aplicam da mesma forma, não importa qual equipe configurou o agente: a função de envio de um agente de suporte, a ação de contenção de um agente de SOC, e o envio de relatório de um agente financeiro carregam cada um sua própria configuração de permitido, aprovação, ou negado, em vez de uma única configuração de aprovação aplicada a todo o agente. Mudar o estado de uma única ferramenta não afeta nenhuma outra ferramenta que o mesmo agente possa chamar.

O revisor nunca é quem pediu, nem o próprio agente

A mesma separação que se aplica à revisão de um ticket se aplica diretamente aos portões de aprovação: a pessoa que pediu o trabalho não deveria ser quem o aprova. A Atipol aplica a regra sem exceção em nenhum dos dois lados do pedido: nenhum agente, humano ou artificial, aprova sua própria entrega, e o humano mantém a decisão final sobre cada aprovação.

Na prática, isso significa que um agente não pode gerar um relatório e também validá-lo, e que um desenvolvedor que atribuiu um ticket a um agente não pode ser o revisor exigido que aprova a mudança resultante, a mesma restrição documentada para as pull requests do próprio agente de código do GitHub. Os perfis de ferramentas baseados em papéis vão além: cada papel recebe sua própria lista de ferramentas permitidas, com aprovação humana explícita exigida antes de qualquer ação sensível ou irreversível, em vez de um único aprovador geral para toda a equipe.

A mesma regra também alcança os subagentes. Como um subagente nunca tem mais permissões do que o agente que delegou a ele, uma exigência de aprovação colocada sobre uma ação sensível do agente de nível superior não pode ser contornada fazendo um subagente executar a mesma ação sob uma descrição de tarefa mais restrita; o teto de permissões, e o portão de aprovação que o acompanha, viajam por toda a cadeia de delegação.

Uma aprovação sem registro não é supervisão

Uma aprovação que não fica registrada por escrito é indistinguível, seis meses depois, da ausência total de aprovação. O log de auditoria da Atipol é específico sobre o que mostra: quem autorizou uma ação, não apenas que ela aconteceu, e para uma ação irreversível como publicar ou excluir, a aprovação humana explícita que a precedeu, registrada junto com a própria ação.

Os reguladores estão se movendo na mesma direção para sistemas que classificam como de alto risco. A própria descrição da Comissão Europeia sobre o AI Act, atualizada pela última vez em 19 de outubro de 2026, lista medidas apropriadas de supervisão humana entre as obrigações que se aplicam a sistemas de IA de alto risco, e afirma que, assim que tal sistema chega ao mercado, os implantadores devem garantir supervisão e monitoramento humanos durante todo o seu uso, não apenas no momento da implantação.

O NIST AI Risk Management Framework (AI RMF 1.0, publicado em 26 de janeiro de 2023) trata isso em um nível mais amplo: destina-se a ajudar as organizações a incorporar considerações de confiabilidade no design, no desenvolvimento, no uso e na avaliação de sistemas de IA, o que inclui quem pode aprovar o que um agente faz, não apenas o que o agente produz.

Incorporar isso em uma equipe

Nada disso exige decidir, ação por ação, do zero. Comece removendo a funcionalidade, as permissões e a autonomia que o agente não precisa, seguindo as primeiras mitigações da OWASP; configure as ferramentas restantes em um de três estados, permitido, aprovação, ou negado; nomeie um revisor para cada portão que nunca seja quem pediu nem o agente; e registre quem aprovou o quê, com ações irreversíveis carregando sua aprovação junto a elas no registro.

As quatro etapas acima se resumem a uma única sequência repetível:

Reduzir oescopoBloquearchamadas dealto impactoRevisorindependenteRegistrar quemaprovouReduzir o escopoBloquear chamadas de alto impactoRevisor independenteRegistrar quem aprovou

Um teste útil para saber se o portão está no lugar certo: remova a etapa de aprovação e pergunte como seria o pior resultado possível. Se a resposta for alguns minutos de retrabalho, a ação provavelmente nunca teve impacto suficiente para precisar de um humano. Se a resposta for um relatório errado validado, uma tabela de banco de dados perdida, ou uma mensagem que um cliente nunca deveria ter recebido, o portão pertence exatamente onde a OWASP e a Atipol o colocam: antes da ação, aplicado fora do agente, e registrado depois.

As práticas de segurança por trás desse modelo, incluindo listas de ferramentas permitidas por agente, segredos mantidos fora dos prompts, e a revisão de um servidor MCP antes de conectá-lo, estão detalhadas em atipol.ai/agentic-ai-blog/mcp-security. O framework de governança sobre papéis, a política de uso, e onde a revisão precisa ficar antes de um merge é coberto em atipol.ai/agentic-ai-blog/ai-agent-governance.

Para ver esses estados de permissão, esses portões de aprovação, e o log de auditoria aplicados em toda uma equipe de agentes, a seção de segurança do produto em atipol.ai/security percorre como configurar uma ferramenta como permitida, aprovação, ou negada, e o que é registrado quando uma pessoa aprova ou nega uma chamada.

Perguntas frequentes

Quais ações de um agente de IA precisam de aprovação humana e quais não?

A orientação da OWASP sobre Excessive Agency aponta para ações de alto impacto, aquelas em que uma chamada errada é cara ou difícil de reverter, como publicar, excluir, fazer merge, ou enviar algo a um cliente. Ações de menor impacto são mais bem tratadas reduzindo a funcionalidade, as permissões e a autonomia do agente para que existam menos delas desde o início, em vez de aprovar cada uma.

O agente ou a pessoa que solicitou a ação podem aprová-la eles mesmos?

Não. A Atipol aplica a regra de que nenhum agente, humano ou artificial, aprova sua própria entrega, e que a pessoa que pediu o trabalho não deveria ser quem o aprova, a mesma regra de revisão independente documentada para as pull requests do agente de código Copilot do GitHub.

O que deve ser registrado quando um humano aprova ou nega a ação de um agente?

O registro deve mostrar quem autorizou a ação, não apenas que ela aconteceu, e para uma ação irreversível como publicar ou excluir, a aprovação explícita que a precedeu, registrada junto com a ação na trilha de auditoria.

Fontes

Experimente num projeto real

A demo pública mostra uma organização fictícia em funcionamento, sem conta. O plano gratuito inclui um projeto, três agentes e um agent lead.