7 controlos de agentes IA: responsável e prova por controlo

Um enquadramento no papel não prova nada no dia em que uma revisão de incidente pergunta quem aprovou o acesso em produção de um agente IA e onde está o registo. Esta lista de controlo associa sete controlos a um responsável específico, uma prova específica a conservar, e uma subcategoria do NIST AI RMF, apoiando-se no próprio enquadramento de governação em seis etapas da Atipol em vez de o repetir.
Ter um enquadramento não é o mesmo que provar que funciona
Quando um DSI diz a uma comissão executiva que os agentes IA estão sob controlo, isso normalmente significa duas coisas distintas ao mesmo tempo: existe um enquadramento no papel, e ninguém consegue apresentar o registo que prove que foi seguido para o agente que acabou de entrar em produção na semana passada. A pergunta mais difícil, e mais frequente, não é que controlos um enquadramento enumera, mas quem é responsável por cada um no dia a dia e que prova um auditor, um regulador ou uma revisão de incidente consegue realmente apresentar.
Esta lacuna importa mais à medida que os agentes passam de um piloto usado por poucas pessoas para um sistema que toca em dados de clientes, relatórios financeiros ou código em produção. Um enquadramento que só existe num documento de política responde à primeira pergunta, a da exaustividade. Não responde à segunda, a da prova, que é a que é realmente posta à prova na semana em que algo corre mal e alguém pergunta quem aprovou e onde está o registo.
Essa lacuna também complica uma pergunta que os conselhos de administração colocam de forma cada vez mais direta a cada trimestre: se a organização consegue mostrar, agente a agente, que o acesso em produção foi merecido e não concedido por defeito. Um enquadramento só responde a isso de forma agregada; a prova descrita abaixo é o que responde agente a agente, que é o nível em que uma revisão de incidente ou um regulador coloca realmente a pergunta.
Um enquadramento descreve o que deveria acontecer em geral; a prova demonstra que aconteceu para um agente nomeado, um responsável nomeado e uma prova datada. Uma auditoria, um regulador ou uma revisão de incidente testam o segundo, não o primeiro.
Apoiar-se em seis etapas, não as reescrever
Um enquadramento em seis etapas (inventário, descrição de função e perímetro, direitos e ferramentas, tickets com critérios escritos, revisão humana antes da fusão, e medição de custos com registo de auditoria) já está descrito em atipol.ai/agentic-ai-blog/ai-agent-governance, juntamente com a tabela RACI e o modelo de política de utilização que o acompanham. Repetir esse enquadramento aqui não acrescentaria nada que um DSI já não tenha. O que se segue associa, em vez disso, cada uma dessas etapas, mais uma adicional, a um responsável específico e a uma prova específica, usando a função Govern do NIST AI Risk Management Framework como vocabulário para aquilo que reguladores e auditores já esperam que essa prova pareça.
Sete controlos, sete responsáveis, sete provas
Cada linha abaixo assume que o controlo subjacente já existe, descrito no guia de governação ligado acima, e coloca a pergunta seguinte: quem é responsável pelo seu funcionamento, e o que entrega quando lhe é pedido que o prove.
| Controlo | Responsável | Prova conservada |
|---|---|---|
| Inventário de agentes ativos | Quem mantém o catálogo (segundo NIST Govern 1.6) | Uma lista datada que indica cada agente, o seu agent lead e o seu projeto |
| Descrição de função e perímetro de ficheiros | O agent lead que declarou o agente | O perímetro escrito e as ações proibidas, revistos antes da primeira execução |
| Permissões de ferramentas por função | O administrador que definiu o modo do catálogo | Uma lista de permissões exportada, permitido, aprovação ou negado, por ferramenta |
| Aprovação antes de ações sensíveis ou irreversíveis | O aprovador designado no momento da chamada | Uma entrada de registo que liga a chamada, o aprovador e a decisão |
| Revisão antes da fusão, por alguém diferente do solicitante | Um revisor distinto da pessoa que abriu o ticket | O diff revisto e a decisão de fusão, não apenas o resumo do agente |
| Risco e impacto documentados por agente (NIST Govern 4.2) | A equipa que concebeu ou implementou esse agente | Uma breve nota de risco conservada junto da descrição de função |
| Plano de contingência para um modelo de terceiros ou um servidor MCP (NIST Govern 6.1/6.2) | Quem é responsável pela dependência desse fornecedor | Uma alternativa documentada caso o fornecedor mude, falhe ou seja descontinuado |
O que a própria função Govern do NIST espera como prova
As primeiras quatro linhas acima não são uma invenção; traduzem uma linguagem já escrita na função Govern do NIST AI Risk Management Framework. Govern 2.1 exige que « roles and responsibilities and lines of communication related to mapping, measuring, and managing AI risks are documented... and are clear to individuals and teams throughout the organization », e o próprio Playbook do enquadramento transforma isso numa pergunta de documentação que um auditor faria diretamente: « Are the responsibilities of the personnel involved in the various AI governance processes clearly defined? » O nome de um agent lead numa entrada de inventário é uma resposta concreta a essa pergunta; um documento de política que descreve os agent lead de forma abstrata não o é.
Govern 1.6 faz o mesmo para o próprio inventário, exigindo « mechanisms... in place to inventory AI systems... resourced according to organizational risk priorities », com o Playbook a perguntar « who is responsible for documenting and maintaining the AI system inventory details ». A resposta tem de ser um nome ou uma função, não uma afirmação de que um inventário existe algures.
Govern 2.3 acrescenta um nível acima do agent lead: « Executive leadership of the organization takes responsibility for decisions about risks associated with AI system development and deployment. » Lida em conjunto com as duas primeiras subcategorias, a cadeia que um auditor realmente verifica parte de um agente declarado, passa por um agent lead nomeado, e chega a um executivo que aceitou o risco de o desenvolver e implementar, e não de um documento de enquadramento para uma suposição de que alguém, algures, é responsável.
Lidas em conjunto, as três subcategorias acima descrevem uma cadeia de responsabilidade:
As ações sugeridas pelo Playbook para estas mesmas subcategorias estão escritas da mesma forma, como políticas que uma organização adota em vez de objetivos abstratos: para Govern 2.1, « Establish policies that promote regular communication among AI actors participating in AI risk management efforts » ; para Govern 1.6, « Establish policies that define a specific individual or team that is responsible for maintaining the inventory. » Ambas remetem para a mesma prova: uma pessoa ou equipa nomeada por escrito numa política, em vez de um esquema de funções que ninguém é obrigado a manter atualizado.
Nenhuma destas quatro subcategorias exige novas ferramentas para ser satisfeita; exigem que a entrada de inventário, a descrição de função e a aprovação do executivo existam como registos nomeados e datados, em vez de um entendimento partilhado dentro da equipa que construiu o primeiro agente. A linguagem do NIST acima é o vocabulário que um revisor externo provavelmente já usará, o que é uma razão para produzir a prova nesses termos em vez de inventar outro diferente.
Documentar o risco e o impacto por agente, não apenas por projeto
Govern 4.2 pede às equipas da organização que « document the risks and potential impacts of the AI technology they design, develop, deploy, evaluate », o que na prática é uma breve nota anexada à descrição de função de cada agente, e não uma única avaliação de risco a cobrir toda uma plataforma. O Playbook do NIST descreve isto como algo que pode « be applied at the beginning of a process but also iteratively and regularly since goals and outcomes can evolve over time », e que pode « assist in 'go/no-go' decisions for an AI system », o que é a versão operacional da sexta linha da tabela acima: uma nota de risco que uma equipa atualiza, e não um documento escrito uma vez e arquivado.
Govern 6.1 e 6.2 alargam a mesma lógica àquilo de que um agente depende fora da organização: « policies and procedures... that address AI risks associated with third-party entities », e « contingency processes are in place to handle failures or incidents in third-party data or AI systems deemed to be high-risk ». Esta segunda exigência está explicitamente limitada a dependências consideradas de alto risco, não a qualquer ligação a terceiros; para um agente construído sobre um modelo ou um servidor MCP que a organização trata dessa forma, o plano de contingência, ou seja, o que acontece se o fornecedor mudar as condições, descontinuar um endpoint ou sofrer uma interrupção, é o sétimo controlo, e o que mais frequentemente falta porque está fora da equipa que construiu o agente.
Nem Govern 4.2 nem Govern 6.1/6.2 especificam um modelo para esta nota ou este plano, o que é deliberado: uma nota de risco para um agente de suporte interno e outra para um agente que toca em relatórios financeiros não serão iguais, e um plano de contingência deve nomear o fornecedor real e a alternativa real, não uma afirmação genérica de que existe algures num documento de resposta a incidentes.
O revisor na sua prova não pode ser o solicitante
A prova da quinta linha só vale tanto quanto quem nela é nomeado. A própria documentação do GitHub sobre a revisão de um pull request criado pelo seu agente de codificação Copilot torna explícita a mesma exigência para um fluxo de trabalho comparável: uma aprovação da pessoa que atribuiu o trabalho não conta para as revisões exigidas de um repositório, e um revisor diferente tem de aprovar a alteração antes da fusão. A prova que um auditor quer aqui não é um registo de hora a mostrar que uma revisão ocorreu, é a identidade do revisor verificada em relação à do solicitante, algo que um registo que apenas anota « reviewed: yes » não pode fornecer.
O mesmo se aplica à quarta linha: um registo de aprovação que não consegue distinguir o aprovador do agente, ou da pessoa que desencadeou a chamada, documenta que algo aconteceu sem documentar o controlo que devia satisfazer.
A prova tem o seu próprio ritmo de revisão
Um controlo que era verdadeiro quando o enquadramento foi lançado não é automaticamente verdadeiro seis meses depois: o perímetro de um agente pode expandir-se, um revisor pode deixar o projeto, um modelo de terceiros pode mudar as suas condições. Tratar o inventário, as notas de risco e a lista de permissões como registos vivos a rever segundo um calendário fixo, em vez de documentos produzidos uma única vez para uma revisão de lançamento, é o que mantém a prova das linhas um a sete alinhada com o que os agentes estão realmente a fazer, em vez de descrever um sistema que existia no momento da última auditoria.
É também aqui que o sexto e o sétimo controlo mais diferem dos primeiros cinco: uma entrada de inventário ou uma lista de permissões pode ser verificada em relação ao próprio sistema, mas uma nota de risco e um plano de contingência envelhecem silenciosamente, já que nada se quebra visivelmente quando ficam desatualizados, até ao dia em que o cenário que deviam cobrir realmente acontece.
A mesma orientação do Playbook que pergunta quem mantém o inventário também não fixa um intervalo de revisão, o que reflete o padrão observado em todas as subcategorias Govern aqui citadas: o NIST especifica a prova e a função responsável, não um calendário. Uma organização ainda tem de escolher esse ritmo por si própria, e a opção por defeito mais segura é associá-lo a eventos que já acontecem (um novo agente declarado, um revisor a deixar um projeto, um fornecedor a mudar as condições), em vez de a uma única data fixa num calendário de conformidade.
Pôr em prática o modelo de responsabilidade e prova
Nenhum destes sete controlos substitui o enquadramento, a tabela RACI ou a política de utilização já descritos em atipol.ai/agentic-ai-blog/ai-agent-governance; indicam quem é responsável por cada um e o que manter à mão quando alguém pede uma prova. O modelo de permissões subjacente, o registo de aprovações e a prática de revisão de servidores MCP que produzem grande parte desta prova são abordados em atipol.ai/agentic-ai-blog/mcp-security, e a visita guiada à aplicação de tudo isto a uma equipa inteira de agentes está em atipol.ai/security.
Perguntas frequentes
Qual é a diferença entre um enquadramento de governação de agentes IA e os controlos aqui descritos?
O enquadramento (inventário, perímetro, direitos sobre ferramentas, critérios dos tickets, revisão antes da fusão e acompanhamento de custos) já existe e está descrito em atipol.ai/agentic-ai-blog/ai-agent-governance. Esta lista de controlo acrescenta um responsável e uma prova específica a cada uma dessas etapas, mais um sétimo controlo para dependências de terceiros, para que um DSI possa demonstrar que o enquadramento está realmente a ser seguido.
Que subcategorias do NIST AI RMF se aplicam ao controlo de agentes IA em empresa?
Govern 2.1 cobre as funções e responsabilidades documentadas, Govern 1.6 cobre a manutenção de um inventário de sistemas IA com um responsável nomeado, Govern 2.3 cobre a responsabilidade executiva pelas decisões sobre o desenvolvimento e a implementação de sistemas IA, Govern 4.2 cobre a documentação de riscos e impactos por sistema, e Govern 6.1 e 6.2 cobrem as políticas e planos de contingência para dependências de IA de terceiros consideradas de alto risco.
Quem deve ser responsável pelo inventário dos agentes IA ativos numa organização?
O Playbook do NIST AI RMF apresenta isto como uma pessoa ou equipa nomeada responsável pela manutenção dos detalhes do inventário, e não como uma suposição de que existe algures. No modelo da Atipol, isso corresponde ao agent lead declarado de cada agente ao nível da entrada, e a um administrador ou ao proprietário da organização ao nível do catálogo.
Fontes
- NIST, AI Risk Management Framework 1.0, Govern Core, consultado em 11/11/2026
- NIST, AI Risk Management Framework 1.0 Playbook, Govern, consultado em 11/11/2026
- GitHub Docs, Reviewing a pull request created by Copilot, consultado em 11/11/2026
A demo pública mostra uma organização fictícia em funcionamento, sem conta. O plano gratuito inclui um projeto, três agentes e um agent lead.
