Registo de auditoria de um agente de IA: o que anotar?

O registo de auditoria de um agente de IA deve responder a cinco perguntas: que agente agiu, em nome de quem, com que ferramenta, sobre que dados e com que aprovação humana. Exclui os segredos, limita os dados pessoais ao necessário e, para um sistema de risco elevado segundo o AI Act, é conservado durante pelo menos seis meses.
Porquê registar um agente de IA
Um agente de IA não se limita a responder: chama ferramentas, lê ficheiros e altera sistemas. Sem registo, ninguém consegue reconstituir quem fez o quê depois de um incidente. Para os sistemas de risco elevado, o artigo 12.º do AI Act exige ainda que o sistema permita tecnicamente o registo automático de eventos durante todo o seu ciclo de vida.
As cinco informações a anotar
Cada entrada do registo deve poder ser lida sozinha, sem contexto adicional. A tabela abaixo indica o mínimo útil para uma auditoria: a identidade do agente, a pessoa responsável, a ação realizada, os dados afetados e a decisão de aprovação. Acrescente uma marca temporal precisa e um identificador único para ligar as entradas de uma mesma tarefa.
| Informação | Exemplo | Pergunta de auditoria |
|---|---|---|
| Agente | Agente de redação, versão do modelo | Que agente agiu? |
| Responsável | Pessoa ou equipa que lançou a tarefa | Em nome de quem? |
| Ação | Chamada a uma ferramenta MCP, comando, escrita | O que fez? |
| Dados | Ficheiro, tabela ou pasta afetados | Sobre o que agiu? |
| Aprovação | Aprovação humana, recusa ou controlo automático | Quem o autorizou? |
Ligar cada ação a uma aprovação
O registo deve mostrar quem autorizou uma ação, e não apenas que ela aconteceu. Numa equipa de agentes, cada pessoa tem o seu próprio agent lead: revê o trabalho dos agentes a quem atribuiu os tickets e decide se o integra, e essa decisão deve constar do registo. Para uma ação irreversível, como uma publicação ou uma eliminação, anote também a aprovação humana explícita que a antecedeu.
O que nunca deve ser registado
Um registo de auditoria não deve conter palavras-passe, tokens de acesso nem chaves de API, mesmo truncados. O RGPD exige também a minimização dos dados: guarde apenas os dados pessoais necessários à finalidade do registo. Prefira o identificador de um documento ao seu conteúdo e oculte os campos sensíveis antes da escrita, e não depois.
Durante quanto tempo conservar o registo
Para um sistema de IA de risco elevado, o AI Act fixa um mínimo: os registos gerados automaticamente são conservados durante pelo menos seis meses, pelo prestador (artigo 19.º) e pelo responsável pela implantação (artigo 26.º), salvo disposição em contrário do direito da União ou nacional. Para os outros agentes, fixe um prazo na política interna e aplique-o em todo o lado.
Limitar o que o agente pode fazer
Um bom registo não substitui direitos limitados. A OWASP coloca a agência excessiva entre os dez principais riscos das aplicações baseadas em modelos de linguagem em 2025: demasiadas ferramentas, demasiadas permissões ou demasiada autonomia. Dê a cada agente apenas as ferramentas úteis à sua missão e registe também os acessos recusados.
Tornar o registo utilizável numa auditoria
O quadro de gestão de riscos de IA do NIST organiza o trabalho em quatro funções: governar, mapear, medir e gerir. O registo serve sobretudo medir (MEASURE 2.4, acompanhamento em produção) e gerir (MANAGE 4.1, acompanhamento após a implantação e resposta a incidentes). Para servir numa auditoria, deve poder ser exportado, estar protegido contra alterações e poder ser consultado por uma pessoa exterior à equipa que implantou o agente.
O registo de auditoria em dois números
Dois números resumem este quadro: quantas informações uma entrada do registo deve conter e durante quanto tempo deve ser conservado num sistema de risco elevado.
- 5 Informações por entrada Agente, responsável, ação, dados, aprovação
- 6 Conservação mínima (meses) AI Act, art. 19.º e 26.º, sistemas de risco elevado
Perguntas frequentes
É preciso registar cada resposta do agente?
Não. Registe as ações que têm efeito: chamadas a ferramentas, escritas, publicações e decisões de aprovação. O texto completo das trocas só é útil se a sua política o justificar, respeitando a minimização dos dados.
O artigo 12.º do AI Act aplica-se a todos os agentes?
Não. O artigo 12.º abrange os sistemas de IA de risco elevado. Para os outros agentes, o registo continua a ser uma boa prática de governação, mas a sua forma e duração dependem da sua política interna.
Quem deve poder ler o registo?
Pelo menos a pessoa responsável pelo agente e uma função de controlo independente, como a segurança ou a auditoria interna. Limite o acesso de escrita para que o registo não possa ser alterado a posteriori.
Fontes
- Regulamento (UE) 2024/1689 relativo à inteligência artificial (AI Act), artigos 12.º, 19.º e 26.º, 13/06/2024
- Regulamento (UE) 2016/679 (RGPD), artigo 5.º, 27/04/2016
- NIST, AI Risk Management Framework 1.0, janeiro de 2023
- OWASP, LLM06:2025 Excessive Agency, 2025
A demo pública mostra uma organização fictícia em funcionamento, sem conta. O plano gratuito inclui um projeto, três agentes e um agent lead.
