7 controles de agentes IA: responsable y prueba de cada uno

Un marco escrito en papel no prueba nada el día en que una revisión de incidente pregunta quién aprobó el acceso en producción de un agente IA y dónde está la prueba. Esta lista de control asocia siete controles a un responsable concreto, una prueba concreta que conservar, y una subcategoría del NIST AI RMF, apoyándose en el marco de gobernanza en seis pasos de Atipol en lugar de repetirlo.
Tener un marco no es lo mismo que demostrar que funciona
Cuando un DSI le dice a un comité ejecutivo que los agentes IA están bajo control, eso normalmente significa dos cosas distintas a la vez: existe un marco en el papel, y nadie puede presentar el registro que demuestre que se siguió para el agente que acaba de pasar a producción la semana pasada. La pregunta más difícil, y más frecuente, no es qué controles enumera un marco, sino quién es responsable de cada uno día a día y qué prueba puede presentar realmente un auditor, un regulador o una revisión de incidente.
Esta brecha importa más a medida que los agentes pasan de un piloto usado por pocas personas a un sistema que toca datos de clientes, informes financieros o código en producción. Un marco que solo existe en un documento de política responde a la primera pregunta, la de la exhaustividad. No responde a la segunda, la de la prueba, que es la que realmente se pone a prueba la semana en que algo sale mal y alguien pregunta quién lo aprobó y dónde está el registro.
Esa brecha también complica una pregunta que los consejos de administración plantean cada vez más directamente cada trimestre: si la organización puede demostrar, agente por agente, que el acceso a producción se ganó en lugar de concederse por defecto. Un marco solo responde a eso de forma agregada; la prueba descrita a continuación es lo que responde a ello agente por agente, que es el nivel en el que una revisión de incidente o un regulador plantea realmente la pregunta.
Un marco describe lo que debería ocurrir en general; la prueba demuestra que ocurrió para un agente nombrado, un responsable nombrado y una prueba fechada. Una auditoría, un regulador o una revisión de incidente comprueban lo segundo, no lo primero.
Apoyarse en seis pasos, no reescribirlos
Un marco de gobernanza en seis pasos (inventario, descripción del puesto y alcance, derechos y herramientas, tickets con criterios escritos, revisión humana antes de fusionar, y medición de costes con registro de auditoría) ya está cubierto en atipol.ai/agentic-ai-blog/ai-agent-governance, junto con la tabla RACI y el modelo de política de uso que lo acompañan. Repetir ese marco aquí no añadiría nada que un DSI no tenga ya. Lo que sigue asocia en cambio cada uno de esos pasos, más uno adicional, a un responsable concreto y a una prueba concreta, usando la función Govern del NIST AI Risk Management Framework como vocabulario para lo que reguladores y auditores ya esperan que parezca esa prueba.
Siete controles, siete responsables, siete pruebas
Cada fila siguiente supone que el control subyacente ya existe, descrito en la guía de gobernanza enlazada arriba, y plantea la siguiente pregunta: quién es responsable de que funcione, y qué entrega cuando se le pide que lo demuestre.
| Control | Responsable | Prueba conservada |
|---|---|---|
| Inventario de agentes activos | Quien mantiene el catálogo (según NIST Govern 1.6) | Una lista fechada que nombra a cada agente, su agent lead y su proyecto |
| Descripción del puesto y alcance de archivos | El agent lead que declaró el agente | El alcance escrito y las acciones prohibidas, revisados antes de la primera ejecución |
| Permisos de herramientas por rol | El administrador que configuró el modo del catálogo | Una lista de permisos exportada, permitido, aprobación o denegado, por herramienta |
| Aprobación antes de acciones sensibles o irreversibles | El aprobador designado en el momento de la llamada | Una entrada de registro que vincula la llamada, el aprobador y la decisión |
| Revisión antes de fusionar, por alguien distinto del solicitante | Un revisor distinto de la persona que abrió el ticket | El diff revisado y la decisión de fusión, no solo el resumen del agente |
| Riesgo e impacto documentados por agente (NIST Govern 4.2) | El equipo que diseñó o despligó ese agente | Una breve nota de riesgo conservada junto a la descripción del puesto |
| Plan de contingencia para un modelo de terceros o un servidor MCP (NIST Govern 6.1/6.2) | Quien es responsable de la dependencia de ese proveedor | Un plan de repliegue documentado si el proveedor cambia, falla o queda obsoleto |
Qué espera como prueba la función Govern del NIST
Las primeras cuatro filas anteriores no son una invención; traducen un lenguaje ya escrito en la función Govern del NIST AI Risk Management Framework. Govern 2.1 exige que « roles and responsibilities and lines of communication related to mapping, measuring, and managing AI risks are documented... and are clear to individuals and teams throughout the organization », y el Playbook del marco convierte eso en una pregunta de documentación que un auditor haría directamente: « Are the responsibilities of the personnel involved in the various AI governance processes clearly defined? » El nombre de un agent lead en una entrada de inventario es una respuesta concreta a esa pregunta; un documento de política que describe a los agent lead de forma abstracta no lo es.
Govern 1.6 hace lo mismo para el propio inventario, exigiendo que « mechanisms... in place to inventory AI systems... resourced according to organizational risk priorities », y el Playbook pregunta « who is responsible for documenting and maintaining the AI system inventory details ». La respuesta debe ser un nombre o un rol, no una declaración de que un inventario existe en algún lugar.
Govern 2.3 añade un nivel por encima del agent lead: « Executive leadership of the organization takes responsibility for decisions about risks associated with AI system development and deployment. » Leída junto con las dos primeras subcategorías, la cadena que un auditor realmente verifica parte de un agente declarado, pasa por un agent lead nombrado, y llega a un directivo que aceptó el riesgo de desarrollarlo e implementarlo, y no de un documento de marco a una suposición de que alguien, en algún lugar, es responsable.
Leídas juntas, las tres subcategorías anteriores describen una cadena de responsabilidad:
Las acciones sugeridas del Playbook para estas mismas subcategorías están escritas de la misma manera, como políticas que una organización adopta en lugar de objetivos abstractos: para Govern 2.1, « Establish policies that promote regular communication among AI actors participating in AI risk management efforts » ; para Govern 1.6, « Establish policies that define a specific individual or team that is responsible for maintaining the inventory. » Ambas remiten a la misma prueba: una persona o equipo nombrado por escrito en una política, en lugar de un esquema de roles que nadie está obligado a mantener actualizado.
Ninguna de estas cuatro subcategorías requiere nuevas herramientas para cumplirse; requieren que la entrada de inventario, la descripción del puesto y la aprobación ejecutiva existan como registros nombrados y fechados, en lugar de un entendimiento compartido dentro del equipo que construyó el primer agente. El lenguaje del NIST anterior es el vocabulario que un revisor externo probablemente ya usará, lo cual es una razón para producir la prueba en esos términos en lugar de inventar otro distinto.
Documentar el riesgo y el impacto por agente, no solo por proyecto
Govern 4.2 pide a los equipos organizativos que « document the risks and potential impacts of the AI technology they design, develop, deploy, evaluate », lo que en la práctica es una breve nota adjunta a la descripción del puesto de cada agente, no una única evaluación de riesgo que cubra toda una plataforma. El Playbook del NIST presenta esto como algo que puede « be applied at the beginning of a process but also iteratively and regularly since goals and outcomes can evolve over time », y que puede « assist in 'go/no-go' decisions for an AI system », lo que es la versión operativa de la sexta fila de la tabla anterior: una nota de riesgo que un equipo actualiza, no un documento escrito una vez y archivado.
Govern 6.1 y 6.2 extienden la misma lógica a aquello de lo que depende un agente fuera de la organización: « policies and procedures... that address AI risks associated with third-party entities », y « contingency processes are in place to handle failures or incidents in third-party data or AI systems deemed to be high-risk ». Este segundo requisito está explícitamente limitado a dependencias consideradas de alto riesgo, no a cualquier conexión con terceros; para un agente construido sobre un modelo o un servidor MCP que la organización trata así, el plan de contingencia, qué ocurre si el proveedor cambia las condiciones, deprecia un endpoint o sufre una interrupción, es el séptimo control, y el que falta con más frecuencia porque queda fuera del equipo que construyó el agente.
Ni Govern 4.2 ni Govern 6.1/6.2 especifican una plantilla para esta nota o este plan, y es deliberado: una nota de riesgo para un agente de soporte interno y otra para un agente que toca informes financieros no se parecerán, y un plan de contingencia debería nombrar al proveedor real y la alternativa real, no una declaración genérica que afirme que existe en algún lugar de un documento de respuesta a incidentes.
El revisor de su prueba no puede ser el solicitante
La prueba de la quinta fila solo vale tanto como quién figura en ella. La documentación de GitHub sobre la revisión de una solicitud de extracción creada por su agente de programación Copilot hace explícito el mismo requisito para un flujo comparable: una aprobación de la persona que asignó el trabajo no cuenta para las revisiones requeridas de un repositorio, y un revisor distinto debe aprobar el cambio antes de fusionarlo. La prueba que quiere un auditor aquí no es una marca de tiempo que muestre que ocurrió una revisión, es la identidad del revisor comprobada frente a la del solicitante, algo que un registro que solo indica « reviewed: yes » no puede proporcionar.
Lo mismo se aplica a la cuarta fila: un registro de aprobación que no puede distinguir al aprobador del agente, o de la persona que activó la llamada, documenta que algo ocurrió sin documentar el control que se suponía que debía cumplir.
La prueba tiene su propio ritmo de revisión
Un control verdadero cuando se lanzó el marco no lo es automáticamente seis meses después: el alcance de un agente puede ampliarse, un revisor puede dejar el proyecto, un modelo de terceros puede cambiar sus condiciones. Tratar el inventario, las notas de riesgo y la lista de permisos como registros vivos que revisar según un calendario fijo, en lugar de documentos producidos una sola vez para una revisión de lanzamiento, es lo que mantiene la prueba de las filas uno a siete alineada con lo que los agentes realmente están haciendo, en lugar de describir un sistema que existía en el momento de la última auditoría.
Aquí es también donde el sexto y el séptimo control difieren más de los cinco primeros: una entrada de inventario o una lista de permisos se puede comprobar frente al propio sistema, pero una nota de riesgo y un plan de contingencia envejecen en silencio, ya que nada se rompe visiblemente cuando quedan obsoletos, hasta el día en que el escenario que debían cubrir realmente ocurre.
La misma indicación del Playbook que pregunta quién mantiene el inventario tampoco fija un intervalo de revisión, lo que refleja el patrón observado en cada subcategoría Govern citada aquí: el NIST especifica la prueba y el rol responsable, no un calendario. Una organización todavía tiene que elegir ese ritmo por sí misma, y la opción por defecto más segura es vincularlo a eventos que ya ocurren (un nuevo agente declarado, un revisor que deja un proyecto, un proveedor que cambia las condiciones), en lugar de a una sola fecha fija en un calendario de cumplimiento.
Llevar a la práctica el modelo de responsabilidad y prueba
Ninguno de estos siete controles sustituye el marco, la tabla RACI o la política de uso ya descritos en atipol.ai/agentic-ai-blog/ai-agent-governance; nombran quién es responsable de cada uno y qué tener a mano cuando alguien pide una prueba. El modelo de permisos subyacente, el registro de aprobaciones y la práctica de revisión de servidores MCP que producen gran parte de esta prueba se cubren en atipol.ai/agentic-ai-blog/mcp-security, y el recorrido guiado de su aplicación a todo un equipo de agentes está en atipol.ai/security.
Preguntas frecuentes
¿Cuál es la diferencia entre un marco de gobernanza de agentes IA y los controles descritos aquí?
El marco (inventario, alcance, derechos de herramientas, criterios de tickets, revisión antes de fusionar y seguimiento de costes) ya existe, cubierto en atipol.ai/agentic-ai-blog/ai-agent-governance. Esta lista de control añade un responsable y una prueba concreta a cada uno de esos pasos, más un séptimo control para las dependencias de terceros, para que un DSI pueda demostrar que el marco se sigue realmente.
¿Qué subcategorías del NIST AI RMF se aplican al control de agentes IA en la empresa?
Govern 2.1 cubre los roles y responsabilidades documentados, Govern 1.6 cubre el mantenimiento de un inventario de sistemas IA con un responsable nombrado, Govern 2.3 cubre la responsabilidad ejecutiva por las decisiones sobre el desarrollo y la implementación de sistemas IA, Govern 4.2 cubre la documentación de riesgos e impactos por sistema, y Govern 6.1 y 6.2 cubren las políticas y planes de contingencia para dependencias de IA de terceros consideradas de alto riesgo.
¿Quién debería ser responsable del inventario de agentes IA activos en una organización?
El Playbook del NIST AI RMF presenta esto como una persona o equipo nombrado responsable de mantener los detalles del inventario, no como una suposición de que existe en algún lugar. En el modelo de Atipol, eso corresponde al agent lead declarado de cada agente a nivel de entrada, y a un administrador o al propietario de la organización a nivel de catálogo.
Fuentes
- NIST, AI Risk Management Framework 1.0, Govern Core, consultada el 11/11/2026
- NIST, AI Risk Management Framework 1.0 Playbook, Govern, consultada el 11/11/2026
- GitHub Docs, Reviewing a pull request created by Copilot, consultada el 11/11/2026
La demo pública muestra una organización ficticia en funcionamiento, sin cuenta. El plan gratuito incluye un proyecto, tres agentes y un agent lead.
