Dónde poner la aprobación humana en agentes IA

Ponga la puerta de aprobación humana solo en las acciones de alto impacto de un agente IA, aplicada fuera del propio agente, nunca dentro de un prompt que él controle. Antes de decidir quién aprueba lo que queda, reduzca primero lo que el agente puede hacer, y después registre quién autorizó cada acción aprobada, sobre todo las que no se pueden deshacer.
Aprobarlo todo vuelve inútiles a los agentes; no aprobar nada es un riesgo
Un CTO que despliega agentes IA suele caer en uno de dos modos de fallo. Exigir aprobación para cada acción y los agentes dejan de ahorrar tiempo, porque alguien todavía tiene que hacer clic manualmente en cada paso. No exigir ninguna aprobación y una sola llamada de herramienta equivocada, un archivo borrado por error, un mensaje enviado al cliente equivocado, una fusión que se salta la revisión, se convierte en un problema que el agente debe explicar después de los hechos, no antes. Ninguno de los dos extremos es una política; ambos son una admisión de que nadie decidió dónde debía situarse la puerta.
El GenAI Security Project de OWASP llama al problema subyacente Excessive Agency: acciones dañinas realizadas en respuesta a una salida del modelo inesperada, ambigua o manipulada, arraigadas en una funcionalidad excesiva, permisos excesivos, o una autonomía excesiva concedida al agente. La corrección que describe OWASP no es una pantalla de aprobación general delante de cada acción; es reducir primero lo que puede salir mal, y después bloquear solo lo que queda.
Los dos modos de fallo descritos arriba no son hipotéticos para los agentes conectados vía MCP, el protocolo que la mayoría de estas herramientas usa para alcanzar sistemas reales. La misma pregunta de aprobación, debe esta llamada concreta esperar a una persona, surge para cada herramienta que un agente puede alcanzar, no solo para el resultado final del agente, lo que explica por qué la respuesta tiene que ser una regla aplicada herramienta por herramienta en lugar de una decisión tomada una sola vez cuando el agente se desplego por primera vez.
Reducir lo que necesita aprobación antes de decidir quién aprueba
OWASP enumera reducir el número de extensiones, reducir su funcionalidad, evitar extensiones abiertas como una herramienta general de ejecución de shell, reducir los permisos de extensión a lo que el sistema de destino realmente necesita, como un acceso de solo lectura a una base de datos, y ejecutar cada extensión en el contexto propio del usuario concreto con privilegios mínimos, como primeras líneas de defensa contra la Excessive Agency. Ninguna de estas medidas implica que un humano haga clic en aprobar; eliminan la acción, el permiso, o el radio de daño antes incluso de que se plantee la cuestión de la aprobación.
Una herramienta que un agente no puede llamar no necesita puerta de aprobación, y una conexión de base de datos de solo lectura no puede ser la que borra una tabla, decida lo que decida una pantalla de aprobación. Atipol aplica el mismo orden dentro de su propio modelo de permisos: un subagente nunca tiene más permisos que el agente que le delego, así que restringir lo que puede hacer el agente de primer nivel restringe también a cada subagente por debajo de él.
Traducido a la configuración real de un agente, esto significa que un agente usado para el flujo de tickets ya descrito en este blog recibe un límite de alcance de archivos y nada parecido a una herramienta de shell de propósito general, que un agente que redacta respuestas de clientes recibe una función de envío limitada a borradores en lugar de entrega directa, y que un agente que toca una base de datos recibe exactamente las columnas y los derechos de lectura o escritura que la tarea especifica, nada más amplio concedido por comodidad.
Situar la puerta en las acciones de alto impacto, aplicada fuera del agente
Una vez eliminadas la funcionalidad, los permisos y la autonomía innecesarios, la sexta mitigación de OWASP aborda lo que queda: «Utilise human-in-the-loop control to require a human to approve high-impact actions before they are taken.» La guía añade que este control puede situarse después de la llamada a la extensión o dentro de la propia extensión, y lo combina con una séptima mitigación, la mediación completa: aplicar la autorización en el sistema de destino cada vez, en lugar de confiar en el juicio del propio modelo sobre si una acción está permitida.
Ese segundo punto importa a nivel operativo. Un aviso de aprobación que el propio agente decide si mostrar no es una puerta, ya que un agente manipulado o simplemente equivocado puede saltarse el aviso igual que se saltaría cualquier otra instrucción. La decisión de exigir aprobación, y la aplicación de esa exigencia, tiene que vivir en un sistema que el agente no controla.
OWASP también enumera dos medidas que limitan el daño sin impedir la Excessive Agency en primer lugar: registrar y supervisar la actividad de las extensiones, y limitar la tasa de acciones indeseables. Ambas importan, pero ninguna sustituye a la puerta de aprobación en sí; una eliminación no autorizada bien registrada sigue siendo una eliminación, y un límite de tasa ralentiza el daño repetido sin detener su primera aparición.
Dónde sitúan realmente la puerta los equipos
Los casos de uso de Atipol muestran dónde sitúan esa puerta distintos equipos, acción por acción, en lugar de equipo por equipo.
Lo que la puerta protege difiere según el dominio, una relación con el cliente, un incidente activo, una base de código, un estado financiero, pero la forma de la puerta es la misma en cada fila: una persona, distinta de quien desencadenó la acción, decide antes de que surta efecto, sin revisarla después.
| Dominio | Acción sujeta a aprobación | Quién decide | Alcance de la aprobación |
|---|---|---|---|
| Soporte al cliente | Enviar una respuesta a un cliente | La persona que aprueba el envío | Ese mensaje concreto, una vez |
| Operaciones de seguridad | Contener un incidente | El analista | Esa llamada concreta, una vez |
| Desarrollo de software | Fusionar una pull request | Un revisor distinto del solicitante | Esa llamada concreta, antes de la fusión |
| Observabilidad | Abrir un incidente de supervisión | El aprobador | Esa llamada concreta |
| Publicación de contenido | Publicar en el CMS | La persona que aprueba a través de MCP | Encaminado por la aprobación de MCP |
| Informes financieros | Validar un informe | El CEO o el CFO | Ese informe concreto |
Una llamada, una decisión, nunca un sí general
Una puerta que permanece abierta después de la primera aprobación no es una puerta. Atipol aplica la regla como un límite de alcance: la aprobación humana se concede para una llamada concreta, una vez, y cada herramienta lleva uno de tres estados de permiso, permitido, sujeto a la aprobación de una persona, o denegado, fijado herramienta por herramienta. Cuando una herramienta se configura para exigir aprobación, la llamada espera la decisión de una persona; si se deniega, la llamada se rechaza y se registra en lugar de reintentarse en silencio.
El mismo modelo solo se endurece a mayor escala, nunca se relaja: un espacio de trabajo puede pasar de abierto, a solo catálogo, a aprobación obligatoria, pero una regla a nivel del espacio de trabajo no puede relajarse mediante la configuración de un agente individual. Una solicitud fuera del catálogo aprobado la decide y registra un administrador, lo que mantiene la excepción visible en lugar de dejar que se convierta en un valor por defecto silencioso.
Estos tres estados se aplican de la misma forma sin importar qué equipo configuró el agente: la función de envío de un agente de soporte, la acción de contención de un agente de SOC, y el envío de un informe de un agente de finanzas llevan cada uno su propio ajuste de permitido, aprobación, o denegado, en lugar de un único ajuste de aprobación aplicado a todo el agente. Cambiar el estado de una sola herramienta no afecta a ninguna otra herramienta que el mismo agente pueda llamar.
El revisor nunca es el solicitante, ni el propio agente
La misma separación que se aplica a la revisión de un ticket se aplica directamente a las puertas de aprobación: la persona que pidió el trabajo no debería ser quien lo aprueba. Atipol aplica la regla sin excepción en ninguno de los dos lados de la solicitud: ningún agente, humano o artificial, aprueba su propia entrega, y el humano conserva la decisión final sobre cada aprobación.
En la práctica, esto significa que un agente no puede generar un informe y también validarlo, y que un desarrollador que asignó un ticket a un agente no puede ser el revisor requerido que aprueba el cambio resultante, la misma restricción documentada para las pull requests del propio agente de código de GitHub. Los perfiles de herramientas basados en roles van más allá: cada rol recibe su propia lista de herramientas permitidas, con aprobación humana explícita exigida antes de cualquier acción sensible o irreversible, en lugar de un único aprobador general para todo el equipo.
La misma regla alcanza también a los subagentes. Dado que un subagente nunca tiene más permisos que el agente que le delego, una exigencia de aprobación colocada sobre una acción sensible del agente de primer nivel no puede eludirse haciendo que un subagente realice la misma acción bajo una descripción de tarea más estrecha; el techo de permisos, y la puerta de aprobación que lo acompaña, viajan a lo largo de toda la cadena de delegación.
Una aprobación sin registro no es supervisión
Una aprobación que no queda por escrito es indistinguible, seis meses después, de la ausencia total de aprobación. El registro de auditoría de Atipol es específico sobre lo que muestra: quién autorizó una acción, no solo que ocurrió, y para una acción irreversible como publicar o eliminar, la aprobación humana explícita que la precedió, registrada junto a la propia acción.
Los reguladores avanzan en la misma dirección para los sistemas que clasifican como de alto riesgo. La propia descripción de la Comisión Europea del AI Act, actualizada por última vez el 19 de octubre de 2026, incluye medidas de supervisión humana apropiadas entre las obligaciones que se aplican a los sistemas de IA de alto riesgo, y afirma que una vez que un sistema así llega al mercado, los desplegadores deben garantizar la supervisión y el seguimiento humanos durante todo su uso, no solo en el momento del despliegue.
El NIST AI Risk Management Framework (AI RMF 1.0, publicado el 26 de enero de 2023) plantea esto a un nivel más amplio: está pensado para ayudar a las organizaciones a incorporar consideraciones de confianza en el diseño, el desarrollo, el uso y la evaluación de los sistemas de IA, lo que incluye quién puede aprobar lo que hace un agente, no solo lo que el agente produce.
Llevar esto a la práctica en un equipo
Nada de esto exige decidir, acción por acción, desde cero. Empiece por retirar la funcionalidad, los permisos y la autonomía que el agente no necesita, siguiendo las primeras mitigaciones de OWASP; configure las herramientas restantes en uno de tres estados, permitido, aprobación, o denegado; nombre un revisor para cada puerta que nunca sea el solicitante ni el agente; y registre quién aprobó qué, con las acciones irreversibles llevando su aprobación junto a ellas en el registro.
Los cuatro pasos anteriores se reducen a una única secuencia repetible:
Una prueba útil para saber si la puerta está en el lugar correcto: retire el paso de aprobación y pregunte cómo sería el peor resultado posible. Si la respuesta es unos minutos de repetir el trabajo, la acción probablemente nunca tuvo el impacto suficiente para necesitar un humano. Si la respuesta es un informe erróneo validado, una tabla de base de datos desaparecida, o un mensaje que un cliente nunca debería haber recibido, la puerta pertenece exactamente donde la sitúan OWASP y Atipol: antes de la acción, aplicada fuera del agente, y registrada después.
Las prácticas de seguridad detrás de este modelo, incluidas las listas de herramientas permitidas por agente, los secretos mantenidos fuera de los prompts, y la revisión de un servidor MCP antes de conectarlo, están detalladas en atipol.ai/agentic-ai-blog/mcp-security. El marco de gobernanza sobre los roles, la política de uso, y dónde debe situarse la revisión antes de una fusión se cubre en atipol.ai/agentic-ai-blog/ai-agent-governance.
Para ver estos estados de permiso, estas puertas de aprobación, y el registro de auditoría aplicados en todo un equipo de agentes, la sección de seguridad del producto en atipol.ai/security recorre cómo configurar una herramienta como permitida, aprobación, o denegada, y qué se registra cuando una persona aprueba o deniega una llamada.
Preguntas frecuentes
¿Qué acciones de un agente IA necesitan aprobación humana y cuáles no?
La guía de OWASP sobre Excessive Agency señala las acciones de alto impacto, aquellas en las que una llamada equivocada resulta costosa o difícil de revertir, como publicar, eliminar, fusionar, o enviar algo a un cliente. Las acciones de menor impacto se tratan mejor reduciendo la funcionalidad, los permisos y la autonomía del agente para que existan menos de ellas desde el principio, en lugar de aprobar cada una.
¿Pueden el agente o la persona que solicitó la acción aprobarla ellos mismos?
No. Atipol aplica la regla de que ningún agente, humano o artificial, aprueba su propia entrega, y que la persona que pidió el trabajo no debería ser quien lo aprueba, la misma regla de revisión independiente documentada para las pull requests del agente de código Copilot de GitHub.
¿Qué debe registrarse cuando un humano aprueba o deniega la acción de un agente?
El registro debe mostrar quién autorizó la acción, no solo que ocurrió, y para una acción irreversible como publicar o eliminar, la aprobación explícita que la precedió, registrada junto a la acción en la pista de auditoría.
Fuentes
- OWASP GenAI Security Project, LLM06:2025 Excessive Agency, consultado el 11/11/2026
- Comisión Europea, marco regulador del AI Act, actualizado el 19/10/2026
- NIST, AI Risk Management Framework (AI RMF 1.0), publicado el 26/01/2023
La demo pública muestra una organización ficticia en funcionamiento, sin cuenta. El plan gratuito incluye un proyecto, tres agentes y un agent lead.
