Limitación de Alcance del Agente — Controles de Contención para Sistemas de IA Agéntica

Definición

La limitación de alcance del agente es la práctica de gobernanza e ingeniería que restringe explícitamente los permisos, herramientas, acceso a datos y capacidades de acción disponibles para un agente de IA al mínimo necesario para su función definida — impidiendo que el agente ejecute acciones más allá del límite operativo previsto, con independencia de lo que sus instrucciones o su lógica de planificación pudieran indicarle en otro caso. Es la implementación agéntica del principio de seguridad de mínimo privilegio, aplicado a sistemas autónomos que pueden realizar acciones con consecuencias.

Por qué importa operativamente

La limitación de alcance del agente es importante porque los sistemas de IA agéntica con permisos amplios generan un riesgo acumulativo que ningún sistema de monitorización puede contener por completo. Un ataque de inyección de prompt que secuestre a un agente con acceso de solo lectura a archivos puede exfiltrar información. El mismo ataque secuestrando a un agente con acceso de lectura-escritura y ejecución de API puede enviar correos, ejecutar transacciones, modificar configuraciones y llamar a servicios externos — todo ello antes de que pueda procesarse cualquier alerta de monitorización.

Marco regulatorio

Cómo lo evalúa Zertia

Zertia evalúa la limitación de alcance del agente como parte de la Auditoría de Modelos de IA y la Auditoría de Sistemas de IA de Alto Riesgo para despliegues agénticos. La evaluación examina: el conjunto real de permisos concedidos a cada agente frente al mínimo requerido para su función; si las acciones irreversibles requieren autorización humana explícita; si se realizaron revisiones de alcance antes del despliegue en producción; si el alcance se ha desviado desde el despliegue inicial; y si los controles de limitación de alcance están documentados y son auditables.