Sistema Multiagente (MAS) — Gobernanza de Arquitecturas Colaborativas de IA

Definición

Un sistema multiagente (MAS) es una arquitectura de IA en la que múltiples agentes de IA autónomos operan de forma colaborativa para llevar a cabo tareas que superan la capacidad, el alcance o la eficiencia de cualquier agente individual. En un MAS, los agentes pueden percibir su entorno, tomar decisiones, utilizar herramientas, comunicarse con otros agentes y ejecutar acciones — ya sea de forma independiente o mediante patrones coordinados de delegación gestionados por un agente orquestador.

Por qué importa operativamente

Los sistemas multiagente son importantes para la gobernanza porque son el patrón arquitectónico donde los marcos de gobernanza de IA muestran sus lagunas más significativas. ISO/IEC 42001 fue diseñado para sistemas de gestión de IA que gobiernan modelos de IA. El Reglamento de IA de la UE fue redactado teniendo en mente la clasificación de sistemas individuales. Ninguno de los marcos tiene disposiciones explícitas sobre cómo se distribuyen las obligaciones de gobernanza a lo largo de una red de agentes colaboradores.

Marco regulatorio

Cómo lo evalúa Zertia

Zertia evalúa la gobernanza de sistemas multiagente mediante la Auditoría de Modelos de IA, que para arquitecturas MAS incluye: mapear la topología completa de agentes (orquestador, subagentes, interfaces de herramientas, memoria compartida); evaluar si la rendición de cuentas está asignada en cada nodo de la arquitectura; valorar si los registros de auditoría están completos a lo largo de toda la secuencia de acciones; y examinar si los controles de contención (limitación de alcance, mecanismos de anulación, procedimientos de reversión) se aplican al sistema en su conjunto y a cada agente de forma individual.