Vigilancia Post-Comercialización — Supervisión continua de cumplimiento en sistemas de IA

Definición

La vigilancia post-comercialización (PMM) es el proceso sistemático y continuo de recopilar, documentar y analizar datos sobre el rendimiento, la fiabilidad y el comportamiento de los sistemas de IA después de que hayan sido desplegados y estén operando en condiciones reales. Bajo el Reglamento de IA de la UE, la vigilancia post-comercialización es un requisito obligatorio para los proveedores de sistemas de IA de alto riesgo y constituye una de las obligaciones operativas fundamentales que no pueden satisfacerse únicamente en el momento de la evaluación de conformidad.

Por qué importa operativamente

La vigilancia post-comercialización importa porque la evaluación de conformidad es una instantánea. Verifica que un sistema cumple los requisitos en un momento específico, bajo condiciones específicas. El despliegue en el mundo real es distinto: las distribuciones de datos se desplazan, los comportamientos de los usuarios evolucionan, el sistema se utiliza en contextos que se apartan de sus parámetros de diseño y los actores adversarios descubren exploits. Un sistema que era seguro, preciso e imparcial en el despliegue puede volverse inseguro, degradado o sesgado en producción sin ningún disparador interno.

Marco regulatorio

Cómo lo evalúa Zertia

Zertia evalúa la vigilancia post-comercialización como parte tanto de la Auditoría de Sistemas de IA de Alto Riesgo como de la Auditoría de Modelos de IA. La auditoría analiza si el sistema de vigilancia post-comercialización está genuinamente operativo: si las métricas de monitorización están definidas y se rastrean, si existen mecanismos de detección de deriva, si la monitorización de sesgos cubre dimensiones demográficas relevantes, si la detección y el registro de incidentes están funcionando y si la organización dispone de un proceso para actuar sobre los hallazgos de la monitorización antes de que se conviertan en fallos de cumplimiento o incidentes de seguridad.