Model Drift: cuando el rendimiento documentado deja de coincidir con la realidad operativa

Definición

El model drift (deriva del modelo) se refiere a la degradacion gradual del rendimiento de un modelo de IA a lo largo del tiempo, a medida que las propiedades estadisticas de los datos del mundo real que encuentra en produccion divergen de los datos de entrenamiento sobre los que fue construido. No es un fallo del modelo en el sentido tradicional de ingenieria: el modelo esta funcionando tal como fue disenado. El problema es que el mundo ha cambiado, y las representaciones aprendidas por el modelo ya no coinciden con la realidad actual.

Por qué importa operativamente

El model drift importa porque es invisible sin monitorizacion activa. Una organizacion puede desplegar un sistema de IA validado y certificado y sufrir un fallo progresivo de gobernanza sin que aparezca ninguna alerta visible. Las metricas de rendimiento se degradan por debajo del umbral de validacion, aparecen patrones de sesgo en subgrupos que previamente no estaban afectados, y las decisiones que eran apropiadas en el despliegue se vuelven sistematicamente incorrectas, todo ello sin que el sistema emita ningun error.

Marco regulatorio

Cómo lo evalúa Zertia

Zertia evalua la gestion del model drift mediante dos servicios. La Auditoria de Modelo de IA evalua si la organizacion ha implementado mecanismos adecuados de monitorizacion de drift: umbrales de deteccion, sistemas de alerta, disparadores de reentrenamiento y documentacion de como se gestiona el drift en el contexto operativo. La Evaluacion de Precertificacion evalua si el marco de monitorizacion de drift cumple los requisitos de vigilancia post-comercializacion del EU AI Act y los requisitos de evaluacion del rendimiento del ISO/IEC 42001 antes de la certificacion formal o la auditoria regulatoria.