Testing de Modelos — Requisitos integrales de evaluación de sistemas de IA

Definición

El testing de modelos en sistemas de IA es el proceso sistemático de evaluar el rendimiento, comportamiento, robustez, equidad y seguridad de un modelo de IA frente a criterios definidos antes del despliegue y a lo largo del ciclo de vida operativo. Es la actividad técnica generadora de evidencia que sustenta la validación del modelo, produce documentación para el expediente técnico y demuestra a reguladores, auditores y organismos notificados que el modelo cumple los requisitos aplicables a su contexto de despliegue.

Por qué importa operativamente

El testing de modelos importa porque es el mecanismo principal a través del cual se identifican los riesgos de un sistema de IA antes de que se materialicen como fallos operativos, hallazgos regulatorios o reclamaciones de responsabilidad. Un modelo que no se prueba de forma integral antes del despliegue es un modelo cuyos modos de fallo son desconocidos, y los modos de fallo desconocidos en aplicaciones de alto impacto son fallos de gobernanza esperando a suceder.

Marco regulatorio

Cómo lo evalúa Zertia

Zertia evalúa la integralidad del testing de modelos mediante la Auditoría de Modelos de IA y la Auditoría de Sistemas de IA de Alto Riesgo. La auditoría analiza si el testing cubre todas las dimensiones exigidas (rendimiento, equidad, robustez, explicabilidad), si los conjuntos de datos de prueba son representativos de la población de despliegue, si los resultados de las pruebas están documentados adecuadamente para el expediente técnico y si los planes de testing se actualizan cuando el modelo o el contexto de despliegue cambian de forma sustancial.