Donde el derecho al olvido se cruza con un modelo que ya ha aprendido

Qué es este riesgo

La tensión entre el derecho de supresión del RGPD («derecho al olvido») y la realidad técnica del aprendizaje automático — donde los datos personales usados en el entrenamiento quedan codificados en los pesos del modelo de formas que no pueden eliminarse selectivamente sin volver a entrenar el modelo completo.

Este es uno de los cruces IA-privacidad más desafiantes en la práctica para las organizaciones sujetas al RGPD.

Cómo ocurre · Mecanismos

El Artículo 17 del RGPD otorga a los interesados el derecho a solicitar la supresión de sus datos personales. Para las bases de datos tradicionales, esto significa eliminar un registro. Para los sistemas IA entrenados con datos personales, la situación es fundamentalmente diferente:

1. Los datos personales se procesan durante el entrenamiento y se codifican en los pesos del modelo
2. Los datos originales pueden eliminarse, pero su influencia en el modelo persiste
3. El modelo puede reproducir información sobre el individuo (memorización)
4. Eliminar la influencia de una persona específica de un modelo entrenado requiere machine unlearning — un campo técnicamente inmaduro
5. El reentrenamiento completo (la alternativa) es computacionalmente caro

Mitigaciones · Gobernanza

• Privacidad desde el diseno en el entrenamiento — Minimizar los datos personales en el entrenamiento; preferir siempre datos anonimizados o sinteticos
• Registro de datos de entrenamiento — Mantener registros detallados de que datos personales se han utilizado para entrenar el modelo y cuando
• Capacidades de machine unlearning — Invertir en capacidades tecnicas para eliminar la influencia de sujetos de datos concretos de los modelos ya entrenados
• Calendarios de reentrenamiento — Planificar reentrenamientos periodicos que puedan incorporar las solicitudes de supresion acumuladas
• Documentacion de base legal — Documentar la base legal para el tratamiento de datos personales en el entrenamiento de IA
• DPIA para entrenamiento de IA — Realizar Evaluaciones de Impacto en Proteccion de Datos antes de entrenar sobre datos personales