Riesgo de Discriminacion: donde el sesgo tecnico se cruza con derechos protegidos

Definición

El riesgo de discriminacion convierte el sesgo IA en responsabilidad legal. Zertia audita con ISO 42001 + EU AI Act + ISO 42005.

Datos clave

• El riesgo de discriminacion en IA es el dano legalmente protegido que ocurre cuando el sesgo algoritmico produce impacto dispar sobre grupos protegidos.
• El Art. 21 de la Carta de Derechos Fundamentales UE y las Directivas de Igualdad de Trato prohiben la discriminacion, incluyendo formas algoritmicas.
• La sentencia Schufa del TJUE (2023) confirmo que los algoritmos de credit scoring caen bajo el Art. 22 RGPD y la legislacion antidiscriminatoria.
• Los despliegues IA de alto riesgo en credito, contratacion, educacion y seguros enfrentan obligaciones antidiscriminatorias explicitas.
• Zertia audita riesgo de discriminacion bajo ISO 42001 con mapeo explicito al Art. 10 EU AI Act y derechos fundamentales.

Preguntas frecuentes

¿Que es el riesgo de discriminacion en IA?

Dano legalmente protegido cuando el sesgo algoritmico produce impacto dispar sobre grupos protegidos (raza, genero, edad, discapacidad, orientacion sexual). Convierte el sesgo de defecto tecnico en responsabilidad legal vinculante.

¿En que se diferencia del sesgo algoritmico?

El sesgo es una propiedad estadistica del output; la discriminacion es la consecuencia legal cuando ese sesgo afecta grupos protegidos en sectores regulados. No todo sesgo es discriminacion, pero toda discriminacion empieza como sesgo.

¿Como se audita?

Mediante ISO 42001 con mapeo al Art. 10 EU AI Act y evaluacion de derechos fundamentales (ISO 42005). Zertia integra analisis de atributos protegidos.