Cuando la IA replica la exclusion historica de los mercados de credito

Qué es este riesgo

Sistemas de IA usados en scoring crediticio, aprobación de préstamos, precios de seguros o acceso a servicios financieros que producen resultados discriminatorios contra grupos protegidos — denegando crédito, aplicando tipos más altos u ofreciendo productos inferiores basándose en características protegidas o sus proxies.

La discriminación financiera a través de IA es especialmente dañina porque se acumula con el tiempo: la incapacidad de acceder al crédito limita la acumulación de riqueza, las opciones de vivienda y la movilidad económica.

Cómo ocurre · Mecanismos

Discriminación por datos alternativos

Los modelos de crédito de IA que usan fuentes de datos no tradicionales (redes sociales, patrones de uso de apps, tipo de dispositivo, historial de navegación) pueden codificar discriminación de forma más profunda que los modelos tradicionales.

Redlining 2.0

Usar datos basados en localización (código postal, barrio) en decisiones crediticias replica los efectos de la práctica histórica de redlining en forma algorítmica.

Disparidades en precios de seguros

La IA de precios de seguros que usa telemetría conductual, datos de hogar inteligente o datos sociales puede producir precios que correlacionan con raza u origen nacional.

Incidentes reales

Discriminación de género en Apple Card (2019)

Los reguladores estadounidenses investigaron el algoritmo de crédito de Apple Card de Goldman Sachs tras denuncias de que ofrecía a mujeres límites de crédito dramáticamente inferiores a los de sus maridos con perfiles crediticios equivalentes o mejores.

Revisión de préstamos justos de Upstart y CFPB (2020–2022)

El CFPB concedió a Upstart una carta de no acción para su modelo de préstamos IA tras revisión, demostrando la disposición regulatoria a aprobar modelos de crédito IA — pero también estableciendo que dicha revisión es ahora la expectativa.

Disparidades en algoritmos de vivienda (HUD, 2019)

HUD demandó a Facebook por permitir a los anunciantes excluir usuarios de anuncios de vivienda basándose en raza, religión, origen nacional y otras características protegidas usando el sistema de targeting publicitario de IA.

Mitigaciones · Gobernanza

• Prueba de impacto dispar — Probar tasas de aprobacion, precios y limites de credito entre los distintos grupos protegidos
• Auditoria de datos alternativos — Evaluar fuentes de datos no tradicionales para detectar senal discriminatoria antes de utilizarlas
• Documentacion del modelo — Documentar todas las variables, sus fuentes de origen y su justificacion tecnica y legal
• Notificaciones de decision adversa — Proporcionar razones especificas y claras de las decisiones adversas en lenguaje comprensible
• Programa de cumplimiento en prestamo justo — Integrar la IA en la infraestructura existente de cumplimiento de prestamo justo
• Compromiso regulatorio — Interactuar proactivamente con la CFPB, la OCC o los reguladores pertinentes antes de desplegar modelos de credito novedosos