Cuando la gestion algoritmica se topa con protecciones laborales vinculantes
Qué es este riesgo
Sistemas IA usados para gestionar, monitorear, evaluar y controlar a trabajadores — determinando sus asignaciones, salario, evaluaciones de rendimiento y situación laboral — de formas que eliminan la discreción del gestor humano y crean condiciones laborales caracterizadas por vigilancia, imprevisibilidad y ausencia de recurso.
Escala: La gestión algorítmica afecta a más de 70 millones de trabajadores de economía gig en todo el mundo (Uber, Deliveroo, Amazon, DoorDash) más una proporción creciente de empleados convencionales sujetos a monitoreo de rendimiento por IA.
Cómo ocurre · Mecanismos
Opacidad
Los trabajadores no pueden entender por qué recibieron una asignación, calificación o decisión de desactivación específica. El razonamiento del algoritmo no se divulga. No hay nadie a quien preguntar.
Sin apelación
Las decisiones automatizadas con consecuencias laborales significativas ocurren sin revisión humana. Los procesos de apelación formales existen sobre el papel pero conducen a sistemas automatizados que confirman la decisión original.
Intensidad de la vigilancia
Los sistemas de gestión IA monitorean a los trabajadores continuamente: rastreo GPS, monitoreo de pulsaciones de teclado, monitoreo por cámara, grabación de llamadas, reconocimiento facial para verificación de identidad.
Efecto ratchet
El monitoreo de rendimiento IA aprieta continuamente los estándares. Lo que era rendimiento por encima de la media se convierte en la línea base, que se convierte en el mínimo aceptable. No hay suelo.
Incidentes reales
Monitoreo de almacenes de Amazon
El sistema de seguimiento de productividad de Amazon monitorea el rendimiento de los operarios al segundo, generando automáticamente advertencias de productividad y recomendaciones de despido sin involucrar a un gerente humano.
Desactivación de conductores de Uber
El sistema de desactivación IA de Uber termina cuentas de conductores basándose en patrones de valoración, tasas de cancelación y otras métricas. Múltiples casos documentados de desactivación errónea basada en errores algorítmicos, con revisión humana limitada.
El algoritmo «Frank» de Deliveroo
El algoritmo de asignación de pedidos de Deliveroo penaliza a los repartidores por aceptar períodos de descanso o trabajar en condiciones meteorológicas que reducen la velocidad, creando incentivos de seguridad que priorizan el rendimiento algorítmico sobre el bienestar del repartidor.
Mitigaciones · Gobernanza
- Revision humana para decisiones criticas — Desactivacion, terminacion y cambios significativos de valoracion requieren revision humana
- Explicabilidad para los trabajadores — Los trabajadores tienen derecho a comprender la base de las decisiones de IA que afectan a su empleo
- Mecanismos de apelacion — Revision humana genuina de las decisiones algoritmicas impugnadas por el trabajador
- Proporcionalidad del monitoreo — La monitorizacion del trabajador es proporcional a la necesidad legitima del negocio; los trabajadores son informados
- Consulta colectiva — Se consulta a los representantes de los trabajadores antes del despliegue de sistemas de gestion con IA
Riesgo que no puedes nombrar es riesgo que no puedes gestionar.
Mapea tu cartera de IA contra esta taxonomía con Zertia.