Toma de decisiones automatizada: cuando las decisiones de IA se topan con derechos individuales vinculantes
La toma de decisiones automatizada activa el artículo 22 del GDPR y el Anexo III del EU AI Act. Zertia audita sistemas ADM con ISO 42001.
Definición
Definición técnica
La toma de decisiones automatizada (TDA) hace referencia al uso de sistemas de IA o algorítmicos para tomar decisiones sobre individuos o procesos con una implicación humana mínima o nula en la decisión individual.
El artículo 22 del RGPD restringe las decisiones completamente automatizadas con efectos legales o similares sobre individuos. El EU AI Act construye sobre esto exigiendo mecanismos de supervisión humana para sistemas de alto riesgo que toman o apoyan decisiones con consecuencias.
Por qué importa operativamente
La toma de decisiones automatizada a escala crea riesgo sistémico que los procesos manuales no crean. La escala que hace valiosa la automatización es la misma que amplifica cada error y sesgo integrado en la lógica del sistema.
Marco regulatorio / Regulatory Framework
| Framework | Obligaciones sobre TDA | | — | — | | GDPR — Art. 22 | Las personas tienen derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o les afecte significativamente. Derecho a obtener intervención humana, expresar su punto de vista e impugnar la decisión. | | EU AI Act | Los sistemas de alto riesgo que toman o apoyan decisiones sobre individuos deben tener supervisión humana, documentación técnica y mecanismos de explicación. | | ISO/IEC 42001 | El sistema de gestión debe cubrir los controles de gobernanza para sistemas que toman decisiones automatizadas con impacto en personas. | | NIST AI RMF | La evaluación de impacto es un componente central de la función Map para sistemas de toma de decisiones automatizada de alto impacto. |
CTA
Las decisiones automatizadas a escala requieren gobernanza a escala. Si tus sistemas de IA toman o influyen en decisiones con consecuencias para individuos, Zertia evalúa si tus controles cumplen los requisitos regulatorios.
Por qué importa operativamente
La toma de decisiones automatizada a escala genera un riesgo sistemático que los procesos manuales no producen. Un responsable de préstamos humano que aplique un juicio sesgado afecta a decenas de decisiones. Un sistema automatizado de scoring crediticio que aplique el mismo sesgo afecta a millones. La escala que hace valiosa la automatización es la misma escala que amplifica cada error y sesgo incorporado en la lógica del sistema.