Riesgo algoritmico — Taxonomia de riesgos para sistemas de IA

Definición

El riesgo algoritmico se refiere al potencial de dano, resultados adversos o consecuencias no deseadas derivadas del diseno, la implementacion o el funcionamiento de sistemas algoritmicos o de decision basados en IA. Abarca todo el espectro de riesgos especificos de los sistemas automatizados: riesgos tecnicos (fallo del modelo, degradacion, vulnerabilidad adversarial), riesgos eticos (salidas discriminatorias, vulneracion de derechos individuales), riesgos legales y regulatorios (incumplimiento de la ley aplicable), riesgos operativos (dependencia excesiva de la IA, supervision humana inadecuada) y riesgos reputacionales (perdida de confianza de los grupos de interes por incidentes relacionados con la IA).

Por qué importa operativamente

El riesgo algoritmico importa porque esta estructuralmente infravalorado. Cuando las organizaciones implementan sistemas de IA, normalmente evaluan el rendimiento tecnico (precision, velocidad, coste) pero no el perfil de riesgo completo: como se comporta el sistema en subpoblaciones fuera de la distribucion de entrenamiento, que ocurre cuando el modelo se degrada o deriva, cuales son las consecuencias de modos de fallo especificos a la escala en la que operara el sistema y que exposicion legal y reputacional crea el sistema.

Marco regulatorio

Cómo lo evalúa Zertia

Zertia evalua el riesgo algoritmico mediante Evaluaciones de Riesgo ISO/IEC 23894 y Evaluaciones NIST AI RMF. La evaluacion cubre toda la taxonomia de riesgos: riesgos tecnicos (modos de fallo del modelo, degradacion, exposicion adversarial), riesgos eticos (sesgo, discriminacion, vulneraciones de derechos), riesgos regulatorios (Reglamento de IA de la UE, GDPR, sectoriales), riesgos operativos (dependencia excesiva, brechas de supervision) y riesgos reputacionales. El resultado es un perfil de riesgo priorizado con controles mapeados y una hoja de ruta de remediacion.