Cuando la IA clinica invierte los diagnosticos que los medicos tenian correctos

Qué es este riesgo

Clínicos que confían excesivamente en las recomendaciones de IA diagnóstica o de soporte a la decisión clínica — no aplicando juicio clínico independiente ni anulando recomendaciones incorrectas de IA, incluso cuando su propia evaluación o indicadores clínicos objetivos contradicen el output de la IA.

El sesgo de automatización no es un fallo de software; es un patrón cognitivo humano. Es más pronunciado cuando: la IA expresa alta confianza, el clínico está fatigado o bajo presión temporal, o la recomendación de la IA se alinea con el camino de menor resistencia.

Cómo ocurre · Mecanismos

Goddard et al. (2012) — Sesgo de automatización en medicina

Revisión sistemática que establece que los clínicos de todas las especialidades exhiben sesgo de automatización cuando usan sistemas de soporte a la decisión.

IA de radiología y sobreacceptación (múltiples estudios, 2020–2024)

Múltiples estudios controlados mostraron que los radiólogos a los que se les mostraban anotaciones generadas por IA aceptaban hallazgos falsos positivos a tasas más altas que los radiólogos que revisaban imágenes de forma independiente.

Fatiga de alertas en detección de sepsis

Los hospitales que despliegan IA de predicción de sepsis reportaron ambas direcciones del sesgo de automatización: fatiga de alertas causando infradependencia de alertas válidas, y sobredependencia de alertas llevando a tratamiento inadecuado.

Mitigaciones · Gobernanza

• IA al final, no al principio — Los clínicos forman evaluaciones independientes antes de ver las recomendaciones de IA
• Comunicación de incertidumbre — Los sistemas IA muestran intervalos de confianza y modos de fallo conocidos
• Prompts de desafío — El sistema pide al clínico articular por qué está de acuerdo con la recomendación IA para decisiones de alto riesgo
• Visibilidad de discrepancias — Cuando las evaluaciones del clínico y la IA divergen, hacer visible la divergencia
• Formación de calibración regular — Formar a los clínicos sobre cuándo fallan los sistemas IA
• Monitoreo de sobreacceptación — Rastrear las tasas en que los clínicosanulan la IA frente a las que aceptan