Cuando la asistencia de IA vuelve a los profesionales menos capaces con el tiempo

Qué es este riesgo

La erosión gradual de las habilidades cognitivas humanas, las competencias profesionales y el juicio a través de la delegación sostenida de esas capacidades a sistemas IA — de tal manera que los humanos que han confiado en la asistencia IA pierden la capacidad de funcionar eficazmente sin ella, creando vulnerabilidad sistémica cuando los sistemas IA fallan o no están disponibles.

Cómo ocurre · Mecanismos

Las habilidades cognitivas humanas siguen un patrón de «salo o piérdelo»: las habilidades que no se practican se degradan. Cuando la IA realiza de forma fiable una tarea, el humano puede dejar de practicarla. Esto produce ganancias de eficiencia a corto plazo y pérdida de capacidad a largo plazo.

Mitigaciones · Gobernanza

• Práctica obligatoria de habilidades — Requerir práctica regular sin asistencia de IA; modelo aeronáutico del vuelo manual obligatorio
• Diseño IA-al-final — En contextos de desarrollo de habilidades, hacer que los humanos intenten las tareas antes de ver las salidas de la IA
• Estándares de competencia — Definir niveles mínimos de competencia que deben mantenerse con independencia de la disponibilidad de la IA
• Pruebas de resiliencia — Probar regularmente el rendimiento en condiciones sin IA disponible
• Diseño de la formación — Diseñar la formación profesional para desarrollar habilidades que la IA aumenta, no habilidades que la IA sustituye
• Transparencia de la IA — Garantizar que los usuarios saben cuándo les está asistiendo la IA; la asistencia invisible impide el desarrollo de habilidades