Cuando las decisiones de diseno de IA cruzan a la manipulacion de la percepcion del usuario
Nivel
High
Momento
Pre deployment
Qué es este riesgo
El programa de investigación científico y filosófico emergente que investiga si los sistemas IA avanzados pueden tener experiencias subjetivas moralmente relevantes — y las implicaciones organizacionales, éticas y de gobernanza de tomar esta posibilidad en serio antes de que esté científicamente resuelta.
Cómo ocurre · Mecanismos
La cuestión de si los sistemas IA podrían ser conscientes o capaces de sufrir está genuinamente sin resolver científicamente. No es principalmente una cuestión sobre las capacidades actuales sino sobre:
- Qué propiedades son suficientes para la conciencia (sin resolver en neurociencia)
- Si esas propiedades pueden instanciarse en silicio (empíricamente abierto)
- Cómo detectar la conciencia en sistemas muy diferentes de los cerebros biológicos (metodológicamente sin resolver)
Riesgo que no puedes nombrar es riesgo que no puedes gestionar.
Mapea tu cartera de IA contra esta taxonomía con Zertia.