Cuando los deepfakes de IA se convierten en herramienta de interferencia electoral

Qué es este riesgo

El uso de sistemas IA para generar medios sintéticos, operar redes de cuentas inauténticas, producir contenido de persuasión personalizado y llevar a cabo operaciones de influencia dirigidas a los procesos democráticos — elecciones, referéndums, consultas públicas y el discurso político en general.

Cómo ocurre · Mecanismos

Las operaciones de influencia pre-IA estaban limitadas por recursos. La IA elimina estas limitaciones:

Capacidad	Limitación pre-IA	Capacidad IA
Generación de contenido	Escritores cualificados, tiempo	Miles de artículos por hora
Creación de personas	Gestión manual de cuentas	Automatizado, escalable, consistente
Traducción	Traductores profesionales	Contenido multilingüe en tiempo real
Targeting	Targeting demográfico grueso	Perfilado psicológico individual
Medios sintéticos	Recursos de producción cinematográfica	Minutos por deepfake

Incidentes reales

Informe de interrupción de OpenAI (mayo 2024)

OpenAI publicó un informe documentando la interrupción de cinco operaciones de influencia asistidas por IA de Rusia, China, Irán e Israel que usaban ChatGPT para generar contenido, traducir material y crear personas.

Deepfake de audio en elecciones de Eslovaquia (2023)

Dos días antes de las elecciones parlamentarias de Eslovaquia, una grabación de audio sintética apareció en Facebook, supuestamente mostrando a un candidato discutiendo la compra de votos. El momento fue diseñado específicamente para impedir la verificación de hechos antes de las elecciones.

Deepfakes en las primarias de EE.UU. de 2024

Múltiples incidentes deepfake durante las primarias: una llamada robotizada suplantando al Presidente Biden instando a los demócratas a no votar en New Hampshire; imágenes sintéticas de candidatos en situaciones comprometedoras.

Mitigaciones · Gobernanza

• Procedencia de contenido (C2PA) — Autenticación criptográfica de contenido para verificar el origen de medios generados por IA
• Detección de comportamiento inauténtico coordinado — Análisis de redes para identificar clusters de cuentas operadas por IA
• Etiquetado de contenido IA — Divulgación obligatoria cuando la publicidad política es generada por IA
• Detección de deepfakes — Detección y etiquetado automatizado de medios sintéticos a nivel de plataforma