Donde la capacidad de la IA cruza al territorio de daños masivos

Qué es este riesgo

Uso de sistemas de IA para desarrollar ciberarmas, desarrollar o mejorar armas existentes (incluyendo armas autónomas letales o agentes QBRN), o usar armas para causar daño masivo a individuos, infraestructuras o ecosistemas.

Cómo ocurre · Mecanismos

• Descubrimiento de vulnerabilidades asistido por IA — La IA puede escanear bases de código e identificar vulnerabilidades explotables más rápido que los investigadores humanos
• Generación automatizada de malware — Los LLMs pueden generar y personalizar código de malware, reduciendo la barrera técnica para ataques sofisticados
• Uplift QBRN — La IA puede potencialmente acelerar el desarrollo de armas biológicas, químicas o nucleares
• Armas autónomas letales (AAL) — Armas impulsadas por IA que pueden identificar y atacar objetivos sin autorización humana
• Ataques a infraestructuras críticas — La IA optimiza estrategias de ataque contra redes eléctricas, sistemas de agua y sistemas financieros

Incidentes reales

Ciberataques asistidos por IA (Múltiples, 2023–2025)

Microsoft, Google y OpenAI documentaron actores estatales (Rusia, China, Corea del Norte, Irán) usando LLMs para apoyar operaciones de ciberataque.

Preocupaciones de bioseguridad (RAND, 2024)

Investigadores de RAND y Johns Hopkins demostraron que los modelos de IA de última generación podían proporcionar uplift significativo a no expertos que intentan desarrollar armas biológicas.

Gaza: IA en la selección de objetivos militares (2024)

Informes sobre el uso de sistemas de selección de objetivos de IA (Lavender, Gospel) en Gaza plantearon preguntas urgentes sobre la IA en la toma de decisiones letales.

Mitigaciones · Gobernanza

• Restricciones de investigacion de doble uso — Implementar salvaguardas de bioseguridad en sistemas de IA para prevenir uplift QBRNE
• Acuerdos internacionales — Apoyar tratados multilaterales sobre armas letales autonomas y sus consecuencias
• Controles de exportacion — Restringir la exportacion de sistemas de IA susceptibles de ser convertidos en armas ofensivas
• Lineas rojas en el entrenamiento de modelos — Definir categorias de capacidades que los sistemas de IA nunca deberian proporcionar a los usuarios
• Monitorizacion de uso — Monitorizar el uso de la API en busca de patrones compatibles con investigacion sobre armamento