La mayoría de las organizaciones que operan con IA hoy en día ya cuentan con ISO 27001. La suposición natural es que la certificación cubre sus operaciones de IA. No es así. Y la brecha no es un detalle. Es el punto central.
La creencia habitual
La suposición que moldea la mayoría de los planes de ruta de cumplimiento es la sustitución: si tenemos 27001, tenemos seguridad; si tenemos seguridad, tenemos seguridad en IA. El certificado viaja por inercia para cubrir todo lo que la organización haga a continuación.
Esa lógica se rompe en el punto en que los sistemas de IA empiezan a comportarse de maneras que los activos de información tradicionales no tienen.
Dónde deja de cubrir 27001 lo que la IA hace realmente
27001 protege los activos de información. Su conjunto de controles, modelo de riesgo y metodología de auditoría se construyeron en torno a una pregunta específica: ¿cómo mantiene la organización la confidencialidad, integridad y disponibilidad de la información que posee? La tríada CIA es el prisma.
Las operaciones de IA introducen tres categorías de riesgo que la tríada no resuelve completamente.
1. Riesgo para las personas afectadas por los resultados de la IA
27001 protege a la organización y, de forma indirecta, a las personas cuyos datos posee. No enmarca el riesgo en términos de lo que las decisiones de un sistema de IA hacen a las personas a las que esas decisiones afectan. Un modelo de selección de RR. HH. que rechaza sistemáticamente a candidatos cualificados de determinados grupos no está produciendo una brecha de confidencialidad, un fallo de integridad ni un problema de disponibilidad. Está produciendo daño. El SGSI no tiene ninguna forma nativa de registrar ese riesgo.
2. Riesgo derivado del comportamiento del modelo, no de quién lo ataca
La evaluación de riesgos de 27001 está basada en amenazas: identificar amenazas, identificar vulnerabilidades, evaluar el impacto. Los sistemas de IA fallan mediante mecanismos que no tienen ningún actor de amenaza: deriva, datos de entrenamiento degradados, correlaciones espurias, desplazamiento de distribución. Un modelo puede producir resultados peligrosos sin que nadie lo ataque. El modelo de riesgo de 27001 no busca ese modo de fallo.
3. Riesgo a lo largo del ciclo de vida, no solo del perímetro
El ciclo de vida de 27001 para un activo de información es clasificación, almacenamiento, transmisión y eliminación. El ciclo de vida de la IA es diseño, entrenamiento, validación, despliegue, monitorización, reentrenamiento y retirada. Cada etapa introduce riesgos diferentes, y varios de ellos (gobernanza de datos de entrenamiento, monitorización de la deriva, comportamiento posterior al despliegue) no tienen ningún control 27001 claramente asignado.
27001 fue diseñado para un mundo en el que los sistemas hacen lo que se les dice. Los sistemas de IA a menudo no lo hacen, y el SGSI no tiene vocabulario para esa diferencia.
La pregunta que hacen la mayoría de los equipos de cumplimiento es «¿Qué controles de 27001 cubren nuestros riesgos de IA?». La mejor pregunta es «¿Qué categorías de riesgo de IA no tienen ningún control en nuestro SGSI, y dónde las abordamos?»
Las respuestas honestas suelen incluir el impacto en las partes afectadas, la evaluación de riesgos a nivel de modelo, la gobernanza de los datos de entrenamiento, el diseño de la supervisión humana y la monitorización poscomercialización. Todo esto está cubierto de forma nativa en ISO 42001 y se aborda indirectamente, si acaso, en 27001.
El cambio estructural
Los reguladores y los compradores del sector de la contratación ya están señalando el cambio. El Reglamento de IA de la UE distingue explícitamente entre las obligaciones de seguridad de la información (que 27001 aborda) y las obligaciones de gestión de la IA (que 42001 aborda). El Marco de Gestión de Riesgos de IA del NIST separa los riesgos específicos de la IA de los riesgos generales de ciberseguridad. Los cuestionarios de proveedores de las grandes empresas han empezado a solicitar certificaciones específicas de IA separadas de la certificación de seguridad.
La dirección es clara: 27001 sigue siendo necesario, pero ya no es suficiente para las organizaciones cuyas operaciones implican materialmente la IA.
Qué significa esto para su organización
Inventaríe sus sistemas de IA dentro del documento de alcance de 27001. El primer paso es la visibilidad. Muchas organizaciones descubren que su declaración de alcance de 27001 certificada no menciona la IA en absoluto, lo que crea una ambigüedad sobre qué cubre realmente el certificado en la práctica.
Mapee explícitamente sus riesgos específicos de IA. Tome su registro de riesgos actual y añada las categorías que 27001 no cubre de forma nativa: impacto en las personas afectadas, comportamiento del modelo a lo largo del tiempo, procedencia de los datos de entrenamiento, componentes de IA de terceros. La brecha será visible rápidamente.
Trate 42001 como la extensión natural, no como un competidor. Los dos estándares comparten la Estructura Armonizada. Una organización con un SGSI de 27001 maduro normalmente puede superponer 42001 con un esfuerzo significativamente menor que construir 42001 desde cero. El folleto 15 de esta serie cubre la ruta de migración en detalle.
27001 protege la información que usted posee. 42001 protege a las personas afectadas por las decisiones que toma con esa información. Operar con IA de forma responsable requiere ambos, en ese orden.
¿Listo para extender su SGSI hacia la gobernanza de la IA?
📩 [email protected] · 🌐 zertia.ai