La empresa moderna funciona con IA de terceros que no siempre sabe que está utilizando. Los modelos fundacionales se invocan desde plataformas SaaS. Las funcionalidades de IA están embebidas en plugins de CRM, herramientas de productividad, editores de código y plataformas de atención al cliente. Cada uno de ellos introduce un proveedor cuyo comportamiento de IA forma parte de la superficie operativa de la empresa, y cuya postura de seguridad se hereda de facto.
La norma 27001:2022 dispone de controles para el riesgo de terceros. La cuestión es si esos controles, tal y como están redactados, cubren realmente lo que los proveedores de IA introducen en la organización.
La creencia habitual
La creencia que cierra la mayoría de las evaluaciones de proveedores es que el proceso estándar de riesgo de terceros gestiona a los proveedores de IA como a cualquier otro proveedor. Se envía el cuestionario de seguridad. Se verifica el estado SOC 2 o 27001. Se revisa el DPA. Se aprueba.
Ese proceso fue diseñado para proveedores cuyo comportamiento está acotado: procesan tus datos según un contrato, en sistemas que controlan, con controles de seguridad que puedes verificar. Los proveedores de IA rompen varios de esos supuestos.
Por qué los proveedores de IA son estructuralmente distintos
1. El producto cambia sin previo aviso
Un proveedor SaaS tradicional actualiza su plataforma según un calendario de versiones, a menudo con notificaciones de cambio y conservando la funcionalidad anterior. Un proveedor de IA que actualiza su modelo subyacente puede hacerlo semanalmente o a diario, sin comunicación clara, y el nuevo modelo puede comportarse de forma materialmente diferente al que evaluaste. Tu cuestionario de seguridad capturó una instantánea. La realidad es un objetivo en constante movimiento.
2. Los datos de entrada viajan más lejos de lo esperado
Las consultas enviadas a sistemas de IA de terceros se convierten, en muchas arquitecturas, en datos de entrenamiento potenciales para versiones futuras del modelo. Incluso cuando las condiciones de servicio excluyen los datos de los clientes del entrenamiento, la realidad de los subencargados en cadena, la retención de registros y las prácticas de ajuste fino raramente es tan limpia como sugiere el contrato. Tu política de gobernanza de datos puede prohibir el envío de datos sensibles a terceros; tus desarrolladores pueden estar haciendo exactamente eso a través de un asistente de codificación con IA sobre el que tu SGSI no tiene ninguna visibilidad.
3. Los modos de fallo son inéditos
El riesgo de terceros tradicional se centra en brechas, indisponibilidad e incumplimiento. Los proveedores de IA añaden modos de fallo que los marcos de control existentes no contemplan: resultados alucinados que se introducen en los flujos de trabajo, recomendaciones sesgadas que llegan a decisiones de producción, ataques de inyección de prompts que explotan sistemas intermedios, contaminación de datos de entrenamiento que afecta al comportamiento específico de cada cliente.
4. La cadena de suministro tiene más capas
Un proveedor de IA a menudo opera sobre el modelo fundacional de otro proveedor de IA, que a su vez opera sobre la infraestructura de otro proveedor. Cada capa tiene su propio tratamiento de datos, su propia gobernanza y su propia postura de seguridad. Tus proveedores de IA de segundo y tercer nivel pueden ser completamente invisibles para ti.
El control del SGSI para el riesgo de terceros fue diseñado para proveedores. Los proveedores de IA son cadenas de suministro.
Qué cubren los controles de la norma 27001:2022 y dónde se detienen
Los controles relevantes del Anexo A de 2022 incluyen A.5.19 a A.5.23 (relaciones con proveedores, cadena de suministro de TIC, servicios en la nube), A.5.21 (seguridad de la información en la cadena de suministro de TIC) y A.5.23 (seguridad de la información para servicios en la nube). Estos controles exigen a la organización definir requisitos de seguridad para los proveedores, verificar que dichos requisitos se cumplen y supervisar el cumplimiento a lo largo del tiempo.
Aplicados a los proveedores de IA, los controles proporcionan una cobertura razonable de primer orden: seguridad de los datos en tránsito, cifrado en reposo, controles de acceso, notificación de incidentes. Dónde se detienen:
- Sin requisito explícito de evaluar las prácticas de gobernanza de IA del proveedor
- Sin requisito explícito de evaluar el comportamiento o la deriva del modelo a lo largo del tiempo
- Sin requisito explícito de auditar los subencargados en cuanto a prácticas específicas de IA
- Sin requisito explícito de monitorizar las actualizaciones del modelo del proveedor y su impacto
Cada una de estas brechas puede abordarse dentro del marco de la norma 27001, pero solo si la organización amplía deliberadamente su metodología de evaluación de proveedores.
La pregunta que la mayoría de los procesos de evaluación de proveedores formulan es «¿Tiene este proveedor una seguridad adecuada?». La pregunta necesaria para los proveedores de IA es «¿Tiene este proveedor una seguridad adecuada Y una gobernanza adecuada del sistema de IA que estamos integrando, Y visibilidad sobre su propia cadena de suministro?».
La segunda pregunta exige pruebas distintas y condiciones contractuales diferentes. También suele requerir la integración entre el equipo de seguridad y el equipo de IA o de ciencia de datos, algo que muchas organizaciones aún no han formalizado.
El cambio estructural
La visibilidad de la cadena de suministro ha sido la dirección de avance en la seguridad de la información durante la última década: la norma 27001:2022 añadió controles específicos, el NIST SP 800-161 codificó la gestión del riesgo en la cadena de suministro de TIC, y la Directiva NIS2 de la UE amplió el alcance a las dependencias críticas de la cadena de suministro. La IA está llevando la tendencia un escalón más allá. La expectativa está pasando de «muéstrame la seguridad de tus proveedores» a «muéstrame la gobernanza de IA de tus proveedores, y la gobernanza de IA de sus propios proveedores».
Las organizaciones que desarrollen esta capacidad ahora cumplirán la expectativa cuando se convierta en el estándar de las adquisiciones. Las que la difieran añadirán ese trabajo más tarde, bajo mayor presión de tiempo, en el contexto de una investigación regulatoria o de una auditoría impulsada por un cliente.
Qué significa esto para tu organización
Elabora explícitamente el inventario de tu cadena de suministro de IA. Comienza por las funcionalidades de IA que tu organización utiliza directamente, y luego rastrea a través de las plataformas SaaS y las herramientas embebidas. Muchas organizaciones descubren entre 3 y 5 veces más proveedores de IA de los que habían contabilizado previamente.
Amplía el cuestionario de seguridad del proveedor con secciones específicas de IA. Prácticas de actualización del modelo, divulgación de subencargados para IA, tratamiento de datos de entrenamiento, monitorización del comportamiento del modelo, respuesta a incidentes para modos de fallo específicos de IA. Zertia publica una plantilla a solicitud.
Contrata teniendo en cuenta el cambio. Tus condiciones con los proveedores de IA deben abordar qué ocurre cuando el modelo subyacente cambia de forma sustancial. Sin esa cláusula, un proveedor puede reemplazar su modelo por uno que se comporte de manera diferente y seguir técnicamente cumpliendo un contrato redactado para el anterior.
Tu SGSI certifica que tú gobiernas la seguridad de la información. Tu cadena de suministro de IA es el lugar donde esa gobernanza está filtrando, silenciosamente, a través de proveedores que fueron incorporados antes de que nadie trazara un límite alrededor de la IA.
¿Listo para extender tu gobernanza de proveedores a la IA?
📩 [email protected] · 🌐 zertia.ai