En octubre de 2024, la Oficina del Comisionado de Información de Australia (OAIC) publicó nuevas pautas sobre el uso de productos de inteligencia artificial (IA), en particular IA generativa. Esta guía está diseñada para ayudar a las empresas australianas a cumplir con sus obligaciones de privacidad al utilizar herramientas de IA que gestionan información personal.

Elementos Clave de la Guía de Privacidad de IA de la OAIC

Las pautas de la OAIC destacan varias áreas críticas para gestionar la privacidad en IA, desde la selección de herramientas adecuadas hasta garantizar el uso responsable de los datos y la transparencia. Aquí está el resumen de las principales recomendaciones:

1. Privacidad desde el Diseño y Diligencia Debida

Se anima a las empresas a seguir un enfoque de «privacidad desde el diseño», integrando las consideraciones de privacidad desde las etapas iniciales. Esto implica realizar Evaluaciones de Impacto en la Privacidad (PIAs) para evaluar los riesgos y asegurar que los productos de IA cumplan con los estándares de privacidad australianos.

2. Transparencia y Actualización de Políticas de Privacidad

La transparencia es fundamental cuando se utiliza IA. Las empresas deben actualizar sus políticas de privacidad para explicar claramente cómo las herramientas de IA utilizan los datos personales e identificar cualquier interacción pública con IA. Esto ayuda a generar confianza y a cumplir con los estándares de privacidad.

3. Minimización de Datos y Consentimiento

La OAIC aconseja minimizar la entrada de datos personales en los sistemas de IA, utilizando solo lo necesario. Los datos sensibles requieren consentimiento explícito, y cualquier uso más allá del propósito original debe estar alineado con las expectativas del usuario. Esto limita los riesgos de privacidad y garantiza el cumplimiento.

4. Mitigación de Riesgos de Privacidad: Sesgo, Seguridad y Precisión

Las pautas señalan varios riesgos de privacidad que las empresas deben abordar:

• Sesgo: La IA puede reforzar involuntariamente sesgos presentes en sus datos de entrenamiento, lo que podría llevar a resultados injustos. Las empresas deben probar los sistemas de IA con datos diversos.
• Seguridad: Es esencial proteger los datos personales para evitar filtraciones, especialmente cuando se utilizan sistemas de IA en la nube.
• Precisión: Los sistemas de IA, en particular los modelos generativos, pueden producir información incorrecta o sesgada. La supervisión humana y las auditorías regulares ayudan a gestionar este riesgo.

5. Gobernanza y Responsabilidad Continuas

La OAIC recomienda establecer medidas de responsabilidad para el uso de IA, incluyendo la documentación de prácticas de privacidad y auditorías regulares. En usos de alto impacto, la supervisión humana es esencial para verificar los resultados de la IA y proteger a las personas.

Fundamentos Legales: La Ley de Privacidad y los Principios Australianos de Privacidad (APPs)

La Ley de Privacidad de 1988 en Australia y sus Principios Australianos de Privacidad (APPs) forman la base para la protección de datos en IA. Las disposiciones clave incluyen:

• Recolección y Uso de Datos (APP 3): Limitar la recolección de datos de IA a lo necesario para su propósito.
• Seguridad (APP 11): Proteger los datos personales utilizados por la IA contra el acceso no autorizado, especialmente en entornos de nube.
• Acceso del Usuario (APPs 12 y 13): Permitir que los individuos accedan y corrijan sus datos personales en los sistemas de IA, asegurando transparencia y confianza.

Normas ISO como Referencia

Estándares globales como el ISO/IEC 27001 para la gestión de seguridad de la información proporcionan un punto de referencia útil para las empresas australianas que adoptan IA, apoyando prácticas de seguridad de datos y gestión de riesgos alineadas con normas internacionales.

Puntos Clave para Empresas Australianas

1. Limitar la Entrada de Datos: Utilizar solo los datos esenciales para el procesamiento de IA.
2. Asegurar el Consentimiento: Obtener consentimiento explícito para datos sensibles y usos secundarios.
3. Garantizar la Transparencia: Actualizar las políticas de privacidad para explicar claramente el uso de datos de IA.
4. Priorizar Seguridad y Precisión: Auditar regularmente los modelos de IA para proteger los datos y mantener la precisión.
5. Documentar y Supervisar: Mantener supervisión y responsabilidad, especialmente en aplicaciones de IA de alto riesgo.

Conclusión

Las guías de la OAIC establecen un camino claro para el uso responsable de la IA, destacando la privacidad, la seguridad y la transparencia. Siguiendo estos principios, las empresas australianas pueden aprovechar los beneficios de la IA mientras protegen la información personal, construyen confianza y aseguran el cumplimiento con las leyes de privacidad.