Examinando las Ambiciones, los Desafíos de Cumplimiento y las Implicaciones a Largo Plazo de la Ley de IA de Nueva York
La Ley de IA de Nueva York (Ley Local 144), que entró en vigor en enero de 2023, representa un intento innovador de regular las herramientas de contratación impulsadas por IA. Dirigida a las Herramientas de Decisión de Empleo Automatizadas (AEDTs, por sus siglas en inglés), esta legislación busca fomentar la transparencia, la equidad y la responsabilidad en las prácticas de reclutamiento que emplean IA. Sin embargo, casi un año después, el impacto de la ley ha sido mínimo. Las tasas de cumplimiento se mantienen bajas y, en muchos casos, las empresas evitan cumplir con los requisitos de la ley debido a su alcance limitado y la falta de capacidad de aplicación. Esta desconexión entre los objetivos de la ley y sus resultados prácticos resalta problemas más amplios en la regulación de IA.
Este artículo explora las intenciones de la Ley de IA de Nueva York, los obstáculos que enfrentan las empresas para cumplirla y lo que estos desafíos indican para el futuro de la contratación basada en IA.
Limitaciones de la Ley de IA de Nueva York
La Ley de IA de Nueva York fue diseñada con metas ambiciosas: requiere que las empresas que utilizan AEDTs realicen auditorías de sesgo anuales, publiquen los resultados y notifiquen a los candidatos si se utiliza IA en el proceso de toma de decisiones de contratación. Sin embargo, un reciente estudio de la Universidad de Cornell encontró que solo 18 de 391 empleadores encuestados en Nueva York habían publicado los resultados de sus auditorías de sesgo, lo que evidencia una importante brecha en el cumplimiento.
La experta en IA Hilke Schellmann describe la ley como “sin poder de aplicación”, explicando que muchas empresas no cumplen con sus estándares debido a la falta de supervisión efectiva de la ley. La baja tasa de cumplimiento demuestra que, aunque la ley busca fomentar la transparencia, aún no ha logrado que las empresas implementen cambios significativos.
Alcance Limitado de las AEDTs
Inicialmente, la Ley de IA de Nueva York se redactó para abarcar una amplia gama de herramientas de contratación. Sin embargo, fue modificada para aplicar únicamente a herramientas totalmente automatizadas que no tengan participación humana en la toma de decisiones. Esta definición limitada permite a las empresas incluir cierto nivel de revisión humana, eximiéndolas de los requisitos de la ley.
Según Amanda Blair, abogada de Fisher Phillips, este alcance limitado fue un punto de controversia, ya que se consideró que una definición más amplia sería demasiado onerosa para las empresas. El Departamento de Protección al Consumidor y al Trabajador de Nueva York (DCWP, por sus siglas en inglés), encargado de supervisar el cumplimiento, optó por este alcance limitado para facilitar los requisitos de cumplimiento, aunque finalmente ha debilitado la efectividad de la ley.
Escasa Conciencia entre los Candidatos
Aunque la ley obliga a las empresas a informar a los candidatos cuando se utiliza IA en los procesos de contratación, los expertos señalan que muchos postulantes desconocen esta información. Esta falta de conciencia significa que los candidatos son menos propensos a presentar quejas, lo que complica los esfuerzos de aplicación de la ley. Un portavoz de la ciudad mencionó que el DCWP ha recibido pocas quejas, lo que sugiere que los candidatos pueden no comprender completamente sus derechos bajo esta ley.
Schellmann comenta: “Si los candidatos no saben que se está utilizando IA, no pueden expresar sus inquietudes. Sin que las empresas publiquen los resultados de las auditorías, los solicitantes de empleo quedan en la oscuridad”.
Desafíos de Cumplimiento para las Empresas
Si bien algunas empresas están trabajando para cumplir con los requisitos de la ley, muchas encuentran que el cumplimiento es un desafío debido a las complejidades técnicas y las preocupaciones sobre su reputación.
Ambigüedad en los Estándares de Auditoría de IA
Uno de los principales desafíos es la falta de métodos estandarizados para llevar a cabo auditorías de sesgo de IA. Sethupathy, experto en regulación de IA, señala que “las auditorías significativas requieren más que métricas básicas. Sin un estándar claro, es difícil para las empresas garantizar el cumplimiento mientras producen resultados que reflejen verdaderamente la equidad del sistema”.
Divulgación Pública: Equilibrio entre Transparencia y Riesgo
El requisito de la ley de publicar los resultados de las auditorías también ha generado debate, ya que muchas empresas temen posibles daños a su reputación. Las multas mínimas, que oscilan entre $500 y $1,500 por día, significan que algunas empresas prefieren arriesgarse a no cumplir antes que exponerse al escrutinio público.
Más Allá de Nueva York: Una Tendencia Creciente en la Regulación de IA
A pesar de sus limitaciones, la Ley de IA de Nueva York está influyendo en las tendencias regulatorias más allá de la ciudad. Estados como Nueva Jersey y California están considerando medidas similares, y la próxima Ley de IA de la Unión Europea podría establecer un estándar global con un enfoque más fuerte en la gobernanza, el monitoreo continuo y los controles, en lugar de la divulgación pública.
Sethupathy prevé que las futuras regulaciones adoptarán un enfoque más proactivo: “Probablemente veremos un cambio hacia la supervisión interna y la responsabilidad integral”. Esta tendencia refleja el marco de cumplimiento estructurado de la UE, que enfatiza la gobernanza y el monitoreo sin exigir que las empresas publiquen los resultados de sus auditorías públicamente.
¿Qué Sigue para el Cumplimiento de IA en la Contratación?
Si bien la Ley de IA de Nueva York es un paso pionero, subraya la necesidad de definiciones más claras, una aplicación más estricta y procesos de auditoría estandarizados. Schellmann afirma que “la transparencia por sí sola no abordará el sesgo de IA; es solo una parte de la solución”. A medida que las regulaciones de IA evolucionan, las empresas comprometidas con prácticas de contratación ética deberán adaptarse a estos estándares para mantenerse competitivas y cumplir con la normativa.
Conclusión
La Ley de IA de Nueva York buscaba establecer estándares éticos en las prácticas de contratación impulsadas por IA, pero su limitada capacidad de aplicación y su alcance restringido han obstaculizado su impacto. Como la primera legislación de este tipo en los Estados Unidos, sigue siendo un desarrollo crucial, que destaca la necesidad de marcos sólidos que aseguren la responsabilidad de la IA en la contratación. Las empresas que tomen medidas proactivas para alinearse con estos estándares se posicionarán como líderes en el uso responsable de IA, apoyando un cambio más amplio en la industria hacia la transparencia y la equidad en los procesos de reclutamiento.
