Dónde la IA en RR. HH. genera el mayor riesgo de gobernanza

Los equipos de RR. HH. que implementan IA se enfrentan a obligaciones de gobernanza que abarcan tres fases distintas de la relación laboral. Cometer un error en cualquiera de ellas genera un riesgo legal, reputacional y operativo considerable.

La IA en reclutamiento y selección: la fase de mayor escrutinio

La IA en el reclutamiento atrae la mayor atención regulatoria a nivel mundial porque es donde la discriminación algorítmica tiene las consecuencias más graves, ya que afecta a quién accede siquiera a las oportunidades de empleo.

La obligación central en todas las jurisdicciones principales es la prueba de impacto dispar: ¿produce la IA resultados significativamente distintos para los solicitantes de diferentes grupos protegidos? En EE. UU., la guía técnica de mayo de 2023 de la EEOC confirma que el Título VII se aplica a las herramientas de IA de contratación incluso cuando provienen de proveedores externos, y que el empleador asume la responsabilidad de los resultados discriminatorios. En el Reino Unido, la discriminación indirecta prevista en la Equality Act 2010 se aplica a las herramientas de selección basadas en IA. En la UE, los sistemas de IA para el empleo son de alto riesgo conforme al Anexo III del Reglamento de IA de la UE, por lo que se aplican obligaciones plenas de evaluación de conformidad y supervisión humana. En Australia, la Racial Discrimination Act, la Sex Discrimination Act, la Disability Discrimination Act y la Age Discrimination Act se aplican todas a los resultados discriminatorios de la IA de contratación.

Antes de implementar cualquier herramienta de IA de reclutamiento: exija al proveedor datos de pruebas de sesgo para todas las características protegidas relevantes en su jurisdicción; realice su propio análisis de impacto dispar utilizando la regla de los cuatro quintos como punto de partida; implemente una revisión humana genuina de las recomendaciones de la IA antes de que se tomen decisiones; documente sus procesos de pruebas de sesgo y revisión humana; y revise los materiales dirigidos a los candidatos para garantizar la divulgación del uso de IA cuando así se exija (NYC LL144, la Illinois AI Video Interview Act, y las obligaciones de transparencia del RGPD/RGPD del Reino Unido).

La IA en la gestión del desempeño: el desafío del consentimiento y del proceso

La IA de gestión del desempeño (seguimiento de la productividad, puntuación de calidad, fijación algorítmica de KPI) plantea tres desafíos de gobernanza distintos.

En primer lugar, la transparencia: los empleados deben ser informados de que se utiliza IA para evaluar su desempeño. Conforme a la Privacy Act australiana, el RGPD y el RGPD del Reino Unido, los avisos de privacidad deben actualizarse para reflejar el uso de IA en la gestión del desempeño. A partir de diciembre de 2026, la Privacy Act australiana exigirá la divulgación específica de la toma de decisiones sustancialmente automatizada en las políticas de privacidad. El Employment Practices Code de la ICO exige a los empleadores del Reino Unido divulgar el seguimiento en el lugar de trabajo de forma accesible.

En segundo lugar, la precisión y la posibilidad de impugnación: las puntuaciones de desempeño de la IA son tan fiables como las métricas subyacentes. Una IA que mide las pulsaciones de teclado por hora capta la cantidad de producción, pero no la calidad, el contexto ni la colaboración. Es probable que las medidas disciplinarias basadas en datos de desempeño generados por IA que estén sistemáticamente sesgados o capten las señales equivocadas no superen los requisitos de equidad procesal en los procedimientos por despido improcedente. Otorgue a los empleados la capacidad de impugnar los datos de desempeño generados por IA e implemente una revisión humana de las evaluaciones antes de que estas desencadenen consecuencias disciplinarias.

En tercer lugar, el riesgo psicosocial: la monitorización del desempeño mediante IA genera riesgos psicosociales documentados en los lugares de trabajo australianos en virtud del marco de la WHS (seguridad y salud en el trabajo). La vigilancia constante, los objetivos algorítmicos impredecibles y la puntuación opaca crean las condiciones propicias para el daño psicológico relacionado con el trabajo. Los empleadores deben evaluar y controlar estos riesgos conforme a las normativas estatales y territoriales sobre riesgos psicosociales (Victoria: entrada en vigor el 1 de diciembre de 2025; el resto de las jurisdicciones: ya vigentes).

La IA en la planificación de la plantilla: reestructuración y despidos por redundancia

La IA se utiliza cada vez más para modelar escenarios de plantilla, identificar oportunidades de eficiencia y clasificar a los empleados de cara a posibles despidos por redundancia. Este caso de uso conlleva el riesgo legal más grave, porque afecta directamente a la seguridad del empleo.

En Australia, la Fair Work Act exige una consulta genuina antes de introducir cambios significativos en el lugar de trabajo, incluidos los despidos por redundancia. Cuando se utiliza el modelado por IA para identificar puestos redundantes, el empleador debe poder explicar y justificar los criterios de selección ante los empleados afectados y sus representantes, y los resultados del modelo deben someterse a una revisión humana genuina. Los criterios de selección para despido por redundancia que identifiquen de forma desproporcionada a trabajadores de una determinada edad, género o condición de discapacidad pueden constituir discriminación ilegal, incluso si el modelo no utilizó esas características directamente.

El caso del algoritmo de contratación de Amazon resulta instructivo: un modelo entrenado con datos históricos refleja patrones históricos, incluida la discriminación histórica. Una IA de selección para despido por redundancia entrenada con datos de una plantilla que anteriormente era menos diversa tenderá a perpetuar esa falta de diversidad a través de sus selecciones. Exija una auditoría de sesgo independiente de cualquier modelo de IA de selección para despido por redundancia antes de utilizarlo, y examine los resultados de la selección en busca de patrones por características protegidas antes de comunicar cualquier decisión de despido por redundancia.

Cómo construir la infraestructura de gobernanza para la IA de RR. HH.

Un marco sostenible de gobernanza de la IA para RR. HH. requiere: un registro de IA que enumere todas las herramientas de IA de RR. HH., su finalidad, los datos que utilizan y las decisiones que influyen; protocolos de pruebas de sesgo para cada herramienta, realizados al menos anualmente y después de cualquier actualización significativa del modelo; un requisito de supervisión humana en el proceso (human-in-the-loop) para todas las decisiones de RR. HH. con consecuencias relevantes: la IA informa, la persona decide; un marco de divulgación a los empleados sobre lo que se les comunica acerca del uso de IA en cada fase de su empleo; un proceso de impugnación que establezca cómo pueden los empleados cuestionar las evaluaciones generadas por IA; y un plan de respuesta a incidentes para cuando la IA de RR. HH. produzca errores o resultados discriminatorios.

Nada de esto tiene por qué ser complejo. Una pequeña empresa con una o dos herramientas de IA de RR. HH. puede cumplir estos requisitos con una documentación sencilla y un proceso claro. Lo importante es que la gobernanza sea real, y no un documento de política que nunca se aplica. Los reguladores y los tribunales laborales examinan cada vez con mayor frecuencia si la gobernanza de la IA documentada en la política se implementó realmente en la práctica.

Lectura adicional: ILO AI and Labour

Lecturas relacionadas

Lectura adicional: ILO AI and Labour