La auditoría de sesgos en IA es el proceso sistemático de probar los sistemas de IA en busca de resultados discriminatorios en función de características protegidas: raza, género, edad, discapacidad, religión, origen nacional y otros atributos protegidos por la ley. En 2026, la auditoría de sesgos está pasando de ser una buena práctica voluntaria a un requisito legal. La Ley Local 144 de Nueva York, vigente desde julio de 2023, exige auditorías anuales independientes de sesgos en las herramientas automatizadas de decisión en el empleo, con divulgación pública de los resultados. La Ley de IA original de Colorado habría exigido a los responsables del despliegue de IA de alto riesgo que realizaran evaluaciones de impacto sobre la discriminación algorítmica, pero fue derogada y sustituida por la SB 189 (vigente desde el 1 de enero de 2027), una ley más limitada basada en la divulgación. La Ley de IA de la UE exige que los sistemas de IA de alto riesgo incluyan procesos de supervisión y mitigación de sesgos a lo largo de todo el ciclo de vida del sistema. Las organizaciones que esperan a que se produzca una acción de aplicación normativa para empezar a realizar pruebas de sesgo se enfrentan a costes significativamente más altos y a daños reputacionales mayores que aquellas que integran las pruebas en sus marcos de gobernanza desde ahora.

En qué consiste realmente una auditoría de sesgos

Una auditoría de sesgos no es una única prueba. Es una evaluación estructurada que examina si un sistema de IA produce resultados diferentes para distintos grupos demográficos a tasas que no pueden explicarse por factores legítimos y no discriminatorios. La metodología básica consiste en definir la decisión que se está tomando (contratación, crédito, fijación de precios, asignación de servicios), identificar las características protegidas pertinentes para esa decisión, medir las tasas de resultados entre los distintos grupos demográficos, calcular los ratios de impacto adverso o las métricas de paridad estadística, investigar las causas raíz de cualquier disparidad detectada y documentar los hallazgos y las medidas correctoras.

La medida estadística más habitual es la regla de los cuatro quintos (también llamada regla del 80%): si la tasa de selección de un grupo protegido es inferior al 80% de la tasa del grupo más seleccionado, se indica un impacto adverso. La Ley Local 144 de Nueva York utiliza este marco. Sin embargo, la paridad estadística es solo una medida: la igualdad de oportunidades, la paridad predictiva, la calibración y la equidad individual son métricas alternativas que pueden resultar más adecuadas según el contexto. Ninguna métrica por sí sola capta todas las dimensiones de la equidad, y la elección de la métrica es en sí misma una decisión de gobernanza que debe documentarse y justificarse.

Requisitos legales por jurisdicción

La Ley Local 144 de Nueva York exige a los empleadores que utilizan herramientas automatizadas de decisión en el empleo que obtengan una auditoría anual independiente de sesgos realizada por un auditor externo, que publiquen los resultados en su sitio web y que notifiquen a los candidatos que se está utilizando la herramienta. La Ley de IA de Colorado amplía las obligaciones más allá de la contratación para abarcar el crédito, los seguros, la vivienda y los servicios gubernamentales, exigiendo a los responsables del despliegue de IA de alto riesgo que realicen evaluaciones de impacto, implementen políticas de gestión de riesgos y notifiquen a las personas afectadas. La Ley de IA de la UE exige a los proveedores de sistemas de IA de alto riesgo que implementen medidas para identificar, prevenir y mitigar los sesgos, y que utilicen conjuntos de datos de entrenamiento, validación y prueba que sean suficientemente pertinentes, representativos y estén libres de errores.

Implementación práctica

Integre las pruebas de sesgo en el ciclo de vida de la IA, no como un ejercicio de cumplimiento anual, sino como un proceso de supervisión continua. Antes del despliegue: pruebe el sistema de IA con datos históricos para identificar las disparidades de referencia. Durante el despliegue: supervise los resultados en producción entre los distintos grupos demográficos de forma continua. Con regularidad: realice auditorías formales de sesgos a intervalos adecuados al nivel de riesgo y a los requisitos normativos. Corrección: cuando se detecten disparidades, investigue las causas raíz (datos de entrenamiento sesgados, variables proxy, bucles de retroalimentación) y aplique las correcciones necesarias. Documentación: mantenga registros de todas las pruebas, hallazgos y medidas correctoras; esta es la evidencia que los reguladores y los auditores solicitarán.

Más información: NIST AI RMF | Principios de IA de la OCDE

Lecturas relacionadas

Más información: NIST AI RMF | Principios de IA de la OCDE