Cómo se utiliza la IA en los sistemas de prestaciones y ayudas sociales

Los organismos gubernamentales de todo el mundo están implantando la IA en la administración de prestaciones sociales: herramientas algorítmicas que evalúan la elegibilidad, detectan fraudes, priorizan solicitudes y señalan casos para su revisión humana. La escala es considerable: una encuesta de 2020 realizada a 142 organismos federales estadounidenses reveló que el 45 % estaba utilizando o planeaba utilizar el aprendizaje automático para agilizar las operaciones y mejorar la prestación de servicios. El escándalo del robodebt en Australia, las investigaciones sobre el algoritmo de prestaciones sociales de Nueva Zelanda, los sistemas algorítmicos de puntuación de riesgo del Departamento de Trabajo y Pensiones (DWP) del Reino Unido, y herramientas equivalentes en los Estados miembros de la UE, han situado a la IA en la administración de prestaciones sociales en el centro de la controversia jurídica y política.

La tensión central es estructural: la IA aplicada a las prestaciones sociales suele basarse en una lógica de detección de fraude, diseñada para identificar anomalías y excepciones. Esta orientación implica que la IA puede señalar y perjudicar sistemáticamente a las personas con historiales laborales irregulares, situaciones de convivencia no estándar o circunstancias que se apartan del perfil habitual del solicitante de prestaciones, lo que afecta de forma desproporcionada a personas con discapacidad, personas con empleo informal, familias monoparentales y personas de comunidades minoritarias. Una investigación publicada en Nature Communications (julio de 2025) lo confirma: las ganancias de velocidad que aportan los sistemas de IA para prestaciones sociales vienen acompañadas de pérdidas de precisión documentadas, con un aumento medible en la tasa de personas a las que se deniegan injustamente prestaciones a las que tienen derecho.

Australia, el caso robodebt y sus consecuencias

El sistema robodebt de Australia, que utilizaba un sistema automatizado de promediado de ingresos para emitir avisos de deuda por prestaciones sociales contra beneficiarios de Centrelink sin revisión humana de las circunstancias individuales, fue calificado por la Comisión Real como una política "burda y cruel" que causó graves perjuicios a cientos de miles de personas. El informe final de la Comisión Real de 2023 concluyó que el sistema no solo era injusto, sino que se basaba en un fundamento legal incorrecto. Las consecuencias han marcado la gobernanza de la IA en Australia: la Guía para la Adopción de la IA (AI6) del gobierno, que sustituyó al Estándar Voluntario de Seguridad de la IA en octubre de 2025, y el marco de salvaguardas obligatorias propuesto en el Plan de IA para la Administración Pública Australiana exigen explícitamente la supervisión humana de las decisiones de IA con efectos significativos sobre las prestaciones sociales.

En virtud de la Ley de Privacidad de 1988 (Privacy Act 1988) de Australia, Services Australia y otros organismos que gestionan información personal en decisiones automatizadas sobre prestaciones sociales deben cumplir con los Principios Australianos de Privacidad. La obligación de transparencia en la toma de decisiones automatizadas, que entrará en vigor el 10 de diciembre de 2026 en virtud de la Ley de Modificación de la Privacidad y Otra Legislación de 2024 (Privacy and Other Legislation Amendment Act 2024), exigirá a los organismos gubernamentales que declaren en su Política de Privacidad cuándo se utiliza información personal en decisiones sustancialmente automatizadas con efectos significativos sobre las personas, incluidas las decisiones sobre elegibilidad y pago de prestaciones.

Reino Unido, las herramientas algorítmicas del DWP y su impugnación legal

El Departamento de Trabajo y Pensiones (DWP) del Reino Unido ha implantado múltiples herramientas algorítmicas en la administración de prestaciones sociales desde aproximadamente 2022. El Estándar de Reporte de Transparencia Algorítmica (Algorithmic Transparency Reporting Standard), obligatorio para todos los departamentos gubernamentales desde el 8 de mayo de 2025 (según las directrices del Government Digital Service), exige la divulgación pública de las herramientas algorítmicas significativas utilizadas en la toma de decisiones gubernamentales. Las herramientas del DWP incluyen un algoritmo de puntuación de riesgo que asigna a los solicitantes una puntuación que señala a quienes superan un determinado umbral para su revisión por parte del personal del DWP, así como sistemas de cotejo de datos que identifican discrepancias entre los datos del DWP y otros datos gubernamentales o de la HMRC (Hacienda del Reino Unido).

La impugnación legal de las decisiones algorítmicas sobre prestaciones sociales en el Reino Unido se articula a través de varias vías: la revisión judicial (judicial review) del proceso de toma de decisiones (incluyendo si el algoritmo se aplicó conforme a la ley y si se proporcionaron motivos adecuados); las solicitudes de acceso a datos personales en virtud del RGPD del Reino Unido para obtener los datos personales utilizados en la decisión; las reclamaciones ante la Oficina del Comisionado de Información (Information Commissioner's Office) cuando se han vulnerado los derechos de protección de datos; y las apelaciones ante el Tribunal de Seguridad Social y Manutención Infantil, el Tribunal de Primera Instancia (First-tier Tribunal) o el Tribunal Superior (Upper Tribunal), según el tipo de prestación. El Registro de Seguimiento del Gobierno Automatizado (Tracking Automated Government, TAG) del Public Law Project documenta las herramientas de IA utilizadas por el gobierno del Reino Unido y constituye un recurso para las impugnaciones legales.

Unión Europea, el Reglamento de IA de la UE y los servicios esenciales

En virtud del Reglamento de IA de la UE (EU AI Act), los sistemas de IA utilizados en la administración del acceso a servicios públicos y prestaciones esenciales, incluidos la seguridad social, la vivienda, la sanidad y la educación, se clasifican como de alto riesgo con arreglo al Anexo III. Esta clasificación abarca la IA para prestaciones sociales desplegada por organismos gubernamentales. Las obligaciones para los sistemas de alto riesgo incluyen: requisitos de supervisión humana (una persona competente debe poder comprender, supervisar y anular los resultados de la IA); transparencia (se debe informar a las personas de que se ha utilizado IA en una decisión que les afecta); evaluaciones de impacto sobre los derechos fundamentales antes de su despliegue; supervisión poscomercialización; y notificación de incidentes graves. Estas obligaciones se aplicarán a partir de diciembre de 2027 para los sistemas independientes, conforme al calendario de la Omnibus.

En virtud del artículo 22 del RGPD, las personas tienen derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado que produzca efectos jurídicos o efectos significativos de naturaleza similar; la denegación de prestaciones sociales entra dentro de este supuesto. Las personas pueden solicitar una revisión humana de las decisiones automatizadas sobre prestaciones sociales, impugnar la decisión y obtener una explicación de la lógica aplicada. En algunas jurisdicciones, las legislaciones de los Estados miembros añaden protecciones adicionales.

Qué hacer si una decisión de la IA sobre sus prestaciones es incorrecta

Si cree que se ha tomado incorrectamente una decisión automatizada o asistida por IA sobre sus prestaciones sociales: utilice el proceso formal de apelación o revisión específico del tipo de prestación; toda prestación social cuenta con un derecho de apelación establecido por ley, y el hecho de que haya intervenido la IA no elimina este derecho. Solicite una explicación formal de cómo se tomó la decisión; en virtud del RGPD en la UE/Reino Unido y de la Privacy Act en Australia, usted tiene derecho a recibir información significativa sobre el tratamiento automatizado que le afectó de forma importante. Solicite acceso a los datos personales utilizados en la decisión, ya que esto puede revelar inexactitudes en los datos subyacentes que provocaron un resultado algorítmico incorrecto. Póngase en contacto con una organización de derechos sociales o un servicio de asesoramiento ciudadano; muchos ofrecen asesoramiento gratuito y pueden ayudar con las apelaciones de decisiones algorítmicas sobre prestaciones sociales. En el Reino Unido, póngase en contacto con el Public Law Project si cree que un algoritmo gubernamental se ha aplicado de forma ilegal. En Australia, la OAIC (Oficina del Comisionado de Información de Australia) gestiona las reclamaciones en virtud de la Privacy Act y puede investigar las inquietudes relacionadas con la toma de decisiones algorítmicas.

Lecturas relacionadas

Para más información: Principios de IA de la OCDE