Comment l'IA est utilisée dans les systèmes de prestations sociales

Partout dans le monde, les administrations publiques déploient l'IA dans la gestion des prestations sociales : des outils algorithmiques qui évaluent l'éligibilité, détectent la fraude, hiérarchisent les demandes et signalent des dossiers pour un examen humain. L'ampleur du phénomène est significative : une enquête menée en 2020 auprès de 142 agences fédérales américaines a révélé que 45 % d'entre elles utilisaient ou prévoyaient d'utiliser l'apprentissage automatique pour rationaliser leurs opérations et améliorer la prestation de services. Le scandale du Robodebt en Australie, les enquêtes sur les algorithmes de prestations sociales en Nouvelle-Zélande, les systèmes de notation algorithmique des risques du ministère britannique du Travail et des Pensions (Department for Work and Pensions, DWP), ainsi que des outils équivalents dans les États membres de l'UE, ont tous placé l'IA dans la gestion des prestations sociales au cœur de controverses juridiques et politiques.

La tension fondamentale est structurelle : l'IA appliquée aux prestations sociales repose souvent sur une logique de détection de la fraude, conçue pour repérer les anomalies et les exceptions. Cette orientation signifie que l'IA peut systématiquement signaler et désavantager les personnes ayant des parcours professionnels irréguliers, des situations de vie atypiques, ou des circonstances qui s'écartent du profil type du demandeur de prestations, ce qui touche de manière disproportionnée les personnes en situation de handicap, les personnes en emploi informel, les familles monoparentales et les personnes issues de communautés minoritaires. Une étude publiée dans Nature Communications (juillet 2025) le confirme : les gains de rapidité obtenus grâce aux systèmes d'IA appliqués aux prestations sociales s'accompagnent de pertes de précision documentées, avec une augmentation mesurable du taux de refus injustifié de prestations auxquelles les personnes ont droit.

Australie : le Robodebt et ses conséquences

Le dispositif australien du Robodebt, qui utilisait un système automatisé de calcul de revenu moyen pour émettre des avis de dette envers les bénéficiaires du Centrelink sans examen humain des circonstances individuelles, a été qualifié par la Commission royale de politique « grossière et cruelle » ayant causé un préjudice grave à des centaines de milliers de personnes. Le rapport final de la Commission royale, publié en 2023, a conclu que le dispositif n'était pas seulement injuste, mais reposait également sur un fondement légal erroné. Ces conséquences ont façonné la gouvernance de l'IA en Australie : les lignes directrices gouvernementales pour l'adoption de l'IA, Guidance for AI Adoption (AI6), qui ont remplacé la norme volontaire de sécurité de l'IA (Voluntary AI Safety Standard) en octobre 2025, ainsi que le cadre de garanties obligatoires proposé dans le cadre du plan IA pour la fonction publique australienne (AI Plan for the Australian Public Service), exigent explicitement une supervision humaine des décisions de l'IA ayant un impact significatif sur les prestations sociales.

En vertu du Privacy Act 1988 (loi sur la protection de la vie privée), Services Australia et les autres agences traitant des informations personnelles dans le cadre de décisions automatisées relatives aux prestations sociales doivent se conformer aux Australian Privacy Principles (principes australiens de protection de la vie privée). L'obligation de transparence sur la prise de décision automatisée, applicable à compter du 10 décembre 2026 en vertu du Privacy and Other Legislation Amendment Act 2024, imposera aux administrations publiques de préciser dans leur politique de confidentialité les cas où des informations personnelles sont utilisées dans des décisions substantiellement automatisées ayant des effets significatifs sur les personnes, y compris les décisions relatives à l'éligibilité aux prestations et aux paiements.

Royaume-Uni : les outils algorithmiques du DWP et les recours juridiques

Le ministère britannique du Travail et des Pensions (Department for Work and Pensions, DWP) déploie de multiples outils algorithmiques dans la gestion des prestations sociales depuis environ 2022. L'Algorithmic Transparency Reporting Standard (norme de transparence sur les rapports algorithmiques), obligatoire pour tous les ministères depuis le 8 mai 2025 (selon les directives du Government Digital Service), impose la divulgation publique des outils algorithmiques significatifs utilisés dans la prise de décision gouvernementale. Les outils du DWP comprennent un algorithme de notation des risques qui attribue aux demandeurs un score signalant, au-delà d'un certain seuil, les dossiers à examiner par le personnel du DWP, ainsi que des systèmes de recoupement de données qui identifient les incohérences entre les données du DWP et celles d'autres administrations ou de l'HMRC (administration fiscale britannique).

Au Royaume-Uni, la contestation juridique des décisions algorithmiques relatives aux prestations sociales peut emprunter plusieurs voies : le contrôle juridictionnel (judicial review) du processus décisionnel (portant notamment sur la légalité de l'application de l'algorithme et le caractère adéquat des motifs fournis) ; les demandes d'accès aux données personnelles au titre du RGPD britannique (UK GDPR) pour obtenir les données personnelles utilisées dans la décision ; les plaintes auprès de l'Information Commissioner's Office (commissariat à l'information) en cas de violation des droits relatifs à la protection des données ; et les recours devant le Social Security and Child Support Tribunal, le First-tier Tribunal ou l'Upper Tribunal, selon le type de prestation concerné. Le registre Tracking Automated Government (TAG) du Public Law Project recense les outils d'IA utilisés par l'administration britannique et constitue une ressource pour les recours juridiques.

Union européenne : l'AI Act et les services essentiels

En vertu de l'AI Act de l'UE, les systèmes d'IA utilisés dans la gestion de l'accès aux services publics essentiels et aux prestations, notamment la sécurité sociale, le logement, la santé et l'éducation, sont classés à haut risque au titre de l'annexe III. Cette classification couvre l'IA déployée par les administrations publiques dans le domaine des prestations sociales. Les obligations applicables aux systèmes à haut risque comprennent : des exigences de supervision humaine (une personne compétente doit pouvoir comprendre, surveiller et annuler les résultats produits par l'IA) ; la transparence (les personnes doivent être informées que l'IA a été utilisée dans une décision les concernant) ; des analyses d'impact sur les droits fondamentaux avant le déploiement ; une surveillance après commercialisation ; et le signalement des incidents graves. Ces obligations s'appliquent à compter de décembre 2027 pour les systèmes autonomes, selon le calendrier de l'Omnibus.

En vertu de l'article 22 du RGPD, toute personne a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou l'affectant de manière significative de façon similaire, le refus de prestations sociales entre dans ce cadre. Les personnes concernées peuvent demander un examen humain des décisions automatisées relatives aux prestations sociales, contester la décision et obtenir une explication de la logique appliquée. Les lois des États membres ajoutent des protections supplémentaires dans certaines juridictions.

Que faire si une décision de l'IA concernant vos prestations est erronée

Si vous pensez qu'une décision automatisée ou assistée par l'IA relative aux prestations sociales a été prise à tort : utilisez la procédure d'appel ou de révision officielle propre au type de prestation concerné, chaque prestation sociale est assortie d'un droit d'appel légal et le fait que l'IA ait été impliquée ne supprime pas ce droit. Demandez une explication formelle de la manière dont la décision a été prise, en vertu du RGPD dans l'UE et au Royaume-Uni et du Privacy Act en Australie, vous avez le droit d'obtenir des informations utiles sur le traitement automatisé qui vous a significativement affecté. Demandez l'accès aux données personnelles utilisées dans la décision, cela peut révéler des inexactitudes dans les données sous-jacentes à l'origine d'un résultat algorithmique erroné. Contactez une organisation de défense des droits sociaux ou un service de conseil aux citoyens, beaucoup proposent des conseils gratuits et peuvent vous aider à faire appel de décisions algorithmiques relatives aux prestations sociales. Au Royaume-Uni, contactez le Public Law Project si vous pensez qu'un algorithme gouvernemental a été appliqué de manière illégale. En Australie, l'OAIC (Office of the Australian Information Commissioner, commissariat à l'information australien) traite les plaintes relevant du Privacy Act et peut enquêter sur les problématiques liées à la prise de décision algorithmique.

Lectures connexes

Pour aller plus loin : Principes de l'OCDE sur l'IA