La position de Singapour dans la gouvernance mondiale de l'IA
Singapour a adopté une approche distinctive de la gouvernance de l'IA : précoce, fondée sur des principes, engagée à l'échelle internationale, et conçue pour soutenir l'adoption de l'IA plutôt que pour la contraindre en priorité. Il en résulte l'un des écosystèmes de gouvernance de l'IA les plus développés d'Asie, et un cadre que les organisations opérant dans la région doivent comprendre.
Contrairement à l'approche législative de l'UE, une réglementation contraignante assortie de sanctions importantes, Singapour a construit son cadre de gouvernance de l'IA principalement au moyen de lignes directrices, de cadres volontaires et de principes sectoriels. Cela ne signifie pas que la gouvernance de l'IA est optionnelle pour les entreprises basées à Singapour : pour les sociétés de services financiers régulées par la MAS, la gouvernance de l'IA constitue une attente prudentielle croissante. Pour les organisations qui recherchent des contrats d'entreprise ou des marchés publics à Singapour, la documentation sur la gouvernance de l'IA devient de plus en plus une exigence.
Le Model AI Governance Framework (MAIGF)
L'Infocomm Media Development Authority (IMDA) a publié le Model AI Governance Framework en 2019, mis à jour en 2020. Il s'agit du principal document de référence en matière de gouvernance de l'IA pour les organisations opérant à Singapour, et il demeure l'un des cadres de gouvernance de l'IA les plus utiles en pratique publiés par un gouvernement, à l'échelle mondiale.
Le MAIGF est structuré autour de deux principes fondamentaux : les décisions prises par l'IA ou avec son concours doivent être explicables, transparentes et équitables ; et les systèmes d'IA doivent être centrés sur l'humain, conçus pour renforcer la prise de décision humaine plutôt que pour se substituer à la responsabilité humaine.
Le cadre couvre quatre piliers de gouvernance : les structures de gouvernance interne et la responsabilité de mise en œuvre (imputabilité) ; la détermination du niveau d'implication humaine dans les décisions pilotées par l'IA (supervision humaine) ; la gestion responsable des opérations (risque opérationnel) ; et la transparence envers les clients quant à l'utilisation de l'IA (transparence externe).
Bien que le MAIGF soit volontaire, il est devenu de facto une base de conformité pour les grandes organisations à Singapour. Les processus d'achat en entreprise, les attentes prudentielles de la MAS et les contrats du gouvernement singapourien s'appuient tous sur la terminologie et les concepts du MAIGF.
Les lignes directrices de la MAS pour les services financiers
L'Autorité monétaire de Singapour a publié des principes relatifs à l'utilisation responsable de l'IA dans les services financiers, alignés sur le MAIGF mais plus spécifiquement destinés aux banques, aux assureurs et aux acteurs des marchés de capitaux. Les principes de la MAS mettent l'accent sur : l'équité (l'IA ne doit pas produire de résultats discriminatoires) ; l'éthique (l'utilisation de l'IA doit être cohérente avec les normes éthiques et sociétales) ; l'imputabilité (des structures de gouvernance claires pour les décisions relevant de l'IA) ; la transparence (une divulgation appropriée aux clients et aux régulateurs) ; et la fiabilité (les systèmes d'IA doivent fonctionner de manière constante et sûre).
La MAS a explicitement indiqué que la gouvernance de l'IA constitue une priorité prudentielle croissante. Les institutions financières soumises à la réglementation de la MAS doivent anticiper des questions de gouvernance lors des examens prudentiels et doivent être en mesure de démontrer : un cadre de gouvernance de l'IA documenté ; un inventaire des systèmes d'IA avec classification des risques ; des preuves de tests de biais pour les IA en contact avec la clientèle ; des mécanismes de supervision humaine pour les décisions à conséquences importantes ; et des processus de signalement des incidents en cas de défaillance de l'IA.
AI Verify : le cadre de test de Singapour
La AI Verify Foundation, créée par l'IMDA, administre le cadre de test AI Verify, une boîte à outils pratique permettant aux organisations de tester leurs systèmes d'IA au regard des principes du MAIGF et de produire des rapports de test documentés. Les tests AI Verify couvrent onze domaines, dont la transparence, l'explicabilité, l'équité et la sécurité.
Les rapports AI Verify ne sont pas encore obligatoires dans la plupart des contextes, mais sont de plus en plus demandés dans les appels d'offres d'entreprise et les marchés publics à Singapour. Les organisations déployant l'IA à Singapour devraient connaître ce cadre et évaluer si la production d'une documentation AI Verify soutiendrait leurs objectifs de développement de marché.
La PDPA et la gouvernance de l'IA
La loi sur la protection des données personnelles de Singapour (PDPA) crée des obligations spécifiques pertinentes pour la gouvernance de l'IA. Les obligations de protection des données de la PDPA s'appliquent aux données personnelles utilisées pour l'entraînement et le déploiement de l'IA. Les Advisory Guidelines on Use of Personal Data in AI Recommendation and Decision Systems (lignes directrices consultatives sur l'utilisation des données personnelles dans les systèmes de recommandation et de décision par IA), publiées par la Personal Data Protection Commission, traitent spécifiquement de l'utilisation des données personnelles dans les systèmes d'IA.
Principales obligations de la PDPA pour la gouvernance de l'IA : la limitation de la finalité, les données personnelles utilisées pour entraîner un système d'IA ne doivent être utilisées qu'aux fins pour lesquelles le consentement a été obtenu ou qui relèvent des exceptions prévues par la PDPA ; l'exactitude des données, les organisations doivent prendre des mesures raisonnables pour garantir l'exactitude des données personnelles utilisées dans l'IA ; et la prise de décision automatisée, lorsque l'IA prend des décisions ayant une incidence significative sur les individus, ceux-ci disposent de droits leur permettant de comprendre et de contester ces décisions.
Aligner les cadres de Singapour et de l'UE
Les organisations opérant à la fois à Singapour et dans l'UE sont confrontées au défi pratique de devoir composer avec deux cadres de gouvernance de l'IA sophistiqués mais structurellement différents. La bonne nouvelle, c'est que ces cadres partagent des principes fondamentaux, supervision humaine, transparence, équité, imputabilité, qui peuvent être traités au moyen d'un programme de gouvernance unique.
L'approche pratique consiste à construire un cadre de gouvernance ancré sur les exigences plus prescriptives de l'AI Act européen (qui constituent le socle des obligations de conformité), puis à faire correspondre les principes du MAIGF et de la MAS aux mêmes structures de gouvernance sous-jacentes. Là où le MAIGF exige une documentation des mécanismes de supervision humaine, les exigences équivalentes de l'AI Act européen requièrent probablement une documentation similaire ou plus détaillée ; satisfaire à l'exigence européenne satisfait généralement à l'exigence singapourienne simultanément.
Les domaines nécessitant une attention particulière pour Singapour : la documentation AI Verify, si elle est pertinente pour vos objectifs d'approvisionnement ; les exigences propres à la MAS pour les sociétés de services financiers ; et les obligations de la PDPA relatives aux données personnelles utilisées dans les systèmes d'IA, qui interagissent avec le RGPD tout en en différant sur certains aspects importants.
Pour aller plus loin : OECD AI Incidents Monitor
Lectures complémentaires
- La gouvernance de l'IA pour les PME de Singapour : PDPA, AI Verify et programmes de soutien gouvernementaux
- L'IA et vos droits à Singapour : PDPA, protection des consommateurs et ce que vous pouvez faire
- La gouvernance de l'IA par secteur à Singapour : fintech, santé, maritime et la norme portée par la MAS
- L'IA dans l'assurance à Singapour : attentes de la MAS, obligations de la PDPA et le cadre FEAT pour les assureurs
Pour aller plus loin : OECD AI Incidents Monitor