Le devoir d'intérêt supérieur des membres et l'IA
Le devoir d'intérêt supérieur des membres prévu par la Superannuation Industry (Supervision) Act, qui exige des trustees qu'ils agissent dans l'intérêt financier supérieur des membres, constitue le principe de gouvernance fondamental pour l'IA en matière de superannuation. Chaque système d'IA déployé par un fonds de superannuation doit être évalué au regard de ce devoir : ce système d'IA, tel qu'il est déployé, sert-il l'intérêt financier supérieur des membres ? Cette question revêt un contenu spécifique pour chaque cas d'usage de l'IA.
Pour l'IA d'investissement, les modèles utilisés dans l'allocation d'actifs, la gestion des risques, la sélection de gestionnaires ou l'exposition aux facteurs, le devoir d'intérêt supérieur exige que l'IA produise pour les membres de meilleurs résultats d'investissement que les alternatives disponibles, qu'elle soit correctement gouvernée et surveillée, et que le personnel chargé des investissements comprenne suffisamment ses résultats et ses limites pour exercer un véritable jugement d'investissement. Un modèle d'IA que le personnel chargé des investissements traite comme une boîte noire, en acceptant ses résultats sans évaluation critique, soulève des questions quant à savoir si le trustee exerce véritablement ses obligations de gouvernance des investissements.
L'IA dans les communications avec les membres : la frontière du conseil
De nombreux fonds de superannuation déploient l'IA dans leurs communications avec les membres : chatbots répondant aux demandes des membres, projections de retraite personnalisées, recommandations de consolidation générées par l'IA et suggestions personnalisées d'options d'investissement. Le défi réglementaire tient au fait que ces communications peuvent franchir la frontière entre l'information factuelle et le conseil financier, lequel requiert une licence australienne de services financiers (Australian Financial Services Licence) et le respect du devoir d'intérêt supérieur ainsi que des obligations de conseil approprié.
Les orientations de l'ASIC (Australian Securities and Investments Commission) sur le conseil échelonné (scaled advice) et le conseil numérique sont directement pertinentes. Les systèmes d'IA qui tiennent compte de la situation particulière d'un membre et formulent des recommandations personnalisées sur des produits ou des stratégies financières fournissent un conseil financier, qu'un conseiller humain soit impliqué ou non. Les fonds doivent évaluer leurs outils de communication basés sur l'IA au regard de cette frontière et veiller à ce que les outils franchissant le territoire du conseil soient gouvernés comme des outils de conseil, avec les autorisations appropriées, des cadres de conformité et des dispositifs de consentement des membres.
L'IA de traitement des sinistres et les droits des membres
L'IA utilisée dans le traitement des sinistres d'assurance, pour l'évaluation des demandes de prestations de décès, des demandes d'invalidité totale et permanente et des demandes de protection du revenu, touche les membres aux moments les plus difficiles de leur vie. Les obligations de gouvernance applicables à l'IA de traitement des sinistres sont particulièrement exigeantes, car les enjeux sont élevés et les membres concernés se trouvent souvent dans des situations vulnérables. L'ASIC a spécifiquement traité l'obligation des trustees de superannuation de traiter les sinistres de manière efficace, honnête et équitable, une obligation qui s'applique aux processus de traitement des sinistres assistés par l'IA autant qu'aux processus humains. Les exigences clés : les décisions relatives aux sinistres influencées par l'IA doivent être explicables au membre en langage clair, il doit exister une véritable voie de contrôle humain, et le système d'IA doit être surveillé afin de détecter les erreurs systématiques désavantageant les membres.
Pour aller plus loin : Gouvernement australien, Voluntary AI Safety Standard
À lire également
- L'IA dans la superannuation australienne : obligations des trustees, communications avec les membres et IA d'investissement
- Gouvernance de l'IA dans les services financiers australiens : le guide réglementaire complet
- Gouvernance de l'IA pour les assureurs australiens : APRA (Australian Prudential Regulation Authority), ASIC et l'impératif d'équité tarifaire
- APRA et ASIC : ce que les entreprises de services financiers australiennes doivent savoir sur la réglementation de l'IA
Pour aller plus loin : Gouvernement australien, Voluntary AI Safety Standard