FCA 与消费者责任

金融行为监管局(FCA)的消费者责任(Consumer Duty)于 2023 年 7 月全面生效,是近年来对英国金融服务机构而言最具影响力的人工智能治理进展。它提出的四项结果要求,即产品与服务、价格与价值、消费者理解以及消费者支持,构建起一个虽未明确点名人工智能、却能覆盖客户全生命周期中人工智能系统的框架。一套对忠诚客户收取的费用显著高于新客户的人工智能定价系统,可能不符合价格与价值这一结果要求。一套生成客户无法理解的产品信息的人工智能沟通系统,可能不符合消费者理解这一结果要求。一套无法为弱势客户提供无障碍支持的人工智能驱动客服系统,则可能不符合消费者支持这一结果要求。

FCA 已明确表示,消费者责任适用于人工智能。其监管期望包括:机构应理解其人工智能系统如何影响客户结果,定期监控这些结果,并在结果不佳时采取行动。该责任的相称性原则,即机构必须结合自身规模与资源采取合理措施,意味着规模较小的机构在落地方式上拥有一定灵活性,但在理解和管理人工智能对客户结果影响这一义务上并无例外。

PRA 的模型风险管理:SS1/23

审慎监管局(PRA)关于模型风险管理的监管声明 SS1/23 适用于在英国注册成立的银行、住房互助会,以及获得监管资本内部模型批准的 PRA 指定投资公司(不适用于保险公司)。该声明明确论及人工智能与机器学习模型,并确立了模型风险管理的核心要求,即模型定义、归属、验证、使用与控制,在结合人工智能特有属性作出适当调整后,同样适用于人工智能模型,正如其适用于传统统计模型一样。

SS1/23 对人工智能的关键要求包括:机构必须维护一份模型清单,其中涵盖用于重大决策的人工智能系统。模型开发须配有适当的文档记录。在部署前以及发生重大变更后,必须开展独立验证。模型上线运行后必须持续监控其表现。模型风险必须体现在机构的风险偏好框架之中。此外,每一个重大模型都必须有清晰的问责安排,即指定一名模型负责人。将 SS1/23 应用于人工智能模型的难点在于可解释性缺口:传统验证方法假定模型可以被完全理解并通过数学方式加以验证。人工智能模型并非总能以这种方式验证,PRA 期望机构相应调整其验证方法,记录人工智能模型验证中的局限与不确定性,并在验证方法受限之处采取额外的保障措施。

英格兰银行:金融稳定与人工智能

英格兰银行对人工智能的关注主要来自其金融稳定职责,即人工智能在金融服务业的广泛应用可能产生相互关联的行为,从而放大系统性风险。如果大量金融机构在交易、信贷或风险管理决策中使用相似的人工智能模型,这些模型可能对市场事件作出相似反应,不但没有分散风险,反而放大了波动。英格兰银行对该风险的监管体现在其压力测试项目(其中越来越多地纳入与人工智能相关的情景)、对金融市场基础设施的监督,以及通过金融稳定理事会(FSB)和国际清算银行(BIS)参与国际人工智能治理讨论。

延伸阅读:ICO 人工智能指南

相关阅读

延伸阅读:ICO 人工智能指南