FCAとコンシューマー・デューティ

2023年7月に完全施行された金融行為規制機構（Financial Conduct Authority、FCA）のコンシューマー・デューティは、近年の英国金融サービス事業者にとって最も影響の大きいAIガバナンス上の進展です。その4つのアウトカム要件、すなわち商品・サービス、価格と価値、消費者の理解、消費者サポートは、AIを明示的に名指しすることなく、顧客ライフサイクル全体にわたるAIシステムに及ぶ枠組みを形づくっています。長年の顧客に新規顧客よりも著しく高い料金を課すAI価格設定システムは、価格と価値のアウトカムを満たさない可能性があります。顧客が理解できない商品情報を生成するAIコミュニケーションシステムは、消費者の理解のアウトカムを満たさない可能性があります。脆弱な顧客に対して利用しやすいサポートを提供できないAI主導のカスタマーサービスシステムは、消費者サポートのアウトカムを満たさない可能性があります。

FCAは、コンシューマー・デューティがAIにも適用されることを明言しています。その監督上の期待には、事業者が自社のAIシステムが顧客のアウトカムにどのような影響を与えるかを理解し、それらのアウトカムを定期的にモニタリングし、アウトカムが芳しくない場合には対応を講じることが含まれます。デューティの比例性の原則、すなわち事業者はその規模と資源に応じた合理的な措置を講じなければならないという原則は、小規模な事業者には実施方法に一定の柔軟性があることを意味しますが、AIが顧客のアウトカムに与える影響を理解し管理する義務そのものが緩むわけではありません。

PRAのモデルリスク管理：SS1/23

モデルリスク管理に関する健全性規制機構（Prudential Regulation Authority、PRA）の監督声明SS1/23は、規制資本に係る内部モデルの承認を受けた英国設立の銀行、住宅金融組合、およびPRAが指定する投資会社に適用されます（保険会社には適用されません）。この監督声明はAIおよび機械学習モデルを明示的に取り上げ、モデルリスク管理の中核的な要件、すなわちモデルの定義、オーナーシップ、検証、利用、統制が、AI固有の特性に応じた適切な調整を伴いつつ、従来の統計モデルと同様にAIモデルにも適用されることを定めています。

AIに関するSS1/23の主要な要件は次のとおりです。事業者は、重要な意思決定に用いられるAIシステムを含むモデル・インベントリを維持しなければなりません。モデルは適切な文書化を伴って開発されなければなりません。独立した検証は、導入前および重要な変更の後に実施されなければなりません。パフォーマンスは本番環境でモニタリングされなければなりません。モデルリスクは、事業者のリスクアペタイトの枠組みに反映されなければなりません。そして、重要なモデルごとに、指名されたモデル・オーナーという明確な説明責任の所在がなければなりません。SS1/23をAIモデルに適用する際の課題は、説明可能性のギャップです。従来の検証手法は、完全に理解でき、数学的に検証できるモデルを前提としています。AIモデルは必ずしもこの方法で検証できるわけではなく、PRAは事業者に対し、検証手法をそれに応じて適応させ、AIモデルの検証における限界と不確実性を文書化し、検証手法が制約される場合には追加のセーフガードを適用することを期待しています。

イングランド銀行：金融安定とAI

イングランド銀行のAIへの関心は、主に金融安定のマンデートを通じたものです。すなわち、金融サービスにおけるAIの広範な普及が相関した行動を生み出し、システミックリスクを増幅させるというリスクです。多くの金融機関がトレーディング、与信、リスク管理の意思決定に類似したAIモデルを用いる場合、それらのモデルは市場イベントに対して同様に反応し、ボラティリティを分散させるどころか増幅させる可能性があります。このリスクに対するイングランド銀行の監督は、（AI関連のシナリオを次第に組み込みつつある）ストレステスト・プログラム、金融市場インフラの監視、そしてFSB（金融安定理事会）やBIS（国際決済銀行）を通じた国際的なAIガバナンス議論への参加を通じて具体化しています。

参考資料：ICOのAIガイダンス

関連記事

参考資料：ICOのAIガイダンス