Die FCA und die Consumer Duty

Die Consumer Duty der Financial Conduct Authority (FCA), die im Juli 2023 für offene Produkte und Dienstleistungen in Kraft trat und ab Juli 2024, einschließlich geschlossener Produkte, vollständig in Kraft ist, ist für britische Finanzdienstleistungsunternehmen die folgenreichste Entwicklung im Bereich der KI-Governance der vergangenen Jahre. Ihre vier Ergebnisanforderungen, Produkte und Dienstleistungen, Preis und Wert, Verständnis der Verbraucher sowie Unterstützung der Verbraucher, schaffen ein Rahmenwerk, das KI-Systeme über den gesamten Kundenlebenszyklus hinweg erfasst, ohne KI ausdrücklich zu nennen. Ein KI-gestütztes Preissystem, das treuen Kunden deutlich mehr berechnet als Neukunden, kann die Anforderung an Preis und Wert verfehlen. Ein KI-Kommunikationssystem, das Produktinformationen erzeugt, die Kunden nicht verstehen können, kann die Anforderung an das Verständnis der Verbraucher verfehlen. Ein KI-gesteuertes Kundenservicesystem, das schutzbedürftigen Kunden keine zugängliche Unterstützung bietet, kann die Anforderung an die Unterstützung der Verbraucher verfehlen.

Die FCA hat ausdrücklich klargestellt, dass die Consumer Duty auf KI Anwendung findet. Zu ihren aufsichtlichen Erwartungen gehört, dass Unternehmen verstehen, wie ihre KI-Systeme die Ergebnisse für Kunden beeinflussen, dass sie diese Ergebnisse regelmäßig überwachen und dass sie tätig werden, wenn die Ergebnisse schlecht ausfallen. Der Verhältnismäßigkeitsgrundsatz der Consumer Duty, wonach Unternehmen im Verhältnis zu ihrer Größe und ihren Ressourcen angemessene Schritte unternehmen müssen, bedeutet, dass kleinere Unternehmen bei der Umsetzung über einen gewissen Spielraum verfügen, nicht jedoch bei der Pflicht, die Auswirkungen von KI auf die Ergebnisse für Kunden zu verstehen und zu steuern. Im Juni 2026 veröffentlichte die FCA CP26/23, eine Konsultation zum Anwendungsbereich und zur Verhältnismäßigkeit der Consumer Duty, in der sie vorschlägt, Geschäfte außerhalb des Vereinigten Königreichs aus dem Anwendungsbereich der Consumer Duty herauszunehmen und klarzustellen, wie diese auf Großhandelsmärkte und Vertriebsketten anzuwenden ist. Die Konsultation bleibt bis zum 18. September 2026 für Stellungnahmen offen; die FCA rechnet damit, im ersten Quartal 2027 endgültige Regeln festzulegen, sodass Unternehmen auf Änderungen bei der Verhältnismäßigkeit achten sollten, mit der die Consumer Duty auf sie angewendet wird.

Modellrisikomanagement der PRA: SS1/23

Das Supervisory Statement SS1/23 der Prudential Regulation Authority (PRA) zum Modellrisikomanagement gilt für im Vereinigten Königreich eingetragene Banken, Bausparkassen (building societies) und von der PRA benannte Wertpapierfirmen, die über eine Genehmigung interner Modelle für die regulatorische Eigenkapitalunterlegung verfügen (für Versicherer gilt es nicht). Das Statement behandelt KI- und Machine-Learning-Modelle ausdrücklich und legt fest, dass die Kernanforderungen des Modellrisikomanagements, Modelldefinition, Verantwortlichkeit, Validierung, Nutzung und Kontrolle, für KI-Modelle ebenso gelten wie für herkömmliche statistische Modelle, mit angemessenen Anpassungen an die KI-spezifischen Eigenschaften.

Die wesentlichen Anforderungen von SS1/23 für KI: Unternehmen müssen ein Modellinventar führen, das auch die bei wesentlichen Entscheidungen eingesetzten KI-Systeme umfasst. Modelle müssen mit angemessener Dokumentation entwickelt werden. Vor dem Einsatz und nach wesentlichen Änderungen muss eine unabhängige Validierung durchgeführt werden. Die Leistung muss im Produktivbetrieb überwacht werden. Das Modellrisiko muss im Risikoappetit-Rahmenwerk des Unternehmens abgebildet werden. Und für jedes wesentliche Modell muss es eine klare Verantwortlichkeit geben, einen namentlich benannten Modellverantwortlichen. Die Herausforderung bei der Anwendung von SS1/23 auf KI-Modelle ist die Lücke bei der Erklärbarkeit: Herkömmliche Validierungsmethoden setzen Modelle voraus, die vollständig verstanden und mathematisch validiert werden können. KI-Modelle lassen sich nicht immer auf diese Weise validieren, und die PRA erwartet von den Unternehmen, ihre Validierungsmethodik entsprechend anzupassen, die Grenzen und Unsicherheiten bei der Validierung von KI-Modellen zu dokumentieren und dort zusätzliche Schutzvorkehrungen anzuwenden, wo die Validierungsmethodik an Grenzen stößt. Die PRA hat den Austausch mit der Branche zu diesen Fragen fortgesetzt, unter anderem durch Roundtables zum Modellrisikomanagement für KI- und Machine-Learning-Technologien am 20. und 22. Oktober 2025 (eine Zusammenfassung der Diskussion wurde im November 2025 veröffentlicht), und sie hat im April 2026 LIAF01/26 abgeschlossen, mit dem SS3/18 geändert wurde, um die Selbstbeurteilung des Modellrisikos bei Stresstests an den Grundsätzen von SS1/23 auszurichten.

Bank of England: Finanzstabilität und KI

Die Bank of England befasst sich mit KI in erster Linie über ihr Mandat für die Finanzstabilität, also über das Risiko, dass eine breite Einführung von KI im Finanzdienstleistungssektor korrelierte Verhaltensweisen hervorbringt, die systemische Risiken verstärken. Wenn viele Finanzinstitute ähnliche KI-Modelle für Handels-, Kredit- oder Risikomanagemententscheidungen einsetzen, können diese Modelle auf Marktereignisse ähnlich reagieren und die Volatilität dadurch verstärken, statt sie zu streuen. Die Beaufsichtigung dieses Risikos durch die Bank zeigt sich in ihren Stresstestprogrammen (die zunehmend KI-bezogene Szenarien einbeziehen, wie in ihrem Bericht Financial Stability in Focus zu KI im Finanzsystem dargelegt), in ihrer Überwachung der Finanzmarktinfrastruktur und in ihrer Beteiligung an internationalen Diskussionen zur KI-Governance über das FSB (Financial Stability Board) und die BIZ (Bank für Internationalen Zahlungsausgleich). Im Inland führen die Bank und die FCA gemeinsam den Vorsitz im Artificial Intelligence Consortium, das im Mai 2025 als ständiges Forum für den Dialog zwischen öffentlichem und privatem Sektor über Fähigkeiten, Risiken und die sichere Einführung von KI im britischen Finanzdienstleistungssektor ins Leben gerufen wurde.

Weiterführende Lektüre: KI-Leitlinien des ICO

Verwandte Beiträge

Weiterführende Lektüre: KI-Leitlinien des ICO