Die FCA und die Consumer Duty

Die Consumer Duty der Financial Conduct Authority (FCA), die im Juli 2023 vollständig in Kraft getreten ist, ist für britische Finanzdienstleistungsunternehmen die folgenreichste Entwicklung im Bereich der KI-Governance der vergangenen Jahre. Ihre vier Ergebnisanforderungen, Produkte und Dienstleistungen, Preis und Wert, Verständnis der Verbraucher sowie Unterstützung der Verbraucher, schaffen ein Rahmenwerk, das KI-Systeme über den gesamten Kundenlebenszyklus hinweg erfasst, ohne KI ausdrücklich zu nennen. Ein KI-gestütztes Preissystem, das treuen Kunden deutlich mehr berechnet als Neukunden, kann die Anforderung an Preis und Wert verfehlen. Ein KI-Kommunikationssystem, das Produktinformationen erzeugt, die Kunden nicht verstehen können, kann die Anforderung an das Verständnis der Verbraucher verfehlen. Ein KI-gesteuertes Kundenservicesystem, das schutzbedürftigen Kunden keine zugängliche Unterstützung bietet, kann die Anforderung an die Unterstützung der Verbraucher verfehlen.

Die FCA hat ausdrücklich klargestellt, dass die Consumer Duty auf KI Anwendung findet. Zu ihren aufsichtlichen Erwartungen gehört, dass Unternehmen verstehen, wie ihre KI-Systeme die Ergebnisse für Kunden beeinflussen, dass sie diese Ergebnisse regelmäßig überwachen und dass sie tätig werden, wenn die Ergebnisse schlecht ausfallen. Der Verhältnismäßigkeitsgrundsatz der Consumer Duty, wonach Unternehmen im Verhältnis zu ihrer Größe und ihren Ressourcen angemessene Schritte unternehmen müssen, bedeutet, dass kleinere Unternehmen bei der Umsetzung über einen gewissen Spielraum verfügen, nicht jedoch bei der Pflicht, die Auswirkungen von KI auf die Ergebnisse für Kunden zu verstehen und zu steuern.

Modellrisikomanagement der PRA: SS1/23

Das Supervisory Statement SS1/23 der Prudential Regulation Authority (PRA) zum Modellrisikomanagement gilt für im Vereinigten Königreich eingetragene Banken, Bausparkassen (building societies) und von der PRA benannte Wertpapierfirmen, die über eine Genehmigung interner Modelle für die regulatorische Eigenkapitalunterlegung verfügen (für Versicherer gilt es nicht). Das Statement behandelt KI- und Machine-Learning-Modelle ausdrücklich und legt fest, dass die Kernanforderungen des Modellrisikomanagements, Modelldefinition, Verantwortlichkeit, Validierung, Nutzung und Kontrolle, für KI-Modelle ebenso gelten wie für herkömmliche statistische Modelle, mit angemessenen Anpassungen an die KI-spezifischen Eigenschaften.

Die wesentlichen Anforderungen von SS1/23 für KI: Unternehmen müssen ein Modellinventar führen, das auch die bei wesentlichen Entscheidungen eingesetzten KI-Systeme umfasst. Modelle müssen mit angemessener Dokumentation entwickelt werden. Vor dem Einsatz und nach wesentlichen Änderungen muss eine unabhängige Validierung durchgeführt werden. Die Leistung muss im Produktivbetrieb überwacht werden. Das Modellrisiko muss im Risikoappetit-Rahmenwerk des Unternehmens abgebildet werden. Und für jedes wesentliche Modell muss es eine klare Verantwortlichkeit geben, einen namentlich benannten Modellverantwortlichen. Die Herausforderung bei der Anwendung von SS1/23 auf KI-Modelle ist die Lücke bei der Erklärbarkeit: Herkömmliche Validierungsmethoden setzen Modelle voraus, die vollständig verstanden und mathematisch validiert werden können. KI-Modelle lassen sich nicht immer auf diese Weise validieren, und die PRA erwartet von den Unternehmen, ihre Validierungsmethodik entsprechend anzupassen, die Grenzen und Unsicherheiten bei der Validierung von KI-Modellen zu dokumentieren und dort zusätzliche Schutzvorkehrungen anzuwenden, wo die Validierungsmethodik an Grenzen stößt.

Bank of England: Finanzstabilität und KI

Die Bank of England befasst sich mit KI in erster Linie über ihr Mandat für die Finanzstabilität, also über das Risiko, dass eine breite Einführung von KI im Finanzdienstleistungssektor korrelierte Verhaltensweisen hervorbringt, die systemische Risiken verstärken. Wenn viele Finanzinstitute ähnliche KI-Modelle für Handels-, Kredit- oder Risikomanagemententscheidungen einsetzen, können diese Modelle auf Marktereignisse ähnlich reagieren und die Volatilität dadurch verstärken, statt sie zu streuen. Die Beaufsichtigung dieses Risikos durch die Bank zeigt sich in ihren Stresstestprogrammen (die zunehmend KI-bezogene Szenarien einbeziehen), in ihrer Überwachung der Finanzmarktinfrastruktur und in ihrer Beteiligung an internationalen Diskussionen zur KI-Governance über das FSB (Financial Stability Board) und die BIZ (Bank für Internationalen Zahlungsausgleich).

Weiterführende Lektüre: KI-Leitlinien des ICO

Verwandte Beiträge

Weiterführende Lektüre: KI-Leitlinien des ICO