La FCA y el Consumer Duty

El Consumer Duty (deber de protección del consumidor) de la Financial Conduct Authority, que entró en pleno vigor en julio de 2023, es el desarrollo en materia de gobernanza de la IA más trascendental para las entidades de servicios financieros del Reino Unido en los últimos años. Sus cuatro requisitos de resultados, productos y servicios, precio y valor, comprensión del consumidor y atención al consumidor, crean un marco que alcanza a los sistemas de IA a lo largo de todo el ciclo de vida del cliente sin nombrar explícitamente la IA. Un sistema de fijación de precios basado en IA que cobra a los clientes fieles significativamente más que a los nuevos puede incumplir el resultado de precio y valor. Un sistema de comunicación basado en IA que genera información de producto que los clientes no pueden entender puede incumplir el resultado de comprensión del consumidor. Un sistema de atención al cliente impulsado por IA que no proporciona una atención accesible a los clientes vulnerables puede incumplir el resultado de atención al consumidor.

La FCA ha sido explícita en que el Consumer Duty se aplica a la IA. Sus expectativas de supervisión incluyen que las entidades comprendan cómo sus sistemas de IA afectan a los resultados para los clientes, que supervisen esos resultados con regularidad y que actúen cuando los resultados sean deficientes. El principio de proporcionalidad del Duty, según el cual las entidades deben adoptar medidas razonables en relación con su tamaño y sus recursos, implica que las entidades más pequeñas cuentan con cierta flexibilidad en la implementación, pero no en la obligación de comprender y gestionar el impacto de la IA en los resultados para los clientes.

Gestión del riesgo de modelos de la PRA: SS1/23

El Supervisory Statement SS1/23 de la Prudential Regulation Authority sobre gestión del riesgo de modelos se aplica a los bancos constituidos en el Reino Unido, a las building societies (sociedades de ahorro y crédito hipotecario mutualistas) y a las empresas de inversión designadas por la PRA que cuenten con aprobación de modelos internos para el capital regulatorio (no se aplica a las aseguradoras). El documento aborda explícitamente los modelos de IA y de aprendizaje automático y establece que los requisitos básicos de gestión del riesgo de modelos, definición del modelo, titularidad, validación, uso y control, se aplican a los modelos de IA de la misma manera que a los modelos estadísticos tradicionales, con las adaptaciones oportunas para las características propias de la IA.

Los requisitos clave de la SS1/23 para la IA son los siguientes: las entidades deben mantener un inventario de modelos que incluya los sistemas de IA utilizados en decisiones materiales. Los modelos deben desarrollarse con la documentación adecuada. Debe realizarse una validación independiente antes de la puesta en producción y después de cualquier cambio significativo. El rendimiento debe supervisarse en producción. El riesgo de modelo debe reflejarse en el marco de apetito de riesgo de la entidad. Y debe existir una responsabilidad clara, un titular del modelo designado, para cada modelo material. El reto de aplicar la SS1/23 a los modelos de IA es la brecha de explicabilidad: la metodología de validación tradicional presupone modelos que pueden entenderse por completo y validarse matemáticamente. Los modelos de IA no siempre pueden validarse de este modo, y la PRA espera que las entidades adapten su metodología de validación en consecuencia, documentando las limitaciones y la incertidumbre en la validación de los modelos de IA y aplicando salvaguardas adicionales cuando la metodología de validación resulte limitada.

Banco de Inglaterra: estabilidad financiera e IA

El enfoque del Banco de Inglaterra respecto de la IA se centra principalmente en su mandato de estabilidad financiera, es decir, en el riesgo de que la adopción generalizada de la IA en los servicios financieros genere comportamientos correlacionados que amplifiquen el riesgo sistémico. Si muchas entidades financieras utilizan modelos de IA similares para decisiones de negociación, crédito o gestión de riesgos, esos modelos pueden responder de forma parecida ante los acontecimientos del mercado, amplificando la volatilidad en lugar de diversificarla. La supervisión de este riesgo por parte del Banco se manifiesta a través de sus programas de pruebas de resistencia (stress testing), que incluyen cada vez más escenarios relacionados con la IA, de su supervisión de las infraestructuras del mercado financiero y de su participación en debates internacionales sobre gobernanza de la IA a través del FSB y el BIS.

Para saber más: guía de la ICO sobre IA

Lecturas relacionadas

Para saber más: guía de la ICO sobre IA