A FCA e o Consumer Duty

O Consumer Duty (dever para com o consumidor) da Financial Conduct Authority (FCA), que entrou plenamente em vigor em julho de 2023, é o desenvolvimento mais relevante em governança de IA para as empresas de serviços financeiros do Reino Unido nos últimos anos. Seus quatro requisitos de resultado, produtos e serviços, preço e valor, compreensão do consumidor e suporte ao consumidor, criam um arcabouço que alcança sistemas de IA em todo o ciclo de vida do cliente sem nomear a IA explicitamente. Um sistema de precificação por IA que cobra de clientes fiéis valores significativamente mais altos do que de clientes novos pode descumprir o resultado de preço e valor. Um sistema de comunicação por IA que gera informações de produto que os clientes não conseguem entender pode descumprir o resultado de compreensão do consumidor. Um sistema de atendimento ao cliente movido a IA que não oferece suporte acessível a clientes vulneráveis pode descumprir o resultado de suporte ao consumidor.

A FCA foi explícita ao afirmar que o Consumer Duty se aplica à IA. Suas expectativas de supervisão incluem que as empresas compreendam como seus sistemas de IA afetam os resultados para os clientes, monitorem esses resultados regularmente e tomem providências quando os resultados forem ruins. O princípio da proporcionalidade do Duty, segundo o qual as empresas devem adotar medidas razoáveis em relação ao seu porte e aos seus recursos, significa que empresas menores têm alguma flexibilidade na implementação, mas não na obrigação de compreender e gerenciar o impacto da IA sobre os resultados para os clientes.

Gestão de risco de modelos da PRA: SS1/23

A Supervisory Statement SS1/23 (declaração de supervisão) da Prudential Regulation Authority (PRA) sobre gestão de risco de modelos aplica-se a bancos constituídos no Reino Unido, building societies (sociedades de crédito imobiliário) e empresas de investimento designadas pela PRA que tenham aprovação de modelo interno para capital regulatório (não se aplica a seguradoras). A declaração trata explicitamente de modelos de IA e de aprendizado de máquina e estabelece que os requisitos centrais de gestão de risco de modelos, definição de modelo, titularidade, validação, uso e controle, aplicam-se aos modelos de IA assim como se aplicam aos modelos estatísticos tradicionais, com as adaptações apropriadas às características específicas da IA.

Os principais requisitos da SS1/23 para a IA: as empresas devem manter um inventário de modelos que inclua os sistemas de IA usados em decisões relevantes. Os modelos devem ser desenvolvidos com documentação apropriada. A validação independente deve ser realizada antes da implantação e após alterações significativas. O desempenho deve ser monitorado em produção. O risco de modelo deve estar refletido no arcabouço de apetite a risco da empresa. E deve haver responsabilidade clara, um proprietário de modelo nomeado, para cada modelo relevante. O desafio de aplicar a SS1/23 a modelos de IA está na lacuna de explicabilidade: a metodologia tradicional de validação pressupõe modelos que podem ser plenamente compreendidos e validados matematicamente. Os modelos de IA nem sempre podem ser validados dessa forma, e a PRA espera que as empresas adaptem sua metodologia de validação de acordo, documentando as limitações e a incerteza na validação de modelos de IA e aplicando salvaguardas adicionais onde a metodologia de validação for limitada.

Banco da Inglaterra: estabilidade financeira e IA

O foco do Banco da Inglaterra (Bank of England) na IA se dá principalmente por meio de seu mandato de estabilidade financeira, o risco de que a adoção generalizada de IA nos serviços financeiros crie comportamentos correlacionados que amplifiquem o risco sistêmico. Se muitas instituições financeiras usarem modelos de IA semelhantes para decisões de negociação, de crédito ou de gestão de risco, esses modelos poderão responder de forma semelhante a eventos de mercado, amplificando a volatilidade em vez de diversificá-la. A supervisão desse risco pelo Banco se manifesta em seus programas de testes de estresse (que cada vez mais incluem cenários relacionados à IA), na sua fiscalização das infraestruturas do mercado financeiro e na sua participação em discussões internacionais sobre governança de IA por meio do FSB e do BIS.

Leitura complementar: Orientações do ICO sobre IA

Leituras relacionadas

Leitura complementar: Orientações do ICO sobre IA