La posición de Singapur en la gobernanza global de la IA
Singapur ha adoptado un enfoque distintivo respecto a la gobernanza de la IA: temprano, basado en principios, comprometido a nivel internacional y diseñado para apoyar la adopción de la IA en lugar de restringirla principalmente. El resultado es uno de los ecosistemas de gobernanza de la IA más desarrollados de Asia, y un marco que las organizaciones que operan en la región necesitan comprender.
A diferencia del enfoque legislativo de la UE, una regulación vinculante con sanciones considerables, Singapur ha construido su marco de gobernanza de la IA principalmente mediante directrices, marcos voluntarios y principios sectoriales específicos. Esto no significa que la gobernanza de la IA sea opcional para las empresas con sede en Singapur: para las firmas de servicios financieros reguladas por la MAS, la gobernanza de la IA es una expectativa de supervisión cada vez mayor. Para las organizaciones que buscan contratos empresariales o contratación pública en Singapur, la documentación de gobernanza de la IA es cada vez más un requisito.
El Marco Modelo de Gobernanza de la IA (MAIGF)
La Infocomm Media Development Authority (IMDA) publicó el Marco Modelo de Gobernanza de la IA en 2019, actualizado en 2020. Es el documento de referencia principal en materia de gobernanza de la IA para las organizaciones que operan en Singapur y sigue siendo uno de los marcos de gobernanza de la IA más útiles en la práctica publicados por cualquier gobierno a nivel mundial.
El MAIGF se estructura en torno a dos principios fundamentales: las decisiones tomadas por la IA o con su ayuda deben ser explicables, transparentes y justas; y los sistemas de IA deben estar centrados en el ser humano, diseñados para aumentar la toma de decisiones humana en lugar de sustituir la responsabilidad humana.
El marco abarca cuatro pilares de gobernanza: estructuras de gobernanza interna y titularidad (responsabilidad); determinación del nivel de participación humana en las decisiones impulsadas por IA (supervisión humana); gestión responsable de las operaciones (riesgo operativo); y transparencia con los clientes sobre el uso de la IA (transparencia externa).
Aunque el MAIGF es voluntario, se ha convertido en una referencia mínima de cumplimiento de facto para las grandes organizaciones en Singapur. Los procesos de contratación empresarial, las expectativas de supervisión de la MAS y los contratos del gobierno de Singapur recurren todos al lenguaje y los conceptos del MAIGF.
Directrices de la MAS para los servicios financieros
La Autoridad Monetaria de Singapur ha publicado principios para el uso responsable de la IA en los servicios financieros, alineados con el MAIGF pero dirigidos de forma más específica a bancos, aseguradoras y firmas de mercados de capitales. Los principios de la MAS hacen hincapié en: la equidad (la IA no debe producir resultados discriminatorios); la ética (el uso de la IA debe ser coherente con las normas éticas y sociales); la responsabilidad (estructuras de gobernanza claras para las decisiones de IA); la transparencia (divulgación adecuada a clientes y reguladores); y la fiabilidad (los sistemas de IA deben funcionar de forma constante y segura).
La MAS ha sido explícita en que la gobernanza de la IA es una prioridad de supervisión cada vez mayor. Las instituciones financieras sujetas a la regulación de la MAS deben anticipar preguntas sobre gobernanza en los exámenes de supervisión, y deben poder demostrar: un marco documentado de gobernanza de la IA; un inventario de sistemas de IA con clasificación de riesgo; evidencia de pruebas de sesgo para la IA orientada a clientes; mecanismos de supervisión humana para decisiones de peso; y procesos de notificación de incidentes en caso de fallos de la IA.
AI Verify: el marco de pruebas de Singapur
La AI Verify Foundation, creada por la IMDA, administra el marco de pruebas AI Verify, un conjunto de herramientas prácticas que permite a las organizaciones probar sus sistemas de IA frente a los principios del MAIGF y elaborar informes de prueba documentados. Las pruebas de AI Verify abarcan once áreas, entre ellas la transparencia, la explicabilidad, la equidad y la seguridad.
Los informes de AI Verify aún no son obligatorios en la mayoría de los contextos, pero cada vez se solicitan más en la contratación empresarial y pública en Singapur. Las organizaciones que implementan IA en Singapur deben conocer el marco y considerar si la elaboración de documentación de AI Verify respaldaría sus objetivos de desarrollo de mercado.
La PDPA y la gobernanza de la IA
La Ley de Protección de Datos Personales de Singapur crea obligaciones específicas relevantes para la gobernanza de la IA. Las obligaciones de protección de datos de la PDPA se aplican a los datos personales utilizados en el entrenamiento y la implementación de la IA. Las Directrices Consultivas sobre el Uso de Datos Personales en Sistemas de Recomendación y Decisión basados en IA, publicadas por la Comisión de Protección de Datos Personales, abordan específicamente el uso de datos personales en los sistemas de IA.
Las obligaciones clave de la PDPA para la gobernanza de la IA son: la limitación de la finalidad, los datos personales utilizados para entrenar un sistema de IA solo deben emplearse para los fines para los que se obtuvo el consentimiento o que se encuentren dentro de las excepciones de la PDPA; la exactitud de los datos, las organizaciones deben tomar medidas razonables para garantizar que los datos personales utilizados en la IA sean exactos; y la toma de decisiones automatizada, cuando la IA toma decisiones que afectan significativamente a las personas, estas tienen derecho a comprender y a impugnar dichas decisiones.
Alineación de los marcos de Singapur y la UE
Las organizaciones que operan tanto en Singapur como en la UE se enfrentan al reto práctico de trabajar con dos marcos de gobernanza de la IA sofisticados pero estructuralmente distintos. La buena noticia es que los marcos comparten principios fundamentales, supervisión humana, transparencia, equidad, responsabilidad, que pueden abordarse mediante un único programa de gobernanza.
El enfoque práctico consiste en construir un marco de gobernanza anclado en los requisitos más prescriptivos de la Ley de IA de la UE (que establecen el nivel mínimo de las obligaciones de cumplimiento), y hacer corresponder los principios del MAIGF y de la MAS con las mismas estructuras de gobernanza subyacentes. Cuando el MAIGF exige documentación de los mecanismos de supervisión humana, los requisitos equivalentes de la Ley de IA de la UE probablemente exijan una documentación similar o más detallada; satisfacer el requisito de la UE normalmente satisface al mismo tiempo el requisito de Singapur.
Las áreas que requieren atención específica en Singapur son: la documentación de AI Verify, si resulta relevante para sus objetivos de contratación; los requisitos específicos de la MAS para las firmas de servicios financieros; y las obligaciones de la PDPA relativas a los datos personales utilizados en los sistemas de IA, que interactúan con el RGPD pero difieren de él en algunos aspectos importantes.
Para más información: OECD AI Incidents Monitor
Lecturas relacionadas
- Gobernanza de la IA para pymes de Singapur: la PDPA, AI Verify y los programas de apoyo del gobierno
- La IA y sus derechos en Singapur: la PDPA, la protección del consumidor y qué puede hacer usted
- Gobernanza de la IA por sector en Singapur: fintech, salud, marítimo y el estándar impulsado por la MAS
- La IA en el sector asegurador de Singapur: expectativas de la MAS, obligaciones de la PDPA y el marco FEAT para aseguradoras
Para más información: OECD AI Incidents Monitor