IA en el Sector Público de América Latina: Transparencia Algorítmica y Rendición de Cuentas

Puntos clave

• Varios países latinoamericanos (Uruguay, Chile, Colombia, México) han publicado políticas nacionales de IA que incluyen principios de transparencia algorítmica y rendición de cuentas para el sector público.
• El uso de reconocimiento facial por fuerzas de seguridad es uno de los temas más controvertidos — Uruguay lo prohibió para usos de vigilancia masiva, otros países no tienen regulación específica.
• Los sistemas de puntuación social o scoring de beneficiarios de programas sociales son casos de uso de IA de alto riesgo — la experiencia de Robodebt en Australia es una advertencia directamente aplicable a LatAm.
• La transparencia algorítmica en el sector público latinoamericano es todavía incipiente — pocas administraciones publican los algoritmos que usan en servicios ciudadanos.
• La OEA (Organización de Estados Americanos) ha publicado principios de IA para el sector público que están influenciando las políticas nacionales de la región.

El sector público como campo de batalla de la gobernanza IA

Los gobiernos latinoamericanos están desplegando IA en un ritmo creciente: modelos predictivos de delincuencia, sistemas de triaje en servicios de salud pública, algoritmos de asignación de beneficios sociales, reconocimiento facial en espacios públicos, y chatbots en servicios ciudadanos. Estos despliegues crean obligaciones de transparencia y rendición de cuentas que son distintas y más exigentes que las que aplican al sector privado — porque el poder del Estado está involucrado.

La lección de Robodebt: el riesgo de automatizar decisiones sociales

El caso Robodebt en Australia — donde un sistema automatizado generó reclamaciones de deuda incorrectas contra cientos de miles de beneficiarios de prestaciones sociales — es una advertencia directamente aplicable a los sistemas de gestión de beneficios en América Latina. Los elementos que hicieron posible el desastre australiano (decisiones automatizadas sin supervisión humana real, ausencia de mecanismos de impugnación efectivos, opacidad del sistema para los afectados) están presentes en varios programas públicos latinoamericanos. La lección es clara: la automatización de decisiones que afectan derechos sociales requiere supervisión humana real, no nominal.