El sector público como campo de batalla de la gobernanza IA
Los gobiernos latinoamericanos están desplegando IA en un ritmo creciente: modelos predictivos de delincuencia, sistemas de triaje en servicios de salud pública, algoritmos de asignación de beneficios sociales, reconocimiento facial en espacios públicos, y chatbots en servicios ciudadanos. Estos despliegues crean obligaciones de transparencia y rendición de cuentas que son distintas y más exigentes que las que aplican al sector privado, porque el poder del Estado está involucrado.
La lección de Robodebt: el riesgo de automatizar decisiones sociales
El caso Robodebt en Australia, donde un sistema automatizado generó reclamaciones de deuda incorrectas contra cientos de miles de beneficiarios de prestaciones sociales, es una advertencia directamente aplicable a los sistemas de gestión de beneficios en América Latina. Los elementos que hicieron posible el desastre australiano (decisiones automatizadas sin supervisión humana real, ausencia de mecanismos de impugnación efectivos, opacidad del sistema para los afectados) están presentes en varios programas públicos latinoamericanos. La lección es clara: la automatización de decisiones que afectan derechos sociales requiere supervisión humana real, no nominal.