El doble desafío de la IA para las instituciones educativas australianas

Las instituciones educativas australianas enfrentan simultáneamente desafíos de gobernanza de la IA en dos frentes distintos. Como empleadores y proveedores de servicios, deben gobernar su propio uso de la IA, en los sistemas de gestión de estudiantes, el análisis académico, la contratación de personal y las operaciones administrativas. Como instituciones educativas, deben desarrollar políticas coherentes y defendibles para el uso de la IA por parte de los estudiantes en el aprendizaje y la evaluación. Ambos desafíos requieren marcos de gobernanza, pero están regidos por obligaciones regulatorias diferentes y plantean consideraciones éticas distintas.

TEQSA y la integridad académica en la era de la IA generativa

La Tertiary Education Quality and Standards Agency (TEQSA, Agencia de Calidad y Estándares de la Educación Terciaria) regula a los proveedores de educación superior australianos conforme al Higher Education Standards Framework (Marco de Estándares de Educación Superior). El Estándar 5.4 (Integridad Académica) exige que los proveedores adopten medidas razonables para proteger la integridad académica de sus titulaciones. La amplia disponibilidad de la IA generativa ha generado una presión significativa sobre los marcos de integridad académica: los estudiantes ahora pueden usar la IA para generar evaluaciones indistinguibles de su propio trabajo.

La respuesta de TEQSA ha sido esperar que las instituciones desarrollen enfoques coherentes, proporcionados y pedagógicamente sólidos frente a la IA en la evaluación, no simplemente prohibir su uso, algo inaplicable en la práctica, sino rediseñar las metodologías de evaluación para que sean resistentes a la asistencia de la IA. TEQSA ha publicado orientaciones que animan a las instituciones a desarrollar la alfabetización en IA como un atributo de egreso y a utilizar las herramientas de detección de IA con la debida cautela, dadas sus limitaciones de precisión documentadas.

Herramientas de detección de IA y obligaciones de debido proceso

Las herramientas de detección de IA, incluida la función de detección de IA de Turnitin y herramientas específicas como GPTZero, presentan tasas de falsos positivos documentadas que han dado lugar a que se acuse incorrectamente a estudiantes de conducta académica indebida. Las consecuencias para un estudiante de una determinación incorrecta de conducta académica indebida pueden ser graves: la reprobación de la asignatura, la exclusión de programas y, en algunos casos, la imposibilidad de completar su titulación. Las instituciones educativas que se basan en herramientas de detección de IA sin las debidas garantías procesales se exponen a riesgos legales.

Las obligaciones de debido proceso para los procesos de integridad académica asistidos por IA son las mismas que para cualquier proceso disciplinario: al estudiante se le debe notificar la acusación, se le debe dar la oportunidad de responder y la decisión debe ser tomada por una persona responsable de la decisión que considere todas las pruebas pertinentes. Una puntuación de detección de IA por sí sola no constituye base suficiente para una determinación de conducta académica indebida. La institución debe poder demostrar que el proceso fue justo y que el resultado se basó en pruebas, no únicamente en una puntuación algorítmica.

Datos de los estudiantes y obligaciones de privacidad

Las universidades australianas están sujetas a la Privacy Act 1988 (Ley de Privacidad de 1988) y a los Australian Privacy Principles (Principios Australianos de Privacidad, APP) respecto de la información personal de los estudiantes y del personal. Los sistemas de IA que procesan datos de los estudiantes, las plataformas de análisis del aprendizaje, los sistemas de monitoreo del bienestar estudiantil y las herramientas de predicción de la progresión académica deben cumplir con los APP. La recopilación de datos de los estudiantes para el análisis mediante IA debe ser divulgada, el uso debe ser coherente con la finalidad para la que se recopilaron los datos y estos deben protegerse adecuadamente. El uso de análisis predictivo para identificar a los estudiantes en riesgo plantea obligaciones específicas de consentimiento y transparencia: los estudiantes deben saber que sus datos académicos están siendo analizados por sistemas de IA y que estos análisis influyen en el apoyo o la intervención que reciben.

Lectura adicional: ASD ACSC, Agentic AI Guidance

Lecturas relacionadas

Lectura adicional: ASD ACSC, Agentic AI Guidance