Le double défi de l'IA pour les établissements d'enseignement australiens

Les établissements d'enseignement australiens sont confrontés simultanément à des défis de gouvernance de l'IA sur deux fronts distincts. En tant qu'employeurs et prestataires de services, ils doivent gouverner leur propre usage de l'IA, dans les systèmes de gestion des étudiants, l'analyse académique, le recrutement du personnel et les opérations administratives. En tant qu'établissements d'enseignement, ils doivent élaborer des politiques cohérentes et défendables concernant l'usage de l'IA par les élèves et étudiants dans l'apprentissage et l'évaluation. Ces deux défis nécessitent des cadres de gouvernance, mais ils relèvent d'obligations réglementaires différentes et soulèvent des considérations éthiques distinctes.

La TEQSA et l'intégrité académique à l'ère de l'IA générative

La Tertiary Education Quality and Standards Agency (Agence de la qualité et des normes de l'enseignement supérieur, TEQSA) réglemente les prestataires australiens d'enseignement supérieur au regard du Higher Education Standards Framework (cadre des normes de l'enseignement supérieur). La norme 5.4 (Intégrité académique) exige des prestataires qu'ils prennent des mesures raisonnables pour protéger l'intégrité académique de leurs diplômes. La disponibilité généralisée de l'IA générative a exercé une pression considérable sur les cadres d'intégrité académique ; les élèves et étudiants peuvent désormais utiliser l'IA pour produire des travaux évalués indiscernables de leur propre production.

La réponse de la TEQSA a consisté à attendre des établissements qu'ils élaborent des approches cohérentes, proportionnées et pédagogiquement solides à l'égard de l'IA dans l'évaluation, non pas en interdisant simplement l'usage de l'IA, ce qui est inapplicable, mais en repensant les méthodes d'évaluation pour qu'elles résistent à l'assistance de l'IA. La TEQSA a publié des orientations encourageant les établissements à développer la maîtrise de l'IA comme attribut du diplômé et à utiliser les outils de détection de l'IA avec la prudence appropriée, compte tenu de leurs limites de précision documentées.

Outils de détection de l'IA et obligations de garanties procédurales

Les outils de détection de l'IA, y compris la fonctionnalité de détection de l'IA de Turnitin et des outils dédiés comme GPTZero, présentent des taux de faux positifs documentés qui ont conduit à accuser à tort des élèves et étudiants de manquement à l'intégrité académique. Les conséquences pour un étudiant d'une conclusion erronée de manquement académique peuvent être graves : échec du cours, exclusion des programmes et, dans certains cas, impossibilité d'achever son diplôme. Les établissements d'enseignement qui s'appuient sur des outils de détection de l'IA sans garanties procédurales appropriées s'exposent à des risques juridiques.

Les obligations de garanties procédurales applicables aux procédures d'intégrité académique assistées par l'IA sont les mêmes que pour toute procédure disciplinaire : l'étudiant doit être informé de l'allégation, se voir accorder la possibilité d'y répondre, et la décision doit être prise par un décideur humain qui examine l'ensemble des éléments de preuve pertinents. Un score de détection de l'IA à lui seul ne constitue pas un fondement suffisant pour une conclusion de manquement académique. L'établissement doit être en mesure de démontrer que la procédure a été équitable et que le résultat reposait sur des preuves, et non uniquement sur un score algorithmique.

Données des élèves et obligations en matière de protection de la vie privée

Les universités australiennes sont soumises à la Privacy Act 1988 (loi de 1988 sur la protection de la vie privée) et aux Australian Privacy Principles (Principes australiens de protection de la vie privée, APP) pour les informations personnelles des étudiants et du personnel. Les systèmes d'IA qui traitent les données des étudiants, plateformes d'analyse de l'apprentissage, systèmes de surveillance du bien-être des étudiants, outils de prédiction de la progression académique, doivent respecter les APP. La collecte des données des étudiants à des fins d'analyse par l'IA doit être divulguée, l'usage doit être cohérent avec la finalité pour laquelle les données ont été collectées, et les données doivent être sécurisées de manière appropriée. Le recours à l'analyse prédictive pour identifier les étudiants à risque soulève des obligations spécifiques en matière de consentement et de transparence ; les étudiants devraient savoir que leurs données académiques sont analysées par des systèmes d'IA et que ces analyses influencent le soutien ou l'intervention dont ils bénéficient.

Pour aller plus loin : ASD ACSC, Agentic AI Guidance

Lectures complémentaires

Pour aller plus loin : ASD ACSC, Agentic AI Guidance