Zwei Governance-Probleme, nicht eines
Bildungseinrichtungen stehen vor KI-Governance auf zwei gleichzeitigen Fronten, und ihre Verwechslung führt zu schlechter Politik bei beiden. Die erste ist die Frage, wie Studierende KI in ihrer akademischen Arbeit verwenden dürfen, eine pädagogische und akademische Integritätsfrage. Die zweite ist, wie die Einrichtung selbst KI in ihren Abläufen einsetzt, eine organisatorische Governance-Frage mit direkten regulatorischen und Fürsorgepflicht-Implikationen.
Institutionelle KI-Einsätze: das Hochrisikoproblem
Universitäten und Schulen verwenden zunehmend KI-Systeme in folgenreichen Entscheidungen über Studierende: Zulassungs-Scoring, Stipendienzuteilung, akademische Leistungsvorhersage, Lernbehinderungsidentifikation und Risikobewertung des Studentenwohlergehens. Diese Anwendungen sind Hochrisiko-KI nach dem EU AI Act. Einrichtungen mit Studierenden aus EU-Mitgliedstaaten, was die meisten englischsprachigen Universitäten mit internationalen Studierendenpopulationen einschließt, unterliegen direkt den Anforderungen des Gesetzes.
KI-Integritäts-Tools: eine Governance-Herausforderung
KI-Erkennungstools, Software, die behauptet, KI-generierte Studierendenarbeiten zu identifizieren, haben dokumentierte und erhebliche Falsch-Positiv-Raten: sie identifizieren fälschlicherweise menschlich geschriebene Werke als KI-generiert. In mehreren dokumentierten Fällen sahen sich Studierende Fehlverhalten-Verfahren gegenüber, die auf KI-Erkennungs-Tool-Outputs basierten, obwohl die Arbeiten menschlich verfasst waren.
Governance erfordert, KI-Erkennungs-Tool-Outputs als Ermittlungsinformationen zu behandeln, einen Ausgangspunkt für Untersuchungen, nicht als ausreichende Evidenz für einen Fehlverhalten-Befund. Kein akademischer Fehlverhalten-Befund sollte allein auf KI-Erkennungs-Output basieren, ohne korroborative menschliche Beurteilung der Arbeit.