教育中的AI治理：大学和学校必须做对的事
教育机构同时在两个方面应对AI——管理学生AI使用和治理自身AI部署。两者都需要正式治理。
Key Takeaways
AI治理是指组织用于确保其AI系统得到负责任开发、部署和运营的政策、问责结构、流程和控制机制的总体。
EU AI法案适用于影响欧盟公民的AI的所有组织——无论组织位于何处。
有效的AI治理需要六个支柱：可见性、问责制、政策、人工监督、监测和事件管理。
"仅供参考。本文不构成法律、监管、财务或专业建议。如需具体指导，请咨询合格专家。"
两个治理问题，而非一个
教育机构在两个同时进行的前线面临AI治理，混淆它们会导致两者的政策都很糟糕。第一个是学生可以在学术工作中如何使用AI的问题——一个教育学和学术诚信问题。第二个是机构本身如何在运营中使用AI——一个具有直接监管和注意义务影响的组织治理问题。
机构AI部署：高风险问题
大学和学校在重要决定中使用AI系统：录取评分、奖学金分配、学术表现预测、学习障碍识别、学生福祉风险评估。这些在EU AI法案下是高风险AI，拥有来自EU成员国学生的机构直接处于法律要求的适用范围内。
AI诚信工具：治理挑战
AI检测工具有文件记录的重大假阳性率：将人类写作误识别为AI生成。在多个有记录的案例中，学生面临基于AI检测工具输出的不当行为程序，尽管作品是人类写作的。治理要求将AI检测工具输出视为调查信息——而非不当行为认定的充分证据。任何学术不当行为认定都不应仅基于AI检测输出，而不进行作品的人工评估。学生数据是最敏感的个人数据类别之一，需要强化的隐私保护。
教育机构面临AI治理的独特机遇：他们不仅需要管理自己的AI使用，还需要准备学生在AI无处不在的世界中负责任地使用AI工具。这两个目标是相互支持的：建立机构AI治理的过程可以为学生提供AI治理如何运作的真实案例；而帮助学生批判性地评估AI工具的努力也可以为机构自身的AI治理提供信息。教育机构有机会成为AI治理的典范。
学术诚信政策与AI技术政策的区别是重要的，但容易被混淆。当机构讨论AI时，往往有两种不同的对话混合在一起：关于学生学术诚信的对话和关于机构AI使用治理的对话。每种对话都需要自己独特的框架：学术诚信政策应该指导学生在学习和评估中如何使用AI工具；组织治理框架应该指导机构如何使用AI进行录取、评估和行政决策。将这两种对话混合在一起会导致两者都处理不当。
随着AI技术和监管格局的持续演变，AI治理实践也需要不断适应。建立在坚实原则基础上的治理框架——问责制、透明度、人工监督、公平性——将比任何特定法规要求更加持久。投资于这些核心能力的组织不仅将在当前监管环境中做好准备，而且将在AI治理预期不可避免地提高的未来做好准备。AI治理不是一项要完成的项目，而是需要随着组织AI使用的演变而持续关注的能力。
以负责任的方式向学生传授AI
教育机构面临独特的机会：不仅要规范校内的AI使用，还要帮助学生为AI无处不在的工作场所做好准备。这两个目标有时会产生张力——过于严格的AI使用限制可能会让学生对工作中实际使用AI的方式产生准备不足。领先的教育机构正在采取更细致的方法：根据学习目标区分任务（某些作业旨在培养不使用AI的技能；其他任务可能鼓励有道德地使用AI）；将AI素养作为正式课程（教学生如何批判性地评估AI输出、识别幻觉、理解AI局限性）；以及建立清晰的作业层面的AI使用指导方针，而非全校统一政策（因为「在这堂课中AI的适当使用」因学习目标而异）。治理挑战不是制定一项一刀切的「学生是否可以使用AI」政策，而是建立一个让教师和学生能够对任何特定学习情境中负责任的AI使用进行细致判断的框架。