词汇表

AI治理词汇表

AI治理、法规和风险管理中重要术语的简明定义。

仅供参考。 仅供参考。提供的定义是一般性解释，不构成法律、监管或专业建议。请咨询合格的专业人士，以获取适合您组织的具体指导。

问责制（AI）

特定个人或机构对AI系统决策和结果承担责任的原则——包括解释决策、接受损害后果和实施纠正措施的义务。

当AI系统通过设计、训练数据或部署背景产生基于种族、性别、年龄或残疾等受保护特征而不公平地处于不利地位的个人的输出时。

AI系统活动的按时间顺序记录——输入、输出、决策和修改——为后期审查、合规验证和问责制提供依据。

AI输出中导致某些群体受到不公平对待的系统性错误。来源包括有偏见的训练数据、有缺陷的模型设计和不一致的优化目标。

在EU AI法案下，高风险AI系统在市场投放前对强制性要求进行评估的过程。可由开发者（自我评估）或通知机构（第三方评估）进行。

数据集的文档历史——其来源、收集方法、处理步骤和监管链。对AI治理至关重要，因为数据质量直接影响模型可靠性和公平性。

法规（EU）2024/1689，世界上第一个全面的、具有约束力的AI法律框架。建立了具有禁止用途、高风险义务和一般要求的基于风险的分类系统。2026年8月全面生效。

AI系统的输出可被人类理解和解释的程度。从完全透明（基于规则的系统）到黑盒模型的事后解释方法。

当生成式AI系统产生事实上不正确、捏造或内部不一致的输出时——但以明显的置信度呈现。是知识密集型企业应用中的主要风险。

在EU AI法案下，特定部门（健康、教育、就业、关键基础设施、执法等）中对权利或安全构成重大风险的AI系统。受包括文档、人工监督和合格评定在内的强制性要求约束。

合格人员监控、干预并在必要时停止AI系统运行的能力。在EU AI法案下对高风险AI是必需的，并越来越被视为治理最低标准。

ISO/IEC 42001:2023——AI管理系统国际标准。为组织建立、实施、维护和持续改进负责任的AI治理提供框架。

随着现实世界数据分布偏离训练条件，AI模型性能随时间降低。需要持续监控和定期重新训练以维持可靠的输出。

国家标准与技术研究院AI风险管理框架（2023年）。一个自愿的美国框架，用于跨四个职能识别、评估和管理AI风险：治理、映射、测量、管理。

员工在没有组织知识、批准或监督的情况下使用AI工具。创造数据安全、知识产权和合规风险——特别是消费者AI工具。

用于训练AI模型的数据集。其质量、代表性和溯源直接决定模型行为、性能和公平性属性。