EU AI Act 合规指南:欧盟人工智能监管法规全解析与合规实操手册
EU AI Act 合规指南:欧盟人工智能监管法规全解析与合规实操手册
作者:产品合规小助手 | 发布日期:2026年4月27日
合规截止日提醒:高风险AI系统完整合规要求将于 2026年8月2日 强制执行,距今仅剩约 3个月。企业应立即启动合规准备。
一、EU AI Act 概述:全球首部AI综合监管法规
1.1 法规背景与定位
2024年8月1日,Regulation (EU) 2024/1689(简称EU AI Act)正式生效,标志着全球首部全面监管人工智能系统的法规诞生。该法案并非孤立存在,而是欧盟数字战略的重要组成部分,与《通用数据保护条例》(GDPR)、《数字服务法》(DSA)、《数字市场法》(DMA)等法规形成协同监管网络。
核心目标:在促进AI创新的同时,确保人工智能系统的安全性、透明性和基本权利保护,建立"以人为本"的AI治理框架。
1.2 分阶段生效时间表
EU AI Act 采用渐进式生效策略,不同条款在不同时间点执行:
| 生效日期 | 适用条款 | 主要内容 | 状态 |
|---|---|---|---|
| 2024年8月1日 | Article 113 | 法规正式生效,24个月倒计时开始 | ✅ 已生效 |
| 2025年2月2日 | Articles 4, 5 | 禁止性做法 + AI素养要求 | ✅ 已生效 |
| 2025年5月2日 | Chapter V | GPAI行为准则截止日期 | ✅ 已生效 |
| 2025年8月2日 | Chapters III§4, V, VII, XII | GPAI规则 + 治理结构 + 处罚条款 | ✅ 已生效 |
| 2026年8月2日 | Articles 8-15, 26, 27, 50 | 高风险AI系统要求 + 部署者义务 + 透明度 | ⚠️ 即将强制执行 |
| 2027年8月2日 | Article 6(1), Annex I | 嵌入受管制产品中的高风险AI | 📅 规划中 |
重要提示:欧盟委员会于2025年11月提出的"数字综合方案"(Digital Omnibus)可能将部分高风险AI义务推迟至2027年12月2日,但该提案目前处于三方谈判阶段,尚未成为法律。企业应以2026年8月2日为基准计划合规工作。
二、AI系统四级风险分类:你的产品属于哪一类?
EU AI Act 采用基于风险的分级监管模式,将AI系统分为四个层级。分类的准确性直接决定合规义务的轻重。
2.1 第一级:禁止的AI做法(Prohibited AI Practices)
适用时间:2025年2月2日起已生效
最高罚款:3500万欧元或全球年营业额7%
以下八类AI做法在欧盟境内绝对禁止:
| 禁止做法 | 具体描述 |
|---|---|
| 🚫 潜意识操纵 | 使用超出人类意识感知的次liminal技术操纵行为 |
| 🚫 利用弱点 | 利用年龄、残疾或社会经济状况等弱点进行操纵 |
| 🚫 社会评分 | 基于社交行为或个人特征进行评分和分类 |
| 🚫 无目标面部抓取 | 从互联网或监控录像中无差别抓取面部图像建立数据库 |
| 🚫 工作场所情绪识别 | 在工作场所和教育机构中推断情绪(医疗和安全除外) |
| 🚫 敏感属性生物分类 | 基于生物特征数据分类种族、政治倾向、宗教信仰等敏感属性 |
| 🚫 预测性警务(仅基于个人特征) | 仅基于个人特征分析评估犯罪风险 |
| 🚫 实时远程生物识别(执法例外有限) | 公共场所实时人脸识别(仅特定严重犯罪和搜救可例外) |
2.2 第二级:高风险AI系统(High-Risk AI Systems)⭐
适用时间:2026年8月2日起强制执行
最高罚款:1500万欧元或全球年营业额3%
这是EU AI Act的监管核心,涵盖两大类别:
Annex I:嵌入受管制产品中的AI安全组件
这些产品受欧盟现有协调法规管辖,AI作为其安全组件:
- 机械设备(Machinery Directive 2006/42/EC)
- 医疗器械(MDR 2017/745, IVDR 2017/746)
- 车辆(Automotive regulations)
- 玩具(Toy Safety Directive 2009/48/EC)
- 电梯(Lift Directive 2014/33/EU)
- 船舶设备(Marine Equipment Directive 2014/90/EU)
Annex III:独立高风险AI系统(八大场景)
| 场景类别 | 典型应用 | 合规评估路径 |
|---|---|---|
| 1. 关键基础设施 | 道路交通管理、水电供应系统 | 内部控制 |
| 2. 教育与职业培训 | 录取评分、考试评估、学习成果监测 | 内部控制 |
| 3. 就业与工作者管理 | 招聘筛选、绩效评估、工作分配、合同终止 | 内部控制 |
| 4. 金融服务评估 | 信用评分、保险定价、贷款审批 | 内部控制 |
| 5. 执法 | 证据评估、风险评估、再犯预测 | 内部控制 |
| 6. 边境管控 | 签证/庇护申请评估、边境检查自动化 | 内部控制 |
| 7. 司法与民主进程 | 法律研究、案件分配、投票计数 | 内部控制 |
| 8. 生物识别分类 | 远程生物识别系统(非实时) | 第三方合格评定 |
注意:并非所有用于上述场景的AI都属于高风险。EU AI Act通过"重大损害可能性"测试进行细化判定,建议企业使用EU AI Compass官方分类工具进行自评估。
2.3 第三级:有限风险AI系统(Limited Risk)
适用时间:2026年8月2日起强制执行
核心义务:透明度要求(Article 50)
以下AI系统须履行透明度义务:
- 聊天机器人:必须告知用户正在与AI交互
- 深度伪造(deepfake):必须明确标注内容为AI生成
- 情绪识别/生物分类系统:必须告知正在收集和处理相关数据
2.4 第四级:最小风险AI系统(Minimal Risk)
合规要求:自愿遵守行为准则
包括:AI增强的视频游戏、垃圾邮件过滤器、智能家电(非安全关键)等。建议企业自愿采纳欧盟AI行为准则,提升市场信任。
三、高风险AI系统九大合规要求(Articles 8-15)
2026年8月2日起,高风险AI系统的提供者(Provider)必须满足以下九项技术要求:
3.1 风险管理系统(Article 9)
要求:建立贯穿AI全生命周期的风险管理体系
实操要点:
- 在设计阶段识别和评估已知和可合理预见的风险
- 在部署阶段监测和评估残余风险
- 制定风险缓解措施,包括技术措施和管理措施
- 定期更新风险评估,特别是在发生重大修改或事件后
- 保留完整的风险管理文档
文档要求:风险管理系统描述、风险评估报告、风险缓解措施记录、测试和验证报告
3.2 数据治理与训练数据(Article 10)
要求:确保训练、验证和测试数据的质量和代表性
实操要点:
- 数据适用性评估:确认数据与预期用途的相关性
- 偏差检测与纠正:识别并减轻可能导致歧视的数据偏差
- 数据缺口处理:在数据不足时采用特殊措施(如合成数据、迁移学习)
- 数据治理政策:建立数据收集、清洗、标注和管理的标准流程
特别注意事项:涉及敏感个人数据时,须符合GDPR要求;用于执法的AI系统,须确保数据不含非法歧视。
3.3 技术文档(Article 11)
要求:编制全面的技术文档,证明符合AI Act要求
必备内容:
| 文档章节 | 要求内容 |
|---|---|
| 系统描述 | AI系统的总体架构、预期用途、局限性、已知风险 |
| 设计规范 | 算法选择依据、模型架构、超参数配置 |
| 训练数据 | 数据来源、规模、特征、偏差分析、清洗方法 |
| 验证测试 | 测试用例、验证指标、性能基准、边界条件测试 |
| 风险管理 | 风险评估结果、缓解措施、残余风险说明 |
| 人为监督 | 监督机制设计、人工干预触发条件、操作员培训 |
| 性能监控 | 部署后监控计划、KPI指标、异常检测机制 |
参考标准:建议参照EN ISO/IEC 23053(AI系统分类标准)和即将发布的AI Act协调标准编制技术文档。
3.4 记录保存与日志(Article 12)
要求:建立自动记录机制,保存关键运行日志
实操要点:
- 记录内容:输入数据、输出结果、模型版本、操作人员、时间戳、异常事件
- 保存期限:至少6个月(自AI系统最后一次使用起算)
- 访问权限:仅授权人员可访问,符合数据保护要求
- 存储安全:防止篡改、丢失和未授权访问
3.5 透明度与信息披露(Article 13)
要求:向部署者和用户提供清晰、完整的信息
必须提供的信息:
- AI系统的身份和联系信息(提供者名称、注册地址、联系方式)
- AI系统的预期用途和已验证的用途范围
- AI系统的已知局限性和风险
- AI系统的性能指标和验证结果
- 需要人为监督的程度和方式
- AI系统的预期寿命和维护要求
提供方式:技术文档、用户说明书、标签或数字界面
3.6 人为监督(Article 14)
要求:确保高风险AI系统在运行过程中受到有效人为监督
监督设计原则:
| 层面 | 要求 |
|---|---|
| 机制设计 | 在AI系统设计和开发阶段就嵌入人为监督功能 |
| 权限分配 | 授权监督人员有权干预、纠正或覆盖AI系统的输出 |
| 能力保障 | 确保监督人员具备必要的知识、技能和权限 |
| 界面友好 | 提供直观、易懂的人机交互界面 |
关键要求:监督人员必须能够理解AI系统的能力和局限性,并能在必要时采取纠正措施。
3.7 准确性、稳健性与网络安全(Article 15)
要求:确保AI系统在预期用途范围内具有适当的准确性、稳健性和安全性
具体指标:
- 准确性:在预期用途范围内的错误率、精确率、召回率等性能指标
- 稳健性:对输入数据变化的容忍度、抗干扰能力、边界条件处理能力
- 网络安全:防范网络攻击、数据泄露、模型窃取、对抗性攻击
- 回退机制:在系统故障或异常情况下切换到安全状态的能力
测试要求:必须在代表实际使用条件的环境中进行充分验证和测试。
3.8 质量管理体系(Article 17)
要求:建立覆盖AI全生命周期的质量管理体系
体系要素:
| 要素 | 要求 |
|---|---|
| 战略与治理 | 明确AI合规的战略优先级、治理结构和职责分工 |
| 资源管理 | 确保具备足够的技术、人力和财务资源 |
| 过程控制 | 建立标准化的AI开发、测试、部署和监控流程 |
| 文档控制 | 确保所有技术文档的准确性、完整性和可追溯性 |
| 供应商管理 | 评估和管理第三方AI组件和服务的合规风险 |
| 持续改进 | 建立内部审计和持续改进机制 |
参考标准:建议参照EN ISO 9001和EN ISO/IEC 42001(AI管理体系标准)建立质量管理体系。
3.9 纠正措施与退市(Article 20, 21)
要求:建立不合规事件的响应机制
必须执行的行动:
- 不合规识别:主动监测和被动报告相结合
- 根本原因分析:系统性分析不合规的根本原因
- 纠正措施:制定并实施纠正措施计划
- 主管机关通知:在发现严重不合规时通知市场监督主管机关
- 产品退市:在必要时从市场撤回或召回AI系统
- 文档记录:完整记录所有纠正措施和结果
四、合规评估程序:如何获得CE标记?
高风险AI系统要在欧盟市场流通,必须加贴CE标记,证明其符合EU AI Act要求。
4.1 两种合规评估路径
路径一:内部控制(Self-Assessment)
适用对象:大多数Annex III高风险AI系统
流程步骤:
- 建立质量管理体系(Article 17)
- 编制技术文档(Article 11)
- 实施风险管理系统(Article 9)
- 执行合格性测试(准确性、稳健性、网络安全测试)
- 编制欧盟合规声明(EU Declaration of Conformity)
- 加贴CE标记
优势:成本较低、周期较短、自主可控
劣势:企业承担全部合规责任、缺乏外部验证
路径二:基于质量管理体系的第三方合格评定
适用对象:
- Annex I中嵌入受管制产品的高风险AI系统
- 使用生物识别技术的远程识别系统(Annex III第1点)
流程步骤:
- 选择指定机构(Notified Body)
- 提交技术文档和质量管理体系文件
- Notified Body审核:
- 质量管理体系审核(EN ISO/IEC 42001)
- 技术文档审查
- 可能包括现场审核和产品测试
- 获得合格证书
- 编制欧盟合规声明
- 加贴CE标记
优势:外部验证增强可信度、适用于高风险场景
劣势:成本较高(通常数万至数十万欧元)、周期较长(3-6个月)、依赖指定机构资源
4.2 欧盟合规声明(EU Declaration of Conformity)
必备要素:
- AI系统的标识信息(名称、型号、版本)
- 提供者的名称和地址
- 声明符合EU AI Act的具体条款
- 技术文档的引用
- 授权签字人的姓名、职位和签字
- 声明签发日期
模板提示:建议在欧盟委员会发布官方模板前,参照MDR和RED指令的DoC格式编制。
4.3 CE标记加贴规则
| 要求 | 说明 |
|---|---|
| 标记内容 | "CE"字母,按标准比例和尺寸 |
| 标记位置 | AI系统本体、包装或随附文件上 |
| 标记前提 | 完成合规评估并编制DoC |
| 附加信息 | 可附加Notified Body的识别编号(如适用) |
| 字体高度 | 至少5mm(除非产品尺寸不允许) |
五、部署者(Deployer)义务与基本权利影响评估
5.1 部署者核心义务(Article 26)
"部署者"是指在其授权下使用AI系统的任何自然人或法人,不同于提供AI系统的实体。
六项核心义务:
| 义务 | 具体要求 |
|---|---|
| 1. 人为监督 | 指派具备适当能力的人员进行有效监督 |
| 2. 输入数据控制 | 确保输入数据与AI系统的预期用途相关 |
| 3. 日志保存 | 保存自动日志至少6个月 |
| 4. 事件通知 | 发现风险或严重事件时通知提供者和主管机关 |
| 5. 系统维护 | 按照提供者说明进行维护,及时应用更新 |
| 6. 合规配合 | 配合市场监督主管机关的合规检查 |
5.2 基本权利影响评估(FRIA,Article 27)⭐
强制要求:公共部门部署者以及部署Annex III第6、7点(教育、就业、执法、边境管控等)高风险AI系统的所有部署者
评估内容:
| 维度 | 评估要点 |
|---|---|
| 系统描述 | AI系统的预期用途、使用场景、决策范围 |
| 影响分析 | 对基本权利(隐私、平等、公正、民主参与)的潜在影响 |
| 利益相关方 | 受影响群体的识别和咨询 |
| 风险评估 | 权利受损的可能性和严重程度 |
| 缓解措施 | 减少负面影响的措施(如人工复核、申诉机制) |
| 残余风险 | 采取缓解措施后仍然存在的风险 |
与GDPR DPIA的关系:如果FRIA和DPIA(数据保护影响评估)的范围重叠,可以进行合并评估,但须同时满足两项法规的要求。
5.3 高风险AI系统登记(Article 49)
强制要求:公共部门部署者必须在欧盟高风险AI系统数据库中登记其使用的高风险AI系统
登记内容:
- 部署者名称和联系方式
- AI系统的名称和版本
- 预期用途和使用场景
- 部署时间和预期期限
- 基本权利影响评估摘要
六、通用人工智能模型(GPAI)特殊要求
6.1 GPAI模型分类
EU AI Act对通用人工智能模型(General-Purpose AI Models)设有专门章节:
| 类别 | 定义 | 适用条款 |
|---|---|---|
| 普通GPAI模型 | 具有广泛适用性的通用AI模型 | Articles 52-55 |
| 具有系统性风险的GPAI模型 | 计算量>10^25 FLOPs的GPAI模型 | Articles 52-55 + Article 55 |
6.2 所有GPAI模型的义务(Article 52-54)
- 技术文档:编制并维护模型技术文档
- 下游提供者信息:向下游提供模型能力、局限性和使用条件信息
- 版权合规:制定并执行版权合规政策,特别是用于训练的数据
- 训练数据摘要:发布训练数据的内容摘要(包括数据来源、类型和数量)
6.3 具有系统性风险GPAI模型的附加义务(Article 55)
- 对抗性测试:进行模型安全性和鲁棒性测试
- 事件报告:向AI办公室报告严重事件
- 网络安全:实施最先进的网络安全措施
- 能耗报告:报告模型训练和运行的能源消耗
七、处罚机制与罚款标准
EU AI Act 采用三级罚款体系,罚款金额取"固定金额"和"营业额百分比"中的较高者:
7.1 罚款分级
| 级别 | 违规行为 | 最高罚款 | 适用对象 |
|---|---|---|---|
| 一级 | 违反禁止性做法(Article 5) | 3500万欧元 或 全球年营业额7% | 所有提供者/部署者 |
| 二级 | 违反高风险AI要求(Articles 8-15) 违反部署者义务(Article 26) 违反透明度要求(Article 50) |
1500万欧元 或 全球年营业额3% | 高风险AI提供者/部署者 |
| 三级 | 向主管机关提供虚假信息 不回应主管机关信息请求 |
750万欧元 或 全球年营业额1% | 所有相关方 |
7.2 中小企业特殊保护
EU AI Act 对中小企业(SMEs)和初创企业设有保护条款:
- 适用罚款时采用较低金额(固定金额部分)
- 罚款上限不超过SMEs的年营业额(对百分比罚款的约束)
- 执法时应考虑企业的规模和资源
7.3 执法主体
- 欧盟层面:欧盟AI办公室(AI Office)负责GPAI模型的监管
- 成员国层面:各成员国指定的市场监督主管机关负责高风险AI系统的执法
- 协调机制:欧盟AI委员会(AI Board)协调成员国执法一致性
八、合规路线图:企业应如何准备?
8.1 立即行动清单(2026年4月-8月)
距离高风险AI系统合规截止日仅剩3个月,企业应立即启动以下行动:
Phase 1:分类与盘点(第1-2周)
- [ ] AI系统盘点:全面梳理企业内部使用的所有AI系统
- [ ] 风险分类:使用官方工具或咨询专家进行AI系统风险分类
- [ ] 影响评估:识别属于高风险类别的AI系统及其业务影响
- [ ] 合规差距分析:对照Articles 8-15评估现有合规水平
Phase 2:合规体系建设(第3-6周)
- [ ] 建立质量管理体系:参照EN ISO/IEC 42001建立AI管理体系
- [ ] 编制技术文档:为每个高风险AI系统编制完整技术文档
- [ ] 实施风险管理:建立贯穿AI全生命周期的风险管理系统
- [ ] 设计人为监督机制:确保AI系统运行中有有效的人工干预能力
Phase 3:测试与验证(第7-10周)
- [ ] 准确性测试:在代表性环境中验证AI系统的性能指标
- [ ] 稳健性测试:测试系统对异常输入、边界条件的处理能力
- [ ] 网络安全测试:进行渗透测试、对抗性攻击测试
- [ ] 偏差检测:识别并纠正AI系统中的潜在歧视性偏差
Phase 4:文档与认证(第11-12周)
- [ ] 编制合规声明:编写EU Declaration of Conformity
- [ ] 准备CE标记:完成CE标记的设计和加贴准备
- [ ] 指定机构接洽(如适用):如需第三方认证,联系Notified Body
- [ ] 内部审计:进行合规性内部审计,确保无遗漏
8.2 长期合规机制(2026年8月后)
| 机制 | 频率 | 责任方 |
|---|---|---|
| 性能监控与日志审查 | 持续/每月 | 部署者 |
| 风险管理系统更新 | 每季度/重大变更后 | 提供者 |
| 技术文档更新 | 每年/重大变更后 | 提供者 |
| 基本权利影响评估更新 | 每年/用途变更后 | 部署者 |
| 内部合规审计 | 每年 | 合规团队 |
| 主管机关合规检查 | 不定期 | 市场监督机关 |
九、关键资源与工具
9.1 官方资源
| 资源 | 链接 | 用途 |
|---|---|---|
| EU AI Act 全文 | Eur-Lex | 法规原文查询 |
| AI Act Service Desk | 官方指南 | 官方FAQ和实施指南 |
| EU AI Compass | 分类工具 | AI系统风险分类自评 |
| AI Act Explorer | 条款查询 | 按条款查询具体要求 |
| 标准化进展 | CEN-CENELEC | 协调标准制定进度 |
9.2 建议参考标准(协调标准发布后)
- EN ISO/IEC 23053:AI系统框架和分类
- EN ISO/IEC 42001:AI管理体系
- EN ISO/IEC 23894:AI风险评估指南
- EN ISO/IEC 24028:AI系统可信度评估
- EN ISO/IEC 24643:AI系统偏见管理
十、常见问题解答(FAQ)
Q1: 我的AI系统只在欧盟境外使用,是否受EU AI Act管辖?
如果AI系统的输出结果在欧盟境内使用,或面向欧盟用户,即使服务器在境外,仍受EU AI Act管辖。类似于GDPR的域外效力原则。
Q2: EU AI Act和GDPR是什么关系?
EU AI Act与GDPR是互补关系。GDPR关注个人数据保护,AI Act关注AI系统的安全性和基本权利保护。两者同时适用时,企业需同时满足两项法规要求。AI Act明确要求高风险AI系统的数据处理须符合GDPR。
Q3: 开源AI模型是否豁免?
不完全豁免。开源GPAI模型可豁免部分义务(如版权合规),但如果开源模型被修改为高风险AI系统,修改后的系统仍需合规。此外,具有系统性风险的开源GPAI模型仍需履行Article 55的附加义务。
Q4: 我们使用的是第三方AI服务,谁承担合规责任?
责任取决于角色定位:
- 提供者(Provider):开发和/或上市AI系统的实体,承担主要合规责任
- 部署者(Deployer):使用AI系统的实体,承担部署者义务
- 如果使用第三方API服务,通常部署者是责任主体,但需确认合同中的合规责任分配
Q5: CE标记的AI系统是否还需要其他产品认证?
是的。对于Annex I中的AI系统(嵌入受管制产品),AI Act合规是附加要求,不影响原有产品安全认证(如CE标记下的MDR、RED等)。企业需同时满足AI Act和原有法规的要求。
结语
EU AI Act 的出台标志着全球AI监管进入新阶段。对于在欧盟市场运营或计划进入欧盟市场的企业而言,2026年8月2日的高风险AI合规截止日是一个不可回避的硬性期限。
核心建议:
- 立即启动AI系统盘点和分类,识别是否属于高风险类别
- 优先建立质量管理体系和技术文档,这是合规的基础
- 不要等待协调标准正式发布,参照现有标准(如ISO/IEC 42001)先行准备
- 持续关注Digital Omnibus立法进展,但不要以延期为基准计划
- 寻求专业支持,AI合规涉及技术、法律和管理的交叉领域,建议咨询专业合规机构
合规不是一次性的项目,而是需要持续投入的管理过程。建立长期的AI治理机制,不仅是为了满足法规要求,更是企业负责任地使用AI、赢得市场信任的战略投资。
📌 免责声明:本文基于截至2026年4月的公开信息编制,EU AI Act的实施细则和协调标准仍在制定中。本文仅供参考,不构成法律建议。具体合规决策请咨询专业法律顾问。
📅 本文更新日期:2026年4月27日 | 下次复查日期:2026年5月27日(跟踪Digital Omnibus立法进展和协调标准发布)
觉得有用?订阅获取更多合规干货
每周精选全球产品合规法规更新、技术标准解读与出海避坑指南,直送你的邮箱。
✓ 免费订阅 · 随时退订 · 无垃圾邮件