欧盟AI法案解读：要求和实践指南-20页_11mb

欧盟AI法案总结

核心内容概述

欧盟AI法案是全球首部全面的AI法律，旨在减少AI相关风险，提升AI系统的安全性和透明度，同时促进负责任和伦理的AI使用。该法案适用于在欧盟市场投放或使用的AI系统，并对不同风险级别的AI系统设定了不同的合规要求，包括禁止某些高风险AI实践、对高风险系统实施严格义务、对通用AI模型提出额外要求，以及对违规行为设定高额罚款。

主要观点

• AI技术应用迅速增长，但其潜在风险（如隐私侵犯、歧视、安全问题）也日益凸显。
• 欧盟AI法案对AI系统的定义和适用范围进行了详细划分，涵盖提供者、部署者、进口商、分销商等多个角色。
• 法案采用风险分类机制，将AI系统分为高风险、有限风险、通用AI模型等，以确定相应的合规义务。
• 法案强调透明度、数据治理、人工监督、AI素养、上市后监测和符合性评估等关键合规要素。
• 法案具有域外效力，因此即使企业不在欧盟境内，也可能受到约束。
• 为促进创新，法案鼓励成员国设立AI监管沙盒，以测试和验证新兴AI系统。

关键信息

1. 定义与适用范围

• AI系统定义：指能够执行任务的系统，通过算法处理输入数据并生成输出。
• 适用范围：
  • 在欧盟市场投放的AI系统提供者
  • 在欧盟境内部署AI系统的组织
  • AI系统的进口商和分销商
  • 集成AI系统的制造商
  • 位于欧盟的受影响个人

2. 受禁系统

以下AI实践被欧盟AI法案明确禁止：

• 使用AI操纵或欺骗个人，影响其决策或造成重大伤害
• 基于社会行为或个性进行社会评分
• 预测个人犯罪风险
• 构建面部识别数据库
• 在公共场所用于执法的实时生物特征识别系统
• 基于生物特征进行种族、政治信仰、宗教等分类

3. 高风险AI系统

高风险AI系统包括：

• 用于教育、职业培训、就业管理的系统
• 执法、边境管理、司法程序等系统
• 关键基础设施（如供水系统）中的AI组件
• 生物特征识别系统

关键义务：

• 建立风险管理机制，贯穿AI系统生命周期
• 保证数据质量，包括准确性、完整性、统一性等
• 实施人工监督，确保系统输出可被纠正或否决
• 保持透明度，向受影响人员提供系统使用说明
• 进行符合性评估并获得CE标志
• 注册高风险系统至欧盟数据库
• 报告严重事件（如人员伤亡、基础设施中断等）

4. 技术文档与记录保存

• 高风险AI系统需提供详细技术文档，包括系统描述、数据使用、测试和验证过程等
• 必须进行自动日志记录，涵盖系统使用时间、输入数据、人员参与等
• 技术文档和记录有助于提升透明度和系统可追溯性

5. 数据和数据治理

• 数据集必须准确、无偏差，并符合伦理和法律要求
• 数据处理操作（如标注、清洗、聚合）需明确定义和记录
• 数据质量是确保AI系统合规和有效性的基础

6. 准确性、稳健性与网络安全

• 高风险AI系统需具备准确性、稳健性和网络安全措施
• 系统需具备抵御未经授权修改、数据投毒、对抗性攻击等能力
• 系统应具备持续学习和更新机制，以减少偏差输出风险

7. 透明度要求

• 与AI系统互动的用户需被告知其正在与AI交互
• 合成内容的AI系统需明确标记为人工生成或操纵
• 有限风险AI系统（如情感识别、生物特征分类）也需透明操作

8. 通用AI模型

• 通用AI模型可执行多种任务，通过自我监督、无监督或强化学习训练
• 提供者需创建并维护技术文档，包括训练和测试过程
• 对具有系统性风险的通用AI模型，提供者需进行对抗性测试、报告严重事件，并提供网络安全保护

9. 创新考量与沙盒机制

• 欧盟设立AI监管沙盒，以支持创新并测试高风险AI系统
• 沙盒机制允许企业在AI系统投放市场前进行开发、测试和验证

10. 罚款机制

• 禁止系统违规：最高罚款可达3500万欧元或公司全球年营业额的7%，取较高者
• 其他条款违规：最高罚款可达1500万欧元或公司全球年营业额的3%，取较高者
• 提供不准确信息：最高罚款可达750万欧元或公司全球年营业额的1%，取较高者
• 个人可投诉：自然人或法人可就违规行为向市场监管机构投诉

11. 实践者的下一步

• 企业需立即启动合规流程，识别其使用的AI系统
• 建立AI获取和使用流程，降低影子IT风险
• 与隐私、法律、合规、采购、风险等团队合作，确保AI使用合法合规
• 制定AI伦理指南，确保AI使用符合企业价值观和社会期望
• 考虑AI对社会的广泛影响，包括就业、隐私、安全等方面

12. 时间表

• 欧盟AI法案于2024年8月1日生效
• 大部分条款将于2026年8月2日开始实施

结论

欧盟AI法案为AI技术的开发和部署设定了全面的合规框架，强调风险管理、透明度、数据治理和伦理责任。该法案不仅适用于欧盟内部企业，也具有域外效力，影响全球AI实践。尽管法规可能对创新产生一定限制，但通过监管沙盒等机制，欧盟为AI发展提供了平衡的监管环境。企业应尽早采取行动，确保其AI系统符合法案要求，并为未来的全球AI立法趋势做好准备。