人工智能法案（最新）-459页_732kb

人工智能法案：监管框架、安全要求与伦理原则总结

目标与范围

• 目的：改进内部市场的功能，推广以人为本的可信人工智能（AI），确保高水平保护健康、安全和基本权利，防范AI系统的有害影响，并支持创新。
• 适用范围：涵盖AI系统在欧盟的开发、部署和使用，分为禁止性实践、高风险AI系统要求和其他AI系统透明义务。

核心原则与风险分类

风险分类

AI系统分为禁止类、高风险类和低风险类，适用于不同领域（如生物识别、法执法、医疗等）。禁止性实践包括：

• 禁止的操纵或歧视性AI：如扭曲行为、社会评分、生物识别分类等。
• 高风险AI要求：需满足特定要求，包括风险管理系统、数据治理、透明度和人工监督（如医疗设备、交通系统、招聘工具等）。
• 透明义务：要求对某些AI系统标记或揭露其人工干预性质。

安全与伦理

• 风险管理系统：高风险AI需持续监控，识别并缓解风险。
• 数据治理：要求高质量、代表性数据集，防止偏见。
• 透明度：部署高风险AI时需提供清晰说明，便于用户理解。
• 人工监督：确保人类能有效干预AI系统运作，防止自动化误判。

管理机制与治理架构

1. 许可与认证：
   • 第三方认证机构：负责高风险AI的合格评定。
   • 数字CE标志：作为合规标识。
2. 数据库与注册：建立欧盟AI数据库，记录系统信息，并在特定领域（如法执法）实施加密存储。
3. 监管合作：成立AI办公室，协调各成员国市场监督机构和科学专家委员会。

创新支持措施

• 监管沙盒：提供测试框架创新AI系统，减少行政负担。
• 标准与指南：鼓励自愿性代码，提供技术标准支持。
• 小企业支持：简化流程，为小型企业降低合规成本。

法律适用与过渡期

• 分阶段实施：禁止条款自法案生效起6个月适用，高风险系统要求自2年生效起适用。
• 现有制度衔接：与其他欧盟标准化法律协同，并考虑技术进展。

该法案旨在在保障安全和伦理的同时，培育AI生态系统，促进负责任的创新。