人工智能示范法4.0_43页_677kb

《人工智能示范法 4.0》总结

核心内容概述

《人工智能示范法 4.0》是中国社会科学院“人工智能安全治理研究”实验室孵化专项资助项目组在广泛调研、国际比较和产业交流基础上形成的学术性立法参考文献，旨在为全球人工智能立法提供制度思路、规范模型和对话基础。该法不具有正式法律效力，而是具有开放性、迭代性和理想性的探索性理论设想，供立法者与学术界讨论参考。

主要观点与制度设计

一、治理原则与目标

• 以人为本：人工智能活动应以增进人类福祉为最终目标，确保人类对AI的监督和控制。
• 安全与创新并重：坚持促进创新与依法治理相结合，实施包容审慎监管。
• 公平平等：避免对特定群体（如未成年人、老年人、残疾人）实施不合理差别待遇。
• 绿色与可持续：鼓励节能减排技术，推动绿色智慧的数字生态文明建设。
• 国际合作：积极参与国际人工智能治理框架和标准制定，推动标准互认和国际交流。

二、监管体系与主管机关

• 主管机关：国家人工智能主管机关在中央人工智能领导机构领导下，负责全国人工智能发展和管理工作。
• 协同共治机制：建立政府管理、企业履责、行业自治、社会监督、用户自律的综合治理机制。
• 人工智能特区：设立人工智能特区，允许先行先试，并可对法律、行政法规进行变通规定。
• 自贸试验区豁免：对符合条件的人工智能活动，自贸试验区可灵活调整知识产权保护、数据安全管理和贸易管制措施。

三、人工智能活动的管理机制

• 负面清单制度：对负面清单内的人工智能产品和服务实施许可管理，清单外的实施备案管理。
• 安全评估与风险管理：人工智能研发者、提供者、使用者需定期开展安全评估，建立全生命周期风险管理机制。
• 伦理审查机制：设立国家和地方人工智能伦理专家委员会，对重大伦理问题进行研究和指导。
• 应急熔断机制：在发现严重安全隐患或可能引发级联风险时，研发者和提供者应立即采取暂停、限制功能、销毁系统等风险阻断措施。

四、研发者、提供者与使用者义务

• 研发者义务：

  • 制定并保存技术文件；
  • 建立质量管理体系；
  • 配合提供者履行义务；
  • 对基础模型进行伦理审查和监督。

• 提供者义务：

  • 实施备案制度（注册用户数超100万需向国家主管机关备案）；
  • 建立安全、透明、可解释的管理制度；
  • 保障用户数据安全与隐私；
  • 对生成内容进行标识，防止内容被篡改或隐匿。

• 使用者义务：

  • 合法、安全、诚信使用AI产品与服务；
  • 避免输入违法或有害信息；
  • 对生成内容进行事实核验与人工复核；
  • 避免通过AI实施不正当竞争或违法活动。

五、支持与促进措施

• 人工智能发展规划：国家制定并实施人工智能发展规划，推动技术攻关、产品应用与产业培育。
• 算力基础设施建设：建立公共算力资源平台，鼓励算力市场化交易。
• 算法与模型创新：支持开源平台建设，鼓励算法创新与模型训练。
• 数据要素供给：完善数据标准体系，建设高质量数据集，推动数据要素市场化配置。
• 税收优惠与财政支持：对安全治理设备投资实行税额抵免，设立人工智能发展专项资金。
• 人才培养与科研支持：鼓励高校、科研机构和企业开展人工智能基础研究和人才培养。

六、法律责任与处罚机制

• 违法责任：违反本法规定从事AI活动的，将面临警告、罚款、暂停或终止业务等处罚。
• 侵权责任：研发者、提供者、使用者因侵权行为造成损害的，需承担侵权赔偿责任；若能证明损害由被侵权人故意规避安全措施所致，可减轻或免除责任。
• 内部举报人保护：举报人不得因举报遭受打击报复，举报信息需严格保密，举报人可依法获得赔偿。
• 公益诉讼机制：人民检察院、消费者组织等可就AI侵害公共利益的行为提起诉讼。

关键信息与制度亮点

• 人工智能特区：允许在特定区域进行创新试点，可对相关法律进行变通适用。
• 开源人工智能：鼓励开源，对因开源行为导致的第三方使用损害可减轻或免除责任。
• 安全港条款：生成式AI提供者若采取必要措施（如内容标识、投诉机制等），在侵权情况下可免责。
• 备案与许可制度：区分许可与备案，对高风险AI活动实施许可管理，对低风险活动实施备案管理。
• 合规与审计机制：要求AI提供者定期进行合规审计，确保其活动符合法律和伦理要求。
• 技术治理与监管科技：鼓励技术治理手段的应用，如监管科技、合规科技等，提升AI监管能力。

附则与实施安排

• 施行日期：本法自指定日期起施行。
• 军事AI：军队的人工智能活动由中央军事委员会另行规定。
• 科研豁免：为科研目的使用AI，不适用一般性监管规定，但需符合训练数据合法、安全措施到位、科研记录完整等条件。

专家组与起草单位

• 首席专家：李洪雷、周辉、李延枫
• 起草组专家：涵盖法学、人工智能、网络安全、伦理研究、企业实践等多个领域专家。
• 支持单位：包括多所高校、研究机构、企业及行业协会，共同推动AI治理研究与立法进程。

总结

《人工智能示范法 4.0》是一部系统性、前瞻性的人工智能治理框架，涵盖了AI研发、提供、使用全过程的监管要求，强调安全、伦理、公平与责任。其制度设计体现了对AI技术发展与社会影响的平衡考量，为未来人工智能立法提供了重要参考。该法不具有法律强制力，但为推动全球AI治理共识的形成提供了理论基础和实践路径。