2024全球人工智能治理研究报告-世界互联网大会_23页_405kb

报告摘要

全球人工智能治理研究报告总结

人工智能作为新一轮科技革命的核心技术，既推动了医疗、教育、交通、金融等领域的革新，也因误用、滥用和恶用引发个体、社会及生态层面的安全风险。2022年生成式人工智能技术突破后，全球治理浪潮加速兴起。本报告由多所中国高校及智库联合发起，聚焦全球人工智能治理的现状、核心议题及体系建设路径，强调需平衡技术发展与安全，推动国际合作。

一、全球人工智能治理现状

多边平台进展：联合国发挥主导作用，2023年成立人工智能高级别咨询机构并发布《为人类治理人工智能》报告，2024年通过多项决议推动国际合作。联合国教科文组织、国际电信联盟等机构也通过伦理框架和峰会机制深化治理共识。
多方机制成果：技术社群（如IEEE、ISO）推出伦理准则与标准，如《信息技术人工智能管理体系》（ISO/IEC 42001）。世界经济论坛、世界互联网大会等平台发布治理倡议，如《人工智能全球治理上海宣言》。
国家/地区实践：中国提出《全球人工智能治理倡议》及首部生成式人工智能专门立法《生成式人工智能服务管理暂行办法》，并推动《人工智能安全治理框架》。美国强调技术主导，发布行政命令及风险管理框架，同时实施出口管制。欧盟率先立法，推出《人工智能法》。英国通过《布莱切利宣言》推动安全合作。发展中国家如肯尼亚、埃及、哈萨克斯坦则侧重能力建设与技术应用。
企业行动：科技企业通过内部伦理委员会、治理原则及国际合作（如慕尼黑安全会议的深度伪造打击倡议）参与治理。部分企业签署《前沿人工智能安全承诺》，承诺加强算法测试、数据共享与网络安全。

二、全球人工智能治理十大重要议题

国家主权与安全：人工智能发展需兼顾维护国家主权、安全及利益，同时应对技术自主性、数据控制等挑战。
社会变革与可持续发展：探索AI对传统产业转型、就业结构及环境保护的影响，需解决能源消耗、环境风险与结构性失业问题。
技术创新与产业生态：聚焦前沿技术研发、算力基础设施优化、标准制定及供应链安全，避免技术被用于地缘政治博弈。
人机伦理与生命安全：需防范情感依附、决策伦理偏差及对就业观、生育观等社会价值观的冲击。
内容安全风险：针对AI生成虚假信息、深度伪造及算法推荐导致的信息茧房问题，需建立内容审核与风险防控机制。
模型算法安全：强调可解释性、可靠性、公正性与抗攻击性，避免偏见、歧视及系统失控风险。
数据安全与隐私保护：规范数据收集、训练与处理流程，防范数据泄露、篡改及侵犯知识产权问题。
产品责任界定：明确设计者、生产者及使用者在AI产品安全责任中的权责划分。
知识产权争议：处理AI生成内容的著作权归属、算法专利界限及训练数据版权问题。
智能鸿沟与国际协作：呼吁缩小技术差距，反对技术封锁，推动开放共享与全球协同治理。

三、完善全球人工智能治理体系的建议

目标宗旨：构建开放、公正、有效的治理框架，提升AI安全性、可靠性与公平性，助力人类共同福祉。
原则共识：尊重国家主权，统筹发展与安全，坚持平等互利普惠，保障各国技术使用权与参与权。
行动路径：
- 坚持以人为本，推动AI助力可持续发展。
- 守护智能向善，打击技术恶用（如恐怖主义、犯罪活动）。
- 赋能千行百业，优化技术合作与资源共享。
- 防范安全风险，建立跨境数据流动机制与全球风险评估体系。
- 强化国际合作，提升发展中国家话语权，遏制排他性治理行为。
- 完善多边治理机制，依托联合国框架协调全球议题，推动技术与政策的协同演进。