2025-01-05-联合国-2024年治理人工智能_助力造福人类_最后报告_86页_12mb

报告摘要

治理人工智能，助力造福人类 - 文档总结

核心内容

本报告由联合国秘书长人工智能高级别咨询机构发布，旨在分析人工智能的全球治理问题，并提出建议，以确保人工智能技术能够公平、安全地造福全人类。报告强调了人工智能在推动科学、经济、社会、环境等方面具有巨大潜力，但其发展也伴随着风险和挑战。因此，需要采取全球治理措施，以弥合人工智能治理的代表性、协调性和执行性差距。

主要观点

人工智能技术具有广泛的向善潜力，但若缺乏治理，其惠益可能无法公平分配。
全球人工智能治理存在显著的代表性、协调性和执行性差距，导致碎片化和不一致。
治理应以人权、公平和可持续发展为核心，确保技术发展不加剧不平等。
需要建立统一认知、共同基础和共享惠益，以促进全球人工智能治理。
联合国应发挥协调作用，设立人工智能办公室，作为“粘合剂”连接全球治理举措。

关键信息

1. 全球治理的必要性

人工智能的发展具有全球性，涉及关键矿物、训练数据、算力和模型等资源。
需要全球治理，以防止人工智能带来“人工智能军备竞赛”或“逐底竞赛”。
人工智能的快速发展对现有监管体系构成挑战，需要制定基于国际法和可持续发展目标的治理框架。

2. 全球人工智能治理差距

代表性差距：全球南方国家和边缘化社区在人工智能治理中代表性不足。
协调差距：各国和国际组织的治理举措缺乏协调，可能导致治理制度的碎片化。
执行差距：缺乏有效的执行机制，导致治理承诺难以转化为实际成果。

3. 加强全球合作

统一认知：通过国际人工智能科学小组，促进对人工智能能力、风险和机遇的科学共识。
共同基础：建立人工智能治理政策对话，促进多利益攸关方合作，制定可互操作的治理框架。
共享惠益：通过能力发展网络、全球人工智能基金和全球人工智能数据框架，确保所有国家公平获取人工智能资源。
协同努力：设立联合国秘书处人工智能办公室，协调全球人工智能治理行动。
制度反思：建议采用网络化、灵活的治理模式，而非建立单一的国际机构。

4. 行动呼吁

需要建立一个基于人权、公平和可持续发展的全球人工智能治理框架。
强调治理必须包括对边缘化社区和弱势群体的保护，例如儿童、妇女、青年等。
需要制定国际标准，以提高人工智能系统的透明度和可问责性。
需要加强国际合作，确保人工智能治理不被少数国家或企业主导。

建议汇总

国际人工智能科学小组
- 由多学科专家组成，负责发布年度报告，促进科学共识和治理研究。
- 与联合国其他机构合作，打破知识壁垒，增强全球信任。
人工智能治理政策对话
- 建立包容各方的政策论坛，分享最佳实践和治理经验。
- 促进全球治理框架的统一，应对人工智能的跨境挑战。
人工智能标准交流中心
- 汇集各国和国际组织、技术企业、民间社会的代表，建立统一标准。
- 促进数据和模型的互操作性，确保人工智能治理的可执行性。
人工智能能力发展网络
- 提供算力、数据和培训资源，支持各国和区域的人工智能发展。
- 帮助发展中国家和中小企业公平参与人工智能生态系统。
全球人工智能基金
- 提供共享资源，帮助发展中国家弥合人工智能鸿沟。
- 促进公平的数据使用、模型共享和治理方案，以支持可持续发展目标。
全球人工智能数据框架
- 建立全球数据治理框架，确保数据的公平使用和保护。
- 促进数据共享空间和数据信托，支持人工智能的公平发展。
在联合国秘书处设立人工智能办公室
- 作为协调中心，连接全球人工智能治理举措，推动统一治理。
- 促进联合国系统内部的一致声音，加强与外部利益攸关方的协作。

附件概览

附件A：人工智能高级别咨询机构成员名单。
附件B：人工智能高级别咨询机构的职权范围。
附件C：2024年咨询活动清单。
附件D：“深入研究”清单。
附件E：全球风险脉动调查的答复。
附件F：机遇扫描答复。
附件G：缩略语表。

重要数据与趋势

专家调查：250多份书面答复，18项“深入研究”，覆盖全球各地。
风险关注：78%的专家担忧人工智能对信息完整性的损害，67%担忧歧视和权利剥夺。
技术发展预期：74%的专家认为人工智能技术变革速度将加快，89%认为其采用和应用速度也将加快。
数据使用：儿童数据占全球数据总量的三分之一，需特别关注其在人工智能系统中的影响。

总结

本报告强调了人工智能治理的紧迫性，指出当前全球治理存在显著的代表性、协调性和执行性差距。建议采取全球网络化、灵活且包容的治理方式，以确保人工智能技术能够公平、安全地造福全人类。联合国应发挥核心协调作用，通过设立人工智能办公室、科学小组、政策对话、标准交流中心、能力发展网络和全球基金，构建一个连贯、可互操作、基于人权和可持续发展目标的全球人工智能治理框架。

展开完整摘要