2024年治理人工智能_助力造福人类_最后报告_85页_10mb

治理人工智能，助力造福人类

核心内容

本报告由联合国秘书长人工智能高级别咨询机构发布，旨在分析人工智能的全球治理问题并提出建议，以确保人工智能技术能够公平、安全地造福全人类，同时减少其潜在风险。报告强调人工智能的全球性和跨界特性，指出当前治理机制在代表性、协调性和执行力方面存在明显差距，提出通过建立统一认知、共同基础和共享惠益的全球治理框架来应对这些挑战。

主要观点

1. 人工智能的潜力与风险并存

   • 人工智能具有巨大的向善潜力，可用于科学探索、能源优化、公共卫生、农业和可持续发展目标的实现。
   • 然而，若缺乏治理，人工智能可能加剧数字鸿沟，引发偏见、虚假信息、安全风险以及对人权和公共利益的威胁。

2. 全球治理的必要性

   • 人工智能的全球影响要求全球治理，以避免“人工智能军备竞赛”和“逐底竞赛”。
   • 人工智能的快速演进和跨界特性使得其治理必须是跨领域、跨国界的网络化方法。

3. 治理的关键推动因素

   • 公平地分享人工智能的惠益，是确保全球可持续发展的关键。
   • 治理必须以人权为核心，确保所有群体都能受益，并避免将风险转嫁给弱势群体。

4. 当前治理的不足

   • 代表性、协调和执行方面存在明显差距，尤其在发展中国家和全球南方国家中表现突出。
   • 现有的治理框架往往碎片化，缺乏统一的定义、标准和问责机制。

5. 行动呼吁

   • 建议设立国际人工智能科学小组、政策对话、标准交流中心、能力发展网络、全球人工智能基金和全球人工智能数据框架。
   • 提议在联合国秘书处设立人工智能办公室，以协调和推动这些举措。

关键信息

建议与机制

1. 国际人工智能科学小组

   • 由多学科专家组成，发布年度报告、季度摘要和特别报告，促进全球对人工智能能力、机遇、风险和不确定性的统一认知。

2. 人工智能治理政策对话

   • 每年两次的政府间多利益攸关方政策对话，旨在分享最佳实践，促进国际互操作性，并讨论全球人工智能风险。

3. 人工智能标准交流中心

   • 汇集各国和国际标准制定机构、技术企业、民间社会代表，建立统一标准和评估体系，促进互操作性和数据治理。

4. 人工智能能力发展网络

   • 通过联合国系统内多个机构，向发展中国家提供算力、数据和培训资源，以弥合人工智能能力差距。

5. 全球人工智能基金

   • 提供共享计算资源、沙箱测试、数据治理工具和模型库，支持发展中国家和边缘化社区，确保他们不会掉队。

6. 全球人工智能数据框架

   • 建立统一的数据治理原则，确保数据的可用性、公平使用和跨境流动，促进全球数据共享和文化多样性。

7. 人工智能办公室

   • 在联合国秘书处设立，作为协调中心，促进各项治理举措的协同，并确保联合国系统在人工智能治理中发出一致声音。

其他建议

• 加强国际合作：建立多利益攸关方平台，促进共享惠益和全球治理。
• 全球性治理框架：推动建立统一的国际人工智能治理原则，以国际人权法和可持续发展目标为基础。
• 关注弱势群体：特别是儿童、边缘化社区和全球南方国家，确保人工智能治理的包容性和公平性。

结论与行动呼吁

• 人工智能治理不仅是应对风险的需要，更是确保公平发展和可持续未来的前提。
• 建议通过全球合作、统一标准、共享资源和加强问责机制，推动人工智能向善发展。
• 联合国应发挥核心作用，作为全球人工智能治理的协调平台，促进各国、企业、民间社会和学术界的共同参与。

附件与参考

• 附件A：人工智能高级别咨询机构成员名单
• 附件B：人工智能高级别咨询机构的职权范围
• 附件C：2024年咨询活动清单
• 附件D：“深入研究”清单
• 附件E：全球风险脉动调查的答复
• 附件F：机遇扫描答复
• 附件G：缩略语表

图表与数据

• 图(a)：七项非联合国人工智能治理举措中的代表性
• 图(b)：人工智能相关标准的数量
• 图(c)：联合国在国际人工智能治理生态系统中的拟议作用
• 图(d)：人工智能风险全球脉动调查中对脆弱性的担忧
• 图(e)：专家对人工智能技术发展的预期
• 图(f)：人工智能治理举措和行业标准的来源
• 图(g)：人工智能治理举措的代表性分析
• 图(h)：人工智能治理的职能建议

附注

• 人工智能治理需结合人权、公平、透明和互操作性原则。
• 通过全球协作和资源共享，确保人工智能的发展不会加剧不平等。
• 治理框架应具有灵活性和适应性，以应对人工智能的快速发展和不确定性。