全球人工智能治理趋势_〈人工智能全球治理行动计划〉以来的观察_28页_6mb

全球人工智能治理趋势：《人工智能全球治理行动计划》以来的观察

核心内容

自《人工智能全球治理行动计划》在2025年世界人工智能大会（WAIC）提出以来，全球人工智能治理正从原则倡议进入机制承接、能力建设和项目落地的新阶段。当前全球人工智能发展仍呈现显著不平衡，少数国家和头部企业在算力、数据、模型、平台和标准制定方面持续集聚优势，而发展中国家则普遍面临基础设施不足、技术获取成本高、本地语种支撑薄弱、治理能力有限及国际规则参与不足等制约。人工智能能否成为服务共同发展的技术资源，取决于各国能否公平参与治理、获得可负担的技术能力、形成本地应用生态并具备安全治理基础。

主要观点与关键信息

01 发展与安全并重

• 发展导向增强：各国政策更多聚焦于技术发展与产业应用，安全议题相对弱化。
• 治理目标转向：未来治理不仅要防范风险，更应关注如何让更多国家“用得上、用得起、用得好”。
• 治理重心前移：安全治理正从事后补救转向模型研发与部署的前端防控。

02 智能鸿沟成为新的结构性不平等

• 技术依赖加深：全球南方国家在算力、数据、算法、语言、人才和应用场景等方面处于劣势。
• 规则被动性加剧：发展中国家可能长期停留在数据供给、市场消费和规则接受阶段，难以进入高附加值的模型开发与平台治理环节。
• 南北合作需转向能力共建：应通过本地算力、数据治理、人才培养、低资源语种模型、应用场景与安全评估工具的建设，推动发展中国家形成自主发展能力。

03 大国竞争加剧治理碎片化

• 技术竞争重塑治理环境：围绕芯片、算力、基础模型、关键矿产、数据流动和技术标准的争夺，加剧了全球治理的碎片化。
• 出口管制与技术联盟：美国通过出口管制、技术联盟与标准分化压缩中小国家政策选择空间，抬高跨境合作成本。
• 技术发展与安全治理的矛盾：技术快速迭代与安全滞后形成矛盾，需在发展与安全之间寻求平衡。

04 中国推动南北合作成为治理变量

• 提供国际公共产品：中国通过多边机制对接、开源模型供给、能力建设项目、数字基础设施合作和产业场景应用，推动人工智能技术成为更多国家可获取、可参与、可转化的发展工具。
• 构建合作平台：中国倡导筹建世界人工智能合作组织，推动全球治理更加公平、开放。
• 多边主义与开放合作：中国强调以真正的多边主义为基础，通过开源降低技术门槛，推动技术普惠。

05 全球治理需向多方共治转型

• 治理主体多元化：政府、企业、科研机构与公民社会的互动更加紧密，形成“多方共治”格局。
• 二轨对话机制：学术界与智库主导的非官方对话，有助于在国家间尚未形成正式共识之前，积累认知上的最大公约数。
• 联合国主渠道作用：应强化联合国在人工智能治理中的协调作用，推动形成具有广泛认可度的“人工智能安全行为准则”。

存在挑战与治理悖论

治理协同与规则碎片化

• 规则互认不足：各国治理路径不一，规则协调难度大，企业合规成本增加。
• 治理套利空间：企业可能利用监管宽松地区进行核心训练与运行，形成治理套利。

技术发展与风险可控的矛盾

• 技术滞后于治理：科技创新速度超过治理机制更新速度，导致技术治理滞后。
• 难逆性与失控风险：技术一旦广泛应用，控制风险的成本过高甚至不可行。
• 通用人工智能的不确定性：技术特征与判定标准模糊，加剧监管与发展的矛盾。

算法歧视与价值观念偏差

• 全球语言鸿沟：主流模型依赖英语及少数通用语言，对其他语言支持不足。
• 文化差异影响治理：不同国家对人工智能伦理原则的理解与优先级存在差异，导致国际标准制定困难。
• 价值观偏差风险：模型训练数据不足，南方国家的社会经验、地方语言与制度实践长期处于“不可见状态”，影响人工智能应用效果与社会信任。

未来治理方向

理念层面

• 调低治理预期：寻求“最大公约数”，避免追求统一高标准治理框架。
• 从伦理转向工程实践：将抽象伦理原则转化为可执行的技术标准与合规模板。
• 推动微观试点：通过具体应用场景的治理试点，逐步形成可复制的治理模式。

规则层面

• 分级治理机制：在安全领域划定不可逾越的红线，其他领域保持弹性与差异化路径。
• 明确安全红线：包括系统性失控、自主武器误判、关键基础设施攻击等。
• 强化人类控制权：推动“可解释人工智能”发展，确保“人在环上”或“人在监督”机制制度化。

体系层面

• 强化联合国主渠道地位：推动各国在联合国框架下协商制定人工智能安全行为准则。
• 接口型合作：在技术标准、数据格式、评测工具与系统互操作性等低政治敏感领域寻求合作。
• 多方共治结构：推动政府、企业、科研机构与公民社会协同治理，形成制度外溢效应。
• 激活二轨对话：通过非官方渠道缓解地缘政治摩擦，为官方治理提供认知储备与信任基础。

人工智能安全风险与应对路径

技术安全风险

• 技术失控：如Anthropic的“玻璃翼计划”发现超一万个高危漏洞，可能对关键基础设施构成威胁。
• 通用人工智能（AGI）风险：技术特征与判定标准缺乏共识，引发监管难题。
• 黑天鹅事件：包括人工智能“意识”形成、技术滥用与安全漏洞扩散等。

技术应用风险

• 军事应用风险：致命性自主武器系统（LAWS）研发与部署引发新的安全挑战，如误判与战争门槛降低。
• 生物技术结合风险：人工智能加速生物技术发展，但可能被用于设计新型病原体或毒素，引发生物安全危机。
• 高边疆领域风险：如太空、网络与数据安全，人工智能应用可能引发全球性安全风险。

社会外溢风险

• 就业冲击：人工智能替代大量岗位，形成“技术精英阶层”与“失业低技能劳动力”的分化。
• 深度伪造技术：技术门槛降低，虚假信息泛滥，破坏社会信任与国家安全。
• 算法歧视与数据隐私：模型训练数据偏差，导致应用效果与社会信任问题。

应对路径

技术路径

• 筑牢内生安全：将安全要求嵌入人工智能全生命周期，从数据、架构、训练到应用设置多重“安全护栏”。
• 推动在线学习与动态演化：建立对抗性安全机制，实现风险的动态防控。

多主体协同

• 产学研协同治理：推动高校、科研机构、科技企业与政府共同参与治理，形成“各司其职、各负其责”的格局。
• 社会监督机制：鼓励公众与第三方机构参与人工智能安全评估，形成多元监督体系。

国家间协调沟通

• 建立多边对话机制：通过双边与多边磋商，明确安全关切与政策底线，减少战略误判。
• 推动联合国框架下的治理：形成具有法律约束力的国际规则，尤其在致命性自主武器系统治理方面。
• 鼓励“接口型合作”：在技术标准、数据格式等低政治敏感领域寻求合作，防止全球科技体系断裂。
• 激活“二轨对话”：为国家间合作提供认知储备与信任基础。
• 重视“全球南方”参与：推动技术援助与能力建设，缩小南北技术鸿沟，提升全球治理公平性。

人工智能全球治理与南北合作

智能鸿沟的扩大与结构性不平等

• 算力、数据、算法、语言、人才、应用差距：全球南方国家面临技术依赖与规则被动，难以进入高附加值环节。
• 词元鸿沟：全球南方语言在词元处理上效率低下，导致技术使用成本上升。
• 应用鸿沟：南方国家在人工智能应用与治理准备度上存在明显差异，难以实现技术红利的普惠。

南北合作的现实意义与制约

• 合作的重要性：避免“发展断层”，构建公平合理的全球治理秩序。
• 治理普遍性不足：现有全球治理框架多由北方国家主导，南方国家代表性缺失。
• 安全风险加剧：南方国家因技术能力不足，更容易成为安全风险的承载地。
• 维护主权平等：推动人工智能发展成为维护国家主权与技术自主的重要手段。

中国角色与实践

中国推动南北合作的现实路径

• 多边合作机制：倡导全球人工智能合作组织，推动公平、开放的治理网络。
• 开源模型供给：如DeepSeek-R1，提供低成本、高性能的技术路径。
• 数字基础设施合作：如马来西亚的MaaS平台与Z·UMAI Lab，体现中国在能力建设中的实践。

中国推动人工智能国际公共产品

• 技术输出与能力共建并重：推动人工智能技术从竞争资源转化为发展工具。
• 多边与开放治理：以多边主义为基础，以开源降低技术门槛，以场景合作回应民生需求。
• 制度性贡献：通过政策倡议、标准制定与治理实践，为全球人工智能治理提供新思路与新方案。