2024人工智能治理历史经验的启示-赛迪译丛_28页_938kb

报告摘要

兰德公司2024年8月发布的《人工智能治理：历史经验的启示》报告，通过核技术、互联网、加密产品和基因工程四个历史案例，系统分析了人工智能治理的潜在路径。报告认为，尽管无完全对应的历史模式，但这四项技术治理经验仍对AI治理具有重要参考价值。

一、治理核心要素

技术规范共识：成功治理的关键在于形成共同标准。核技术治理通过国际条约确立规则，互联网发展依赖开发者构建开放协作的规范体系，加密产品治理则因规范冲突导致治理失效，基因工程治理依赖科研界达成风险共识。
资产治理差异：有形资产（如核材料、武器系统）更易监控治理，而无形资产（如算法、数据模型）治理难度更大。核技术治理侧重有形资产控制，互联网治理以无形资产开发为主。
公私合作伙伴关系：新兴技术治理往往需要政府与私营部门协作。互联网早期由政府资助但后期私营主导，加密产品治理因政府过度管控引发私营部门反弹，基因工程治理则通过学术界与政府的互动取得进展。

二、历史案例启示

核技术治理：
- 具有双重用途（军事/民用），需严格管控裂变材料等有形资产。
- 1946年《原子能法案》体现早期政府垄断意图，但后期通过《不扩散核武器条约》（1968年）等建立国际框架。
- 核扩散风险具象化（如核战争、核冬天），公众认知明确。AI风险尚缺乏具体场景描述，治理共识难以形成。
互联网治理：
- 发源于军方资助的科研项目（如ARPANET），后期转向私营主导的开放生态。
- 管理重点从技术标准（如TCP/IP协议）转向设计伦理，如隐私保护。
- 开放源代码机制（如OpenPGP）被证明是促进创新的核心，但需平衡安全与自由。
加密产品治理：
- 早期完全由政府管控，但商业需求推动其向私营领域扩展。
- 出口管制未能有效阻止技术扩散，反而削弱网络安全（如"出口级"加密漏洞）。
- 国家安全与经济利益冲突明显，需避免单一部门主导治理。
基因工程治理：
- 1975年阿西洛马会议促成DNA重组研究暂停，但人类基因编辑治理因伦理争议陷入僵局。
- 科研界自发形成的规范共识（如限制DNA重组）具有示范意义，但AI领域尚未形成类似共识。
- 涉及物理实体（如细胞培养）的治理具有明确法律边界，而AI的数字资产治理更复杂。