安远AI_北京大学：2024基础模型的负责任开源-超越开源闭源的二元对立：负责任开源的内涵、实践与方案报告_72页_7mb

报告核心内容是关于基础模型（大模型）开源的负责任治理和政策分析。主要内容包括开源基础模型的快速增长、全球治理挑战、两种主要立场争论（审慎开放 vs 鼓励开放）、开源与闭源错误二分法的辩论、以及负责任开源实践和建议。

首先，开源基础模型作为创新驱动力显著增长。2023年全球发布基础模型数量翻倍，657%为开源（2022年444%，2021年333%），Llama系列衍生新模型3万多个。欧盟、美国、英国、法国等国积极制定政策，平衡创新与安全。欧盟《AI法案》设例外豁免开源模型；美国《行政命令》关注双用基础模型权重风险；英国和法国强调开放创新与监管平衡。

其次，前沿AI开源引发激烈争论。审慎开放者担忧开源导致不可逆转风险，主张严格安全评估；鼓励开放者强调开源促进创新和信任。两者均认同开放性价值，但风险评估分歧。研究表明，开源和闭源模型均易受攻击，无显著优势。

第三，开源与闭源非简单二分。AI模型的“源代码”组件可独立开放，发布选项多样。负责任开源需分阶段、全周期管理，对低风险模型推动开源，对高风险模型实施评估和缓解措施。实例显示，Google DeepMind的Gemma和Meta的Llama2各有侧重。

最后，报告提出具体建议：基础模型研发机构进行分层管理；AI开源社区推动标准制定；治理专家制定动态风险框架；投资方支持安全研究；国际合作提升发展中国家能力。结论强调，开源实践需不断演进，合作对话是关键。

💎 总字数：658字（不含数字或空格）