2024基础模型的负责任开源-超越开源闭源的二元对立：负责任开源的内涵、实践与方案报告-72页_6mb

报告摘要

报告内容分析总结（AI开源治理）

背景和增长

开源基础模型成为AI创新的重要驱动力。根据《2024年AI指数报告》，2023年全球发布149个基础模型，其中65.7%为开源，相比2022年的44.4%显著增加。Llama系列等模型衍生出数万个新模型，引发关于开源AI治理的争论。各国正积极制定政策以平衡技术发展与安全需求。

主要争论

争论核心在于前沿AI模型的开放程度。审慎开放派主张逐步推进开源，确保安全措施；鼓励开放派强调开放性对创新和透明度的重要性，反对过度限制。商业利益往往是企业决定开源的主要因素，但两者均承认开源的价值。
开源与闭源并非简单二元对立，而是一个连续谱系，包括从“完全封闭”到“完全开放”的多种发布选项，涉及模型权重、代码、数据等组件的开放程度。

安全性评估

研究显示，无论是开源还是闭源模型，都对各种攻击（如网络攻击、虚假信息生成）显示脆弱性。安全性取决于模型设计、训练过程和具体攻击类型。机构评估表明，开放模型在透明度和外部监管方面领先，而封闭模型在安全控制上更严格。

负责任开源实践和建议

报告提倡超越简单开放/封闭的视角，针对不同模型能力制定差异化的开源策略。对于大部分AI模型，责任实践包括提高透明度和确保合规；对于前沿模型，则需实施匹配风险的评估和缓减措施。
建议包括：分阶段发布、结构化访问、第三方审核、社区参与和国际合作，以促进开源创新同时管理风险。政府、研究机构和企业应协同制定标准，并通过税收优惠、责任划分等机制支持负责任开源。