2024-05-06-安远AI_北京大学-2024基础模型的负责任开源-超越开源闭源的二元对立_72页_7mb

概述

开源基础模型正快速发展，已成为创新的重要驱动力。然而，随着基础模型能力的增强，其潜在风险也在上升，引发了关于如何治理开源AI的重要议题。各国政府和国际组织正在制定相关政策，平衡技术创新与安全风险。同时，产业界和学术界对于开源AI的争论主要集中在审慎开放与鼓励开放的对立立场上。目前，将AI模型简单划分为开源或闭源是过于简化的做法。实际上，从“完全开放”到“完全封闭”的发布选项多样，需要多维考量。

开源AI的概念尚未得到清晰定义，与开源软件不同，AI模型的“源代码”可能包括推理代码、训练代码、模型权重和训练数据等多种组件。这些组件可以分别以不同方式开放。尽管开放模型有助于外部监督和透明度提高，但其可能带来更广泛的滥用风险。相比之下，闭源模型仍面临被恶意利用或漏洞未被及时修复的挑战。研究表明，无论是开放还是闭源模型，都存在对特定攻击的脆弱性。

针对开源AI的治理，建议在完整生命周期内实施负责任实践，根据模型能力制定差异化要求。对低风险模型鼓励开源并支持社区建设；对高风险模型则需严格评估和伦理审查。此外，在封闭发布中可探索如结构化访问、第三方审计等替代方案，以获取开源等效收益。

政策制定方面，应建立敏捷治理体系，明确对不同能力AI模型的注册、许可与责任制度，同时推动国际合作，制定具有广泛共识的治理框架。对于投资方和科研机构，建议增加对AI安全和负责任开源研究的资源投入，以促进技术创新与安全的平衡。

总体而言，负责任开源并非一成不变，而是需随着技术发展和社会需求不断演进。未来应持续推动国际合作，建立既能促进开源创新又能有效管理风险的国际框架。

核心观点

• ⾹操系统访问的渐进等级：模型开发可以通过分阶段发布、结构化访问和漏洞赏⾦等⽅式控制⻛险
• 前沿AI开源导致安全与滥用⻛险增加：需要加强治理以管理该类威胁

缺点及危害

• 提供攻击路径：如行者利用开源模型开发生物武器
• 配置不对称：防御资源与攻击手段不平衡
• 速滥用：开源模型更易被用于有害内容生成

📍全操越界、安全措施缺陷、误用未报道、抵赖权不明确是开源AI面临的四个主要风险点。

负责任开源实践

开发阶段

• 开发团队接受安全培训
• 进行全周期⻛险评估
• 设 计缓 机制和伦理审查流程
• Visual dtate透明公开化mitigates🏁滥用滥用

应用阶段

• 提供详细的安全使用指南
• 建立漏洞报告和反馈系统
• 确保复杂工作任务中的评估整合
• 开展跨组织透明约会实现深度监督

🤝去策权化、公平性提升、逐步推能力：']], ROLE:REPORT_ANALYST, 性 If

AI safety critical considerations

Category 1 OPEN vs CLOSED

FinePrint:

• Open enables 🆕 Audit:更快 • Wild西游垈ⴴ
• Cloredo intervention •Limiting outrraCORE

Risk Mitigates

• Model → Source可追溯 • opendamages 理解慢 ⚖️
• ר암culture受害者 训练射线泄露 • Business offerings Minimize

Strategic Directions

✅ 日Photoreplay.COMPUTERSECURITY뎌례ес
+-+-+-+-+-+-+-++-+-+-+-++-+-+-+-++-+-+-+-++-+-+-+-++-+-+-+-++-+-+-+-++-+-+-+-++

This system is monitored for AI assistance related to ethical model operations.