2024大模型安全实践白皮书-清华大学_中关村实验室_42页_14mb

本报告系统分析大模型在各领域的安全实践及技术体系，提出安全性、可靠性、可控性为核心的安全框架，并构建“五维一体”治理建议。大模型具备通用化和专用化双路径发展特征，垂直行业成为主要应用方向，其云边端协同架构提升算力分配效率，同时以开源趋势创新商业模式。然而，大模型面临数据篡改、模型越狱、生成内容偏见及隐私泄露等风险，尤其在金融、医疗、政务等敏感领域需实施体系化防御。

大模型安全防御技术覆盖数据、模型、系统、内容、认知和伦理六大维度，包括数据脱敏与加密、联邦学习隐私保护、数字水印溯源、对抗样本检测、指令攻击阻断等手段。技术方案强调内生安全（如模型训练时的偏差调节）、外生安全（如抵御对抗攻击）和衍生安全（如应对虚假新闻与版权侵权）。同时需突破可解释性、指令遵循及鲁棒性等挑战，通过强化学习与多方计算等技术提升安全性。

金融领域案例“支小宝”通过数据清洗、安全护栏、多模态交互和加密传输保障用户隐私；医疗领域“医疗AI助手”采用脱敏数据集、算法微调及访问控制确保诊疗信息安全；政务领域“赣服通”依托合规审核、边端加密及安全审计机制防范信息泄露；人力资源领域结合数据平衡、模型加密和本地推理实现隐私保护；智能助理领域则通过知识库挂载、安全语音生成及端云协同维持内容安全。

面向未来，大模型需构建涵盖政府监管、生态培育、企业自律、人才培养和测试验证的治理体系，完善技术标准并突破依赖国外基础设施的瓶颈，建立自主可控的软硬件环境。同时，需强化安全研发的系统性，从技术适配性、风险识别能力及伦理审查机制多角度保障安全效益与社会价值对齐。