2024-01-31-中国信通院-联邦学习应用安全研究报告（2023年）_32页_1mb

联邦学习应用安全研究报告（2023年）总结

背景与概述

联邦学习作为解决“数据孤岛”问题的关键技术，支持“原始数据不出域，数据可用不可见”范式，实现多方数据联合建模，避免敏感数据共享带来的安全风险。其在金融、医疗、政务等数据敏感领域应用广泛，但面临协调方安全隐患、数据泄露、低安全风险防护等挑战（中国信息通信研究院，2023年）。

安全现状与问题

1. 风险类型及分布：在半诚实敌手环境下，数据泄露类风险占主导，尤其是结果类数据泄露（占比48.2%）。安全风险隐蔽性强，协调方参与引入潜在第三方安全问题，并导致性能与安全保护强度之间的权衡难题。
2. 技术局限性：尽管密码技术（如同态加密、安全多方计算）应用广泛，但仍无法彻底根治攻击，且高安全配置可能降低性能。

学界研究动态

1. 安全威胁研究：焦点集中在恶意环境下的攻击类型，包括投毒攻击、对抗攻击与合谋攻击，部分防御技术（如异常检测）存在误报或漏报。
2. 性能优化：学界探索通信压缩、本地化模型更新、去中心化架构等方法以缓解性能与安全的矛盾，但实际应用仍受限。

发展建议

1. 加速标准化建设：制定跨行业、全生命周期的联邦学习安全标准，解决安全度与功能平衡问题；建立产品安全评估制度。
2. 强化安全研究：攻关自动化审计技术、联邦学习与新兴算力技术（如区块链、算力网络）的融合，提升攻防能力。
3. 夯实基础设施：推动“第三方”可信机构建设，利用区块链等技术提升安全存证能力，降低数据流通中的信任成本。

结论
联邦学习已在实践中验证其价值，但仍需通过标准化、技术创新与基础设施改进突破安全瓶颈。其发展将推动数据要素市场化与隐私计算的深入融合。