联邦学习应用安全研究报告（2023年）-中国信通院_32页_1mb

联邦学习应用安全研究报告（2023年）总结

一、联邦学习概述
联邦学习是实现“原始数据不出域，数据可用不可见”范式的典型技术，通过本地存储与分布式学习协作完成多方数据建模。其技术体系可按参与方性质分为跨机构与跨设备联邦学习，按数据样本和特征空间差异分为横向与纵向联邦学习，按架构类型分为中心化与去中心化。当前主流采用中心化架构，需依赖可信第三方协调，但存在信任基础薄弱与安全性不确定性问题。

二、联邦学习应用概况

1. 跨机构应用为主形态：主要服务于金融、医疗、政务等领域，参与方数量少且协作意愿强，但需应对数据泄露风险。
2. 安全技术依赖密码学：同态加密（使用率超95%）、安全多方计算（如秘密分享、不经意传输，使用率70%以上）是核心保护手段，差分隐私等技术使用率相对较低。
3. 应用环境以半诚实敌手为主：绝大多数产品支持半诚实场景，但恶意攻击防御仍待完善。

三、安全现状与问题分析

1. 数据泄露风险突出：中间参数和结果聚合环节存在暴露敏感数据隐患，半诚实参与方可通过参数推导获取隐私信息。
2. 风险隐蔽性强：复杂算法逻辑与加密技术使异常行为难以被常规审计手段发现，需专业安全审计能力支撑。
3. 协调方引入引发安全不确定：第三方可能接触密钥和模型参数，且部分场景中优势方可能通过双重角色程序窃取他人数据。
4. 安全性与性能存在矛盾：高强度加密增加通信开销和计算复杂度，部分场景需降低安全配置以保障可用性。
5. 标准体系尚未健全：缺乏统一的安全尺度规范，且部署、运营阶段的安全标准缺失，易引发管理环节安全风险。

四、学界研究现状

1. 聚焦恶意环境下的攻防：重点研究投毒攻击（如数据/模型/后门投毒）、对抗攻击（如梯度干扰）和合谋攻击（多参与方联合破坏），但准确检测与实时阻断仍是难点。
2. 性能优化是研究热点：通过减少迭代轮数、参数压缩、分散拓扑结构等手段提升效率，缓解安全与性能的冲突。

五、发展建议

1. 加快标准化建设：
   • 制定行业细分安全技术标准，规范金融、医疗等场景的安全尺度。
   • 完善部署与运营标准，明确协调方位置、第三方可信性、用户域与运维域隔离等要求。
   • 建立安全评估制度，覆盖产品安全与应用环境安全。
2. 深化安全研究：
   • 推进自动化审计技术与通用审计工具开发，应对技术异构性挑战。
   • 探索与新型算力技术（如区块链、算力网络）融合，提升安全性与性能。
3. 强化基础设施：
   • 推动区块链技术在联邦学习中的应用，加强身份管理与数据一致性保障。
   • 构建中立权威的第三方设施，解决数据共享中的信任缺失问题。

六、核心结论
联邦学习在打破数据孤岛、实现安全流通方面具有重要价值，但其应用仍面临数据泄露、隐蔽性风险、协调方依赖、性能安全矛盾及标准不足等挑战。未来需通过标准化、技术创新与基础设施完善，解决这些问题以推动技术规模化落地。