中国信通院：联邦学习应用安全研究报告（2023年）_32页_1mb

联邦学习应用安全研究报告总结

背景与概述： 联邦学习是一种隐私保护的机器学习技术，旨在实现“原始数据不出域、数据可用不可见”的范式，避免敏感数据共享。报告分析了联邦学习的技术体系、应用现状、安全问题及未来发展建议。

联邦学习概述

• 背景：联邦学习打破数据孤岛现象，通过分布式学习实现多方数据联合建模，服务于金融、医疗等行业。
• 技术体系：联邦学习分类包括跨机构和跨设备的应用形态（如横向、纵向数据），以及中心化和去中心化架构。典型架构涉及中央服务器协调多方交互。

联邦学习应用概况

• 应用形态：跨机构应用是国内主流，聚焦联邦学习，占比优势。
• 技术架构：中心化架构在联邦学习产品中占比最高，尤其在横向应用中常见。
• 安全环境：多数应用场景假设半诚实敌手：参与者遵守协议但可能被动窥探数据，恶意攻击支撑不足，造成设计焦点偏向防御。

联邦学习应用安全现状与问题分析

• 主要风险：数据泄露是最易发生的问题，涉及存储和传输中的敏感信息未加密。
• 隐蔽性：联邦学习算法复杂，容易隐藏安全风险，如通过密码技术加密流转参数，难以审计。
• 协调方（中央服务器）问题：引入第三方导致数据暴露风险，协调方部署易受机构合作影响。
• 性能与安全冲突：高强度密码保护技术增加通信和计算开销，性能下降；安全配置降低以提高可用性。

联邦学习应用安全学界研究现状

• 学界研究：侧重恶意安全环境下的攻击防御，如投毒攻击、对抗攻击、合谋攻击。
• 热门方向：性能优化，提升通信效率和计算资源利用率，缓解联邦学习实际应用中的安全矛盾。

联邦学习应用安全发展建议

• 标准化建设：加速制定行业安全标准，包括技术规范和部署指南，建立安全评估制度。
• 加强研究：推动自动化审计技术和发展，探索与新技术（如区块链、算力网络）融合，强化恶意环境攻防。
• 基础设施建设：通过区块链提供信息安全存证平台和可靠第三方设施，减轻机构间的安全担忧。