2023-11-30-中国联通-2023中国联通人工智能隐私保护白皮书_45页_803kb

报告摘要

中国联通人工智能隐私保护白皮书总结

核心内容概述

本白皮书由中国联通研究院牵头，联合多家机构共同编写，全面分析了人工智能在全生命周期中的隐私风险，探讨了国内外隐私保护的法规政策与标准化现状，并提出了隐私保护技术和平台，最后从监管机制、标准建设、技术发展、人才培养、生态构建等多个维度，提出了人工智能隐私保护的实施建议，旨在推动新一代人工智能的安全、可信、可控发展。

主要观点

1. 人工智能隐私风险全生命周期分析

数据采集与存储阶段：存在数据不正当收集、过度采集、数据存储泄露等风险。
数据流通阶段：由于数据在多方主体间流动，容易造成隐私泄露或数据滥用。
模型训练阶段：面临数据污染、数据投毒攻击、模型逆向攻击、模型提取攻击等威胁。
模型推理阶段：存在隐私被推理、成员推理攻击、对抗样本攻击、提示注入攻击等风险。

2. 生成式人工智能（生成式AI）的隐私风险

内生风险：数据泄露、模型输出中隐私信息暴露。
衍生风险：滥用生成式AI技术可能引发深度伪造、诈骗、隐私侵犯等行为。

关键信息

一、人工智能全生命周期隐私风险

阶段	风险类型	说明
数据采集与存储	数据不正当收集	未经用户同意的非法数据获取
数据采集与存储	数据过度收集	在公共场景中无差别采集用户数据
数据采集与存储	数据存储泄露	未加密或未标注数据容易被泄露
数据流通	数据泄露与滥用	第三方参与数据处理存在安全风险
模型训练	数据污染	数据偏差或错误影响模型质量
模型训练	数据投毒攻击	通过恶意数据破坏模型完整性
模型训练	模型逆向攻击	通过模型输出反推出训练数据
模型训练	模型提取攻击	通过预测结果训练替代模型
模型推理	隐私被推理	通过深度分析暴露用户隐私
模型推理	成员推理攻击	判断输入数据是否属于训练集
模型推理	对抗样本攻击	通过微小扰动误导模型预测
模型推理	提示注入攻击	用户指令被恶意篡改或注入

二、国内外法规政策与标准化现状

国内情况

法律层面：《数据安全法》《个人信息保护法》《网络安全法》等法律框架逐步建立。
部门规章：国务院《新一代人工智能发展规划》、网信办《算法推荐管理规定》等政策出台。
地方政策：上海、深圳、北京等地发布人工智能发展条例，明确隐私保护责任。
标准建设：《国家新一代人工智能标准体系建设指南》已发布，涵盖安全/伦理、数据、算法、模型、系统等多方面标准。

国外情况

欧盟：发布《人工智能法》《数据治理法案》等，强调风险分类与监管。
英国：发布《人工智能战略》和《人工智能政策文件》，推动创新与监管并重。
美国：制定《国家人工智能倡议法案》《生成人工智能网络安全法案》等，推动隐私保护立法。
日韩：日本发布《人工智能战略2022》，韩国制定人工智能立法路线图。

三、隐私保护技术与平台

管控技术：权限管理、分类分级保护、数据安全采集制度。
数据加密技术：差分隐私、同态加密、多方安全计算（MPC）等。
攻击防御技术：数据清洗、模型水印、对抗样本检测、提示攻击防御等。
新兴技术：联邦学习、区块链、可信执行环境（TEE）、机器遗忘、模型数字水印等。
隐私保护平台：隐私计算机器学习平台、人工智能安全检测与评估平台。

四、隐私保护实施建议

建立合规监管机制：完善法律法规，强化监督与执法，确保企业合规运营。
加强标准建设：推动标准落地，提升隐私保护的可操作性。
构建全周期隐私保护体系：从数据采集、存储、训练、推理等各环节入手，实现隐私保护全覆盖。
发展多维度隐私保护技术：优化现有技术，推动新技术融合，提升隐私保护能力。
培养复合型人才：加强隐私保护与安全技术的培训，促进产学研合作。
构建负责任的隐私保护生态：推动行业各方协同，打造安全、可信的人工智能应用环境。

结论

人工智能的快速发展为社会带来巨大价值，但同时也带来了前所未有的隐私风险。中国联通研究院在本白皮书中系统梳理了隐私风险，总结了国内外政策与标准，提出了技术与平台解决方案，并从多维度给出了隐私保护实施建议，强调了隐私保护与技术发展并重的必要性，旨在推动人工智能的安全、可控、可信发展，让用户用得放心，企业用得安心，社会用得舒心。