中国信通院-人工智能数据安全白皮书_2019__51页_1mb

人工智能数据安全白皮书总结

核心内容

本白皮书由中国信息通信研究院安全研究所发布，旨在系统分析人工智能数据安全的内涵、风险、应用及治理现状，提出我国人工智能数据安全治理建议。白皮书强调人工智能作为推动新一轮科技革命和产业变革的核心技术，其发展依赖于数据，同时数据安全风险也日益成为影响人工智能安全发展的关键因素。

主要观点

• 人工智能与数据之间存在相互促进的关系，数据驱动人工智能发展，人工智能提升数据治理能力。
• 人工智能技术在数据安全治理中具有显著优势，包括提升精准性、自动化水平、智能化能力、效率以及促进高质量数据集生成。
• 人工智能在数据安全治理中的应用涵盖数据安全策略制定、数据资产管理、数据活动安全保护、数据安全事件管理等多个方面。
• 人工智能技术也带来新的数据安全风险，包括训练数据污染、模型窃取、深度伪造、数据泄露等。
• 人工智能应用加剧了数据治理挑战，如数据权属、数据违规跨境、数据偏见歧视等。

关键信息

一、人工智能数据安全体系架构

• 包含三个维度：数据安全风险、数据安全应用、数据安全治理。
• 数据安全风险包括：人工智能自身风险、人工智能应用导致的风险、人工智能应用加剧的治理挑战。
• 数据安全应用包括：数据安全策略制定、数据资产管理、数据活动安全保护、数据安全事件管理。
• 数据安全治理包括：国家战略、伦理规范、法律法规、监管政策、标准规范、技术手段、人才培养等方面。

二、人工智能数据安全风险

1. 人工智能自身面临的数据安全风险

• 训练数据污染：攻击者通过数据投毒改变模型分类边界。
• 对抗样本攻击：通过扰动数据输入误导模型输出。
• 模型窃取攻击：攻击者通过黑盒访问还原模型及训练数据。
• 开源框架漏洞：第三方组件缺乏安全测试，存在潜在数据泄露风险。

2. 人工智能应用导致的数据安全风险

• 隐私泄露：生物特征信息、地理位置等敏感数据被过度采集和滥用。
• 数据偏见歧视：训练数据偏差影响算法中立性，威胁社会公平正义。
• 数据滥用：深度挖掘分析用户数据用于差异化定价、信息茧房、虚假新闻传播等。
• 数据智能窃取：人工智能被用于自动识别验证码、数据勒索攻击、生成虚假信息等。

3. 人工智能应用加剧的数据治理挑战

• 数据权属问题：个人与企业数据归属不清，影响数据共享与流通。
• 数据违规跨境：数据跨境流动可能威胁国家安全和网络主权。
• 数据垄断问题：数据资源集中于头部企业，制约中小企业发展。

三、人工智能数据安全应用

• 数据安全策略制定：人工智能可辅助制定更科学的数据治理策略。
• 数据资产管理：通过机器学习等技术实现数据自动分类、质量检测与管理。
• 数据活动安全保护：包括数据脱敏、防泄漏、加密、网络安全防护等。
• 数据安全事件管理：通过智能监测、预警、溯源实现对数据安全事件的快速响应。
• 具体应用案例：
  • 百度“人工智能+广告打假”处理145.4亿条有害信息。
  • 阿里“人工智能谣言粉碎机”识别准确率81%。
  • 腾讯“钱盾”系统成功劝阻8.7万人，止损6.9亿元。
  • 中国信息通信研究院通过人工智能实现对违法信息识别准确率97%以上。

四、国内外人工智能数据安全治理动态

1. 国外治理动态

• 美国：推动数据集建设，加强数据安全风险应对，发布《人工智能倡议》。
• 欧盟：发布《通用数据保护条例》（GDPR），提出数据治理框架，关注数据权属与个人隐私。
• 英国：提出人工智能基本道德准则，强调数据权利与隐私保护。
• 日本：推动数据驱动与知识驱动融合，鼓励隐私保护技术研究。
• 印度：关注数据偏差与隐私保护，提出数据保护框架和监管方案。

2. 我国治理动态

• 高度重视数据集建设，推进数据开放与保护。
• 发布《新一代人工智能发展规划》和《行动计划》，加强人工智能安全应用。
• 加速推进《数据安全法》和《个人信息保护法》立法进程。
• 部门规章如《电信和互联网用户个人信息保护规定》等已出台。
• 相关标准如《信息安全技术个人信息安全规范》等逐步制定。

五、人工智能数据安全治理建议

1. 明晰发展与安全并举的治理思路

   • 推进数据资源建设，推动数据共享和流通。
   • 加强数据安全治理能力，以安全促进人工智能发展。

2. 引导社会遵循人工智能伦理规范

   • 加强人工智能伦理宣贯，提升公众数据保护意识。
   • 积极参与国际人工智能伦理规范制定，推动形成广泛共识。

3. 建立人工智能数据安全法律法规

   • 推进《数据安全法》、《个人信息保护法》等立法。
   • 完善相关规章，制定数据安全执法机制。

4. 完善人工智能数据安全监管措施

   • 开展数据安全监督与惩戒，防范数据滥用。
   • 建立数据安全检测评估机制，提升产品安全性。

5. 健全人工智能数据安全标准体系

   • 加快人工智能数据安全标准制定，重点推进评估、平台保护、用户隐私保护等。
   • 优化标准化组织建设，加强国际标准化工作。

6. 创新人工智能数据安全技术手段

   • 加强基础理论研究，推动联邦学习、差分隐私、小样本学习等技术发展。
   • 建设完善人工智能开源学习框架，保障数据安全。
   • 鼓励人工智能与数据安全技术融合，提升治理能力。

7. 培养复合人工智能数据安全人才

   • 完善高校教育体系，推动人工智能与网络信息安全交叉学科建设。
   • 加强企业人才培养，设立联合培训基地。
   • 引进国际顶尖人才，提升我国人工智能安全水平。

总结

人工智能数据安全是人工智能技术发展与应用的重要保障，其风险与治理挑战并存。白皮书提出，应构建覆盖风险、应用与治理的人工智能数据安全体系，推动数据安全治理向自动化、智能化、高效化发展。同时，需加强法律法规、伦理规范、技术手段和人才培养，形成系统化治理能力，保障人工智能技术的健康发展和国家安全。