信通院-人工智能数据安全白皮书_2019_-2019.8-51页_1mb

人工智能数据安全白皮书总结（2019年）

核心内容概述

人工智能数据安全是人工智能安全的重要组成部分，涵盖数据的收集、存储、处理、使用及共享等环节。随着人工智能技术的广泛应用，其在提升数据管理能力的同时，也带来了诸多数据安全风险和治理挑战。本白皮书从人工智能数据安全的内涵出发，构建了涵盖风险、应用和治理的体系架构，分析了国内外治理现状，并提出治理建议，旨在保障人工智能安全发展，推动数字经济和智能社会的健康发展。

主要观点

• 人工智能与数据的关系：人工智能依赖高质量数据进行训练和优化，而数据安全直接影响人工智能的准确性和应用安全性。
• 人工智能数据安全风险：
  • 自身风险：包括训练数据污染、运行阶段的数据异常、模型窃取攻击、开源框架漏洞等。
  • 应用风险：如数据过度采集、数据偏见歧视、数据深度挖掘滥用、数据智能窃取、深度伪造等。
  • 治理挑战：数据权属不清、数据违规跨境流动、数据安全监管不足等。
• 人工智能数据安全应用：
  • 数据安全治理向自动化、智能化、高效化演进。
  • 应用于数据安全策略制定、资产管理、活动保护、事件管理及不良信息治理、反欺诈、打击数据黑产等。
• 治理建议：
  • 明确发展与安全并举的治理思路。
  • 引导社会遵循人工智能伦理规范。
  • 建立人工智能数据安全法律法规。
  • 完善监管措施，健全标准体系。
  • 创新技术手段，培养复合型人才。

关键信息

一、人工智能数据安全风险

二、人工智能数据安全应用

三、国内外治理动态

• 美国：推动数据集建设，加强数据安全风险应对；发布《人工智能倡议》加强数据开放。
• 欧盟：制定《通用数据保护条例》（GDPR），推动数据自由流动；发布《可信赖人工智能伦理指南》。
• 英国：发布《人工智能发展计划》，强调数据安全与隐私保护；提出公平、安全的数据共享框架。
• 日本：鼓励数据与知识融合，加强隐私保护与数据安全技术研究。
• 印度：关注数据偏差与隐私保护，推动数据保护立法。
• 我国：推进数据集建设，加强数据安全立法与标准制定；但相关法律法规尚不完善，需加快顶层立法。

四、法律与标准制定情况

• 法律层面：我国已有一些法律如《刑法修正案》、《网络安全法》、《电子商务法》涉及数据安全保护，但尚未形成体系化的人工智能数据安全法律。
• 标准层面：我国已开展多项标准制定工作，如《信息安全技术个人信息安全规范》、《人工智能算法安全指南》等，但仍需进一步完善标准体系。

治理建议总结

结语

人工智能数据安全是保障人工智能技术健康发展的重要基础，其治理需从法律、伦理、监管、技术、标准和人才等多方面协同推进。我国作为人工智能发展的重要参与者，应加快构建完善的人工智能数据安全治理体系，以应对日益复杂的数据安全风险，实现人工智能与数据安全的良性互动，保障数字社会的可持续发展。