人工智能数据安全白皮书（2019年）_51页_1mb

人工智能数据安全白皮书（2019年）总结

核心内容概述

人工智能作为引领新一轮科技革命和产业变革的战略性技术，正在深刻影响国家政治、经济、社会和国防等领域。然而，人工智能的发展也带来了数据安全方面的诸多风险与挑战。本白皮书系统梳理了人工智能数据安全风险与治理现状，提出了人工智能数据安全的体系架构和治理建议，旨在构建一个安全、可控、可信的人工智能发展环境。

主要观点

1. 人工智能与数据关系密切

   • 数据是人工智能发展的核心驱动力，人工智能反过来也提升了数据的收集、管理和挖掘能力。
   • 数据质量和安全直接影响人工智能系统的性能和应用安全。

2. 人工智能数据安全风险日益突出

   • 训练数据污染：如数据投毒、对抗样本攻击等，可能导致人工智能系统做出错误决策。
   • 数据滥用与偏见歧视：人工智能在智慧政务、金融征信等场景中可能因训练数据偏差而影响社会公平。
   • 数据深度伪造：利用生成对抗网络（GAN）技术生成虚假信息，威胁网络安全、社会稳定和国家安全。
   • 数据治理挑战：数据权属问题、数据违规跨境流动等，成为人工智能安全发展的重要障碍。

3. 人工智能在数据安全治理中的应用潜力巨大

   • 人工智能技术可应用于数据安全策略制定、数据资产管理、数据活动安全保护、数据安全事件管理等环节，提升治理的自动化、智能化、高效化水平。
   • 人工智能在数据脱敏、加密、威胁检测、反欺诈、打击数据黑产等方面已有成功应用案例。

关键信息

一、人工智能数据安全体系架构

• 体系包括三个维度：数据安全风险、数据安全应用、数据安全治理。
• 数据安全治理涵盖国家战略、伦理规范、法律法规、监管政策、标准规范、技术手段、人才队伍等方面。

二、人工智能数据安全风险

1. 训练数据污染

   • 包括模型偏斜、反馈误导等攻击方式，可能影响算法模型的准确性。
   • 例如，数据投毒可能影响自动驾驶、军事系统等关键应用。

2. 运行阶段的数据异常

   • 对抗样本攻击可误导智能系统，造成错误决策。
   • 动态环境中的数据输入不一致，可能影响模型泛化能力。

3. 模型窃取攻击

   • 攻击者可通过黑盒访问，逆向还原模型数据，导致隐私泄露。

4. 开源框架安全漏洞

   • 深度学习框架存在第三方组件漏洞，可能引发数据泄露和系统篡改。

5. 数据治理挑战

   • 数据权属问题突出，数据违规跨境流动威胁国家安全。

三、人工智能数据安全应用

1. 数据安全策略制定

   • 基于人工智能的智能决策系统，可提高数据治理的科学性和效率。

2. 数据资产管理

   • 利用机器学习、自然语言处理等技术，实现数据自动分级分类与质量评估。

3. 数据活动安全保护

   • 包括数据脱敏、加密、防泄漏、网络威胁检测等技术应用。

4. 数据安全事件管理

   • 通过人工智能技术实现对敏感数据和有害信息的自动发现、识别与预警。

5. 典型案例

   • 百度“人工智能+广告打假”识别有害信息准确率高达81%；
   • 腾讯“钱盾”系统成功劝阻8.7万人，止损6.9亿元；
   • 腾讯守护者计划打击数据黑产，成功破获多个非法验证码破解团伙。

四、国内外人工智能数据安全治理动态

1. 国外发展情况

   • 美国：推动数据集建设，加强数据安全风险应对，制定《人工智能倡议》等政策。
   • 欧盟：关注数据权属与隐私保护，发布《通用数据保护条例》（GDPR）等法律，推进数据治理标准制定。
   • 英国：提出人工智能伦理准则，规范数据共享和使用。
   • 日本：鼓励数据驱动与知识驱动融合型人工智能研究，推动隐私保护技术发展。
   • 印度：关注数据偏差与隐私保护，提出数据保护框架和监管机制。

2. 我国发展现状

   • 我国高度重视人工智能数据安全，推动数据集建设、数据开放与隐私保护。
   • 已发布《新一代人工智能发展规划》《网络安全法》《电子商务法》等政策法规，但仍缺乏系统性法律体系。

五、人工智能数据安全治理建议

1. 明晰发展与安全并举的治理思路

   • 推动数据资源建设，加强数据安全治理能力，以安全促进人工智能健康发展。

2. 引导社会遵循人工智能伦理规范

   • 加强伦理宣贯，推动形成社会共识；积极参与国际伦理规范制定，提升我国影响力。

3. 建立人工智能数据安全法律法规

   • 推进《数据安全法》《个人信息保护法》立法；完善相关规章，加强执法力度。

4. 完善人工智能数据安全监管措施

   • 实施监督惩戒机制，加强检测评估平台建设，提升数据安全监管能力。

5. 健全人工智能数据安全标准体系

   • 加快重点标准研制，优化标准化组织建设，加强国际标准化工作。

6. 创新人工智能数据安全技术手段

   • 突破小样本学习、联邦学习、差分隐私等关键技术，建设安全开源框架。

7. 培养复合人工智能数据安全人才

   • 完善高校教育体系，加强企业人才培养，引进国际高端人才。

结语

人工智能数据安全已成为全球治理的重要议题，涉及技术、法律、伦理、标准、人才等多方面。我国在人工智能数据安全治理方面已取得一定进展，但仍需在战略实施、法律完善、标准制定、技术突破和人才培养等方面持续发力，以保障人工智能安全、可控、可持续发展。