2018年-中国信通院_人工智能安全白皮书2018_49页_1mb

CAICT 人工智能安全白皮书（2018年）总结

核心内容

本白皮书由中国信息通信研究院安全研究所发布，系统梳理了人工智能安全内涵、风险分析、应用情况、管理现状和发展建议，旨在为人工智能安全发展提供指导和参考。

主要观点

1. 人工智能的快速发展：人工智能作为战略性技术，正在推动社会从数字化、网络化向智能化跃升，但也带来了诸多安全风险。
2. 人工智能安全内涵：包括降低技术不成熟和恶意应用带来的风险、推动其在安全领域的深度应用、构建安全管理体系。
3. 人工智能安全体系架构：涵盖安全风险、安全应用和安全管理三个维度，三者相互依存、共同作用。
4. 人工智能安全风险：主要包括网络安全、数据安全、算法安全、信息安全、社会安全和国家安全等六个方面，具有泛在化、场景化和融合化趋势。
5. 人工智能安全应用：在网络安全防护、信息内容审查、数据安全管理、智能安防、金融风控、网络舆情监测等方面具有广泛应用前景。
6. 人工智能安全管理现状：各国在政策法规、标准规范、技术手段、安全评估、人才建设和产业生态等方面有不同的发展路径和进展。
7. 人工智能安全发展建议：包括加强自主创新、完善法律法规、健全监管体系、强化标准引领、促进行业协作、加大人才培养、加强国际交流和加大社会宣传等八个方面。

关键信息

一、人工智能安全内涵与体系架构

• 基本概念：人工智能是模拟、延伸和扩展人类智能的技术，用于感知环境、获取知识并实现最佳结果。
• 发展历程：人工智能经历了多次低谷，当前处于弱人工智能阶段，专注于特定领域。
• 安全内涵：
  1. 降低技术不成熟和恶意应用带来的安全风险。
  2. 推动其在网络和公共安全领域的深度应用。
  3. 构建人工智能安全管理体系，保障其安全发展。
• 安全体系架构：包括安全风险、安全应用和安全管理三个维度。

二、人工智能安全风险分析

• 网络安全风险：
  • 学习框架和组件存在漏洞和后门。
  • 人工智能技术可提升网络攻击效率和破坏程度，如生成智能僵尸网络、绕过安全系统检测等。
• 数据安全风险：
  • 数据偏差和隐私泄露风险高，如逆向攻击导致数据泄露、Facebook数据泄露事件。
• 算法安全风险：
  • 算法设计和实施有误可能导致伤害性结果，如自动驾驶事故。
  • 算法偏见和歧视问题突出，如COMPAS算法对黑人歧视。
  • 算法黑箱导致决策不可解释，引发监督审查困境。
• 信息安全风险：
  • 智能推荐算法可加速不良信息传播。
  • 人工智能技术可生成虚假信息，用于诈骗活动。
• 社会安全风险：
  • 人工智能可能导致结构性失业。
  • 人工智能安全问题可能直接威胁人身安全。
  • 人工智能可能冲击社会伦理道德体系。
• 国家安全风险：
  • 可用于影响政治意识形态，如剑桥分析公司干预美国大选。
  • 可用于构建新型军事打击力量，如智能武器、无人机炸弹袭击等。

三、人工智能安全应用情况

• 网络信息安全应用：
  • 网络安全防护：入侵检测、恶意软件识别、安全态势感知等。
  • 信息内容安全审查：文本、图像、视频识别，减少不良信息传播。
  • 数据安全管理：数据分类、防泄漏、泄露溯源等。
• 社会公共安全应用：
  • 智能安防：人脸识别、车辆识别、行为预测等。
  • 金融风控：信用评估、风险控制、智能投顾等。
  • 网络舆情监测：预测网络事件发展、进行预警和干预。

四、人工智能安全管理现状

• 主要国家关注重点：
  • 美国：关注国家安全、自动驾驶、刑事司法等。
  • 欧盟与英国：强化伦理原则、法律法规约束。
  • 俄罗斯、以色列、印度：重视国防和军事应用。
  • 加拿大、日本、韩国、新加坡：侧重人才培养和技术研发。
• 法规政策制定情况：
  • 美国：推动算法问责，加强监管。
  • 欧盟：制定《通用数据保护条例》，规范自动化决策。
  • 我国：以规划引领，探索构建安全管理体系。
• 标准规范制定情况：
  • 国际：IEEE、ISO/IEC等组织正在研究伦理、隐私等安全标准。
  • 国内：部分标准已制定，但安全评估、伦理设计等标准仍待完善。
• 技术手段建设情况：
  • 各国重视安全监管与防护技术手段，企业为主导。
  • 国内企业在安全测试、评估、检测等方面取得一定进展。
• 重点应用安全评估情况：
  • 自动驾驶安全测试验证尚未形成统一标准。
  • 工业机器人标准较完备，但智能服务机器人评估体系不完善。
• 人才队伍建设情况：
  • 我国在人工智能人才培养方面取得一定成果，但与美英相比仍有差距。
  • 高校和企业需加强合作，提升人才培养质量。

五、人工智能安全发展建议

• 加强自主创新：突破共性关键技术，解决“卡脖子”问题。
• 完善法律法规：制定《个人信息保护法》，明确责任主体。
• 健全监管体系：优化治理架构，加强安全监管试点。
• 强化标准引领：推动人工智能安全标准体系建设，构建安全评估体系。
• 促进行业协作：加强人工智能企业与网络安全、公共安全企业的合作。
• 加大人才培养：优化人才培养体系，提升就业技能，降低失业风险。
• 加强国际交流：参与国际标准制定，应对共有安全风险。
• 加大社会宣传：提高公众安全意识，科学处理安全问题。

结构总结

总结

人工智能作为推动社会智能化的重要技术，其发展带来了前所未有的机遇与挑战。白皮书指出，人工智能安全问题已从技术层面扩展至社会、经济、政治等多个领域，需构建系统化的安全体系。当前，我国在人工智能安全领域取得一定进展，但与国际先进水平仍有差距，需在政策、法规、标准、技术、人才、生态等方面协同推进，以实现人工智能安全健康发展。