人工智能安全白皮书（2018年）-中国信通院-2018.09-49页-1mb

CAICT 人工智能安全白皮书（2018年）总结

核心内容

人工智能作为战略性技术，正加速推动经济社会向智能化转型，但其发展也带来了诸多安全风险与挑战。白皮书系统梳理了人工智能安全内涵、风险类型、应用场景及管理现状，提出了未来发展的建议，旨在构建全面的人工智能安全体系，保障技术安全发展。

主要观点

• 人工智能技术具有双重属性，既可提升安全防护能力，也可能引发网络安全、数据安全、算法安全、信息安全、社会安全和国家安全等多方面的风险。
• 人工智能安全体系应涵盖安全风险、安全应用和安全管理三个维度，形成系统化的安全管理框架。
• 国内外在人工智能安全领域的发展存在差异，国外在技术、法规、标准和人才等方面更为成熟，而我国在基础层和生态建设方面仍有待加强。
• 人工智能的发展应坚持自主创新与国际合作并重，推动技术与产业协同发展。

关键信息

一、人工智能安全内涵与体系架构

1. 人工智能基本概念与发展历程

   • 人工智能自1956年诞生以来，经历了多次发展浪潮，当前处于弱人工智能阶段。
   • 人工智能技术包括模拟、延伸和扩展人类智能，具有感知、学习、决策等能力。

2. 人工智能安全内涵

   • 降低人工智能不成熟性和恶意应用带来的安全风险。
   • 推动人工智能在网络安全与公共安全领域的深度应用。
   • 构建人工智能安全管理体系，保障其安全稳步发展。

3. 人工智能安全体系架构

   • 涵盖安全风险、安全应用和安全管理三个维度。
   • 安全风险包括网络安全、数据安全、算法安全、信息安全、社会安全和国家安全。
   • 安全应用包括网络防护、数据管理、信息审查、智能安防、金融风控、舆情监测等。
   • 安全管理包括法规政策、标准规范、技术手段、安全评估、人才队伍建设、可控生态等六个方面。

二、人工智能安全风险分析

1. 网络安全风险

   • 学习框架和组件存在漏洞，可能被攻击者利用。
   • 人工智能可提升网络攻击效率，生成智能僵尸网络，导致系统崩溃或数据泄露。

2. 数据安全风险

   • 逆向攻击可能造成数据泄露，如恢复基因信息或人脸识别训练数据。
   • 数据挖掘能力增强，隐私泄露风险上升，如Facebook数据泄露事件。

3. 算法安全风险

   • 算法设计或实施有误可能导致不公或伤害性结果，如自动驾驶事故或算法歧视。
   • 算法黑箱导致决策不可解释，引发监督审查困境。
   • 训练数据偏差影响算法准确性，如人脸识别系统对不同种族识别差异。

4. 信息安全风险

   • 智能推荐算法可能加速不良信息传播，如虚假信息或定制化钓鱼邮件。
   • 人工智能可用于制作虚假信息，实施诈骗活动，如语音和视频合成技术。

5. 社会安全风险

   • 人工智能可能引发结构性失业，如替代部分脑力劳动岗位。
   • 高度自治系统可能危及人身安全，如自动驾驶或无人机失控。
   • 人工智能可能冲击社会伦理道德，如算法歧视或智能伴侣机器人对人际关系的影响。

6. 国家安全风险

   • 人工智能可用于影响政治意识形态，如Facebook数据泄露事件。
   • 构建新型军事打击力量，如智能武器或无人机攻击。
   • 人工智能可能引发国家间军备竞赛，影响国家安全。

三、人工智能安全应用情况

1. 网络信息安全应用

   • 网络安全防护：用于入侵检测、恶意软件识别、安全态势感知等。
   • 信息内容安全审查：用于识别违法信息，如色情、涉恐、违规言论等。
   • 数据安全管理：用于数据分类、防泄漏、泄露溯源等。

2. 社会公共安全应用

   • 智能安防：提升视频分析能力，实现主动预警和行为识别。
   • 金融风控：提升信用评估和风险控制能力，实现自动化决策。
   • 舆情监测：提升对网络舆情的预测和干预能力，保障社会稳定。

四、人工智能安全管理现状

1. 主要国家人工智能安全关注重点

   • 美国：关注人工智能对国家安全的影响，加强监管。
   • 欧盟与英国：强调伦理原则和数据保护，如GDPR。
   • 俄罗斯、以色列、印度：聚焦人工智能在国防和军事领域的应用。
   • 加拿大、日本、韩国、新加坡：侧重人才培养和技术研发。

2. 主要国家人工智能安全法规政策制定情况

   • 美国：主张市场主导，加强自动驾驶和刑事司法等领域的监管。
   • 欧盟与英国：推动伦理原则建设，强化数据保护和算法问责。
   • 中国：坚持规划引领，制定相关法律法规，如《新一代人工智能发展规划》。

3. 人工智能安全标准规范制定情况

   • 国际标准：如IEEE伦理标准、ISO/IEC可信研究组。
   • 国内标准：如《人工智能产品、应用及服务的安全评估指南》。

4. 人工智能安全技术手段建设情况

   • 安全监管技术：用于发现和处置安全问题。
   • 安全防护技术：用于提升人工智能产品的安全性和可靠性。
   • 企业实践：如大疆无人机实名登记、谷歌“切断开关”等。

5. 人工智能重点应用的安全评估情况

   • 自动驾驶：安全测试标准尚未统一，主要由企业自行评估。
   • 智能服务机器人：安全标准体系尚不完善，需加强评估能力。

6. 人工智能人才队伍建设情况

   • 中国高校积极布局人工智能学科，形成一定人才储备。
   • 与美英相比，中国在资深人才和研究型人才方面仍有差距。

7. 人工智能产业生态培育情况

   • 中国人工智能产业生态初步形成，但基础层发展较慢。
   • 美国在基础层、技术层和应用层均处于领先地位。

五、人工智能安全发展建议

1. 加强自主创新，突破共性关键技术

   • 强化基础技术研究，如传感器、智能芯片、基础算法等。
   • 推动技术引进与再创新，解决“卡脖子”问题。

2. 完善法律法规，制定伦理道德规范

   • 推进《个人信息保护法》立法，明确责任主体。
   • 制定人工智能伦理规范，提升人机一致性，避免军备竞赛。

3. 健全监管体系，引导产业健康发展

   • 优化政府监管体制，提升监管技术支撑能力。
   • 强化企业自治责任，保障数据安全和用户权益。

4. 强化标准引领，构建安全评估体系

   • 推动人工智能安全标准制定，形成统一参考体系。
   • 加强安全评估能力建设，构建检测认证平台。

5. 促进行业协作，推动技术安全应用

   • 促进人工智能企业与网络安全企业协作，提升产品成熟度。
   • 推动人工智能与公共安全企业合作，拓展应用场景。

6. 加大人才培养，提升人员就业技能

   • 优化高校专业设置，减少可替代专业招生。
   • 强化在职培训和再就业体系，提升就业适应性。

7. 加强国际交流，应对共有安全风险

   • 参与国际标准制定，如ISO/IEC、IEEE等。
   • 建立国际交流机制，共享治理经验，推动国际合作。

8. 加大社会宣传，科学处理安全问题

   • 加强公众宣传教育，提升安全防范意识。
   • 引导社会正确认识人工智能技术，降低焦虑情绪。

总结

人工智能安全涉及多个层面，包括技术、法律、伦理、社会和国家安全。白皮书系统分析了人工智能安全风险，并提出了相应的管理和发展建议，强调自主创新、法律法规完善、监管体系构建、标准引领、行业协作、人才培养、国际交流和社会宣传的重要性。未来，人工智能安全将成为各国竞争与合作的重要领域，需要多方协同推进，确保其安全、可控、可持续发展。