人工智能安全风险及治理研究_5页_2mb

人工智能安全风险及治理研究总结

核心内容

本报告由国家工信安全中心信息政策所叶晓亮于2021年9月发布，系统分析了人工智能（AI）在技术层面、应用场景及治理方面的安全风险，并提出了我国人工智能安全发展的对策建议。报告旨在为AI的安全发展提供理论支撑和实践指导。

主要观点

人工智能安全风险的三个层次

1. 技术本身脆弱性导致的风险

   • 人工智能学习框架依赖众多基础库，存在安全隐患
   • 算法设计局限性可能引发决策偏差或错误
   • 模型保密性和稳健性易受对抗样本和数据“投毒”攻击影响
   • 数据不均衡可能导致决策偏见和歧视

2. 技术被攻击者利用的风险

   • 深度伪造技术可生成虚假信息，威胁个人权益和社会安全
   • AI技术可被用于升级网络攻击手段，如自动化恶意软件分发、构建智能僵尸网络等

3. 技术广泛应用引发的社会风险

   • 大规模数据采集可能引发隐私泄露问题
   • 技术智能化发展带来伦理问题和结构性失业等社会挑战

人工智能典型应用场景的安全风险

1. 人脸识别技术

   • 准确率虽高，但存在错误识别、易被欺骗等安全问题
   • 隐私泄露风险突出，数据存储与处理缺乏安全保障

2. 自动驾驶系统

   • 数据采集、信息交互和数据存储均面临安全威胁
   • 通信链路可能被窃听或攻击，系统易被远程劫持

3. 无人驾驶飞机

   • 需要高度可靠与稳定，但潜在安全隐患仍威胁飞行安全

4. 专用型机器人

   • 工业、家用及医疗机器人均存在数据隐私泄露和系统漏洞风险
   • 通信缺乏加密机制，易被监听、篡改

关键信息

国内外人工智能安全治理关注重点

1. 探索人工智能安全前沿技术

   • 可解释人工智能（XAI）提升透明度
   • 联邦学习、差分隐私、同态加密等技术用于数据隐私保护
   • AI“杀毒软件”如RealSafe、AI安全诊断大师等用于检测与加固模型安全
   • AI技术应用于网络安全防御，如微软CyberBattleSim

2. 开展人工智能应用规范探索

   • 各国积极制定人工智能安全、信任、公平、道德规范
   • ISO/IEC、IEEE、欧盟、美国、韩国、巴西等均发布相关标准和伦理指南
   • 重点关注AI在自动驾驶、医疗、金融等领域的应用规范

3. 重视人工智能数据安全防护

   • 数据作为AI发展的核心驱动力，需加强安全治理
   • 中国发布《新一代人工智能发展规划》和《新一代人工智能治理原则》
   • 美国NIST发布《关于人工智能技术和道德标准指导意见》
   • 欧盟强调GDPR原则，巴西强调人权保护，英国推动公平、安全的数据共享框架

我国人工智能安全发展对策建议

1. 加强AI自身及安全技术研究

   • 提升AI模型的稳定性、成熟度和可解释性
   • 研究安全风险产生机制，突破联邦学习、差分隐私、同态加密等关键技术

2. 完善政策法规及伦理道德规范

   • 尽快建立AI安全上位法，完善部门规章
   • 构建涵盖技术、数据、产品和系统的安全标准体系
   • 对技术人员、管理人员和用户形成全覆盖的伦理规范

3. 优化监管体系及监管力度

   • 健全政府监管机制，优化现有监管体系
   • 强化行业自律与企业自治，配合政府监管约束市场行为
   • 准确把握监管力度，避免过度或不足

4. 建立安全监测评估及应急处置机制

   • 完善AI安全检测评估指标体系与评估方法
   • 构建涵盖政府、行业监管机构和企业的威胁信息共享与应急处置机制
   • 建设人工智能攻防演练平台，开展应急演练

5. 强化多领域实操性人才培养

   • 优化现有培养机制，建设跨学科人才培养体系
   • 鼓励企业与科研院所合作，推动理论与应用结合
   • 提高大众AI安全意识与技能，通过在线培训、在职培训和日常宣传等方式实现

总结

人工智能技术的快速发展为社会带来巨大变革，但也伴随着多维度的安全风险。从技术本身到应用场景，再到伦理与法律层面，人工智能的安全治理已成为全球关注的重点。我国需在技术研究、政策法规、监管体系、安全评估与人才培养等方面采取综合措施，构建负责任、安全、可信的人工智能发展体系。