2024年AI安全白皮书-CSA_GCR_145页_2mb

《AI安全白皮书》总结：

本白皮书聚焦人工智能（AI）在数字经济发展中的安全挑战与防护机制，涵盖AI赋能安全、伴生安全问题、安全生态及行业关键安全场景等核心内容。AI技术通过漏洞挖掘、安全防御、威胁检测等方式提升网络安全水平，但其应用也带来算法脆弱性、数据风险、隐私泄露及伦理问题等威胁。与会专家指出，AI安全需贯穿全生命周期管理，并结合技术与合规措施进行多维度防护。

AI安全的挑战与应对

1. 内生安全问题

   • 算法缺陷：如对抗样本攻击、数据投毒攻击、模型逆向等，可能导致误判、信息泄露或系统失效。
   • 数据安全风险：数据噪声、分布偏差或恶意篡改会直接影响AI性能，需强化数据脱敏、联邦学习及隐私保护技术。
   • 模型与系统的脆弱性：模型窃取、供应链攻击等新型攻击手段持续威胁AI技术，需构建动态安全防护体系。

2. 衍生安全风险

   • AI应用可能引发其他领域的安全事件，如自动驾驶决策失误导致事故、医疗AI误诊、网络诈骗等。
   • 联邦学习、多方安全计算、同态加密等技术被用于数据保护，但面临计算成本高、技术复杂性等挑战。

3. 安全技术生态

   • 监管框架：美国强化AI安全标准（如《国家AI倡议法案》），欧盟设定风险等级（如“不可接受风险”与“高风险”），中国制定《人工智能算法推荐管理规定》等政策。
   • 技术手段：包括差分隐私、可信执行环境（TEE）、对抗性训练、AI安全工具（如PaddleSleeve的Robustness模块）等，需在数据、模型、基础设施等层面同步防护。
   • 行业标准：国际标准（如ISO/IEC 38507）、国内标准（如《信息安全技术人工智能计算平台安全框架》）共同推动AI安全体系标准化。

4. 关键安全问题

   • 大模型安全：需解决训练数据隐私风险、生成内容偏见、模型逆向攻击等问题，通过动态数据采集、模型水印等技术增强防护。
   • 对抗样本攻击：攻击者通过微小扰动误导AI系统，需通过对抗训练、模型鲁棒性测试及集成多模型缓解风险。
   • 供应链攻击：针对开发库、第三方组件的注入或篡改，需实施供应链安全审查与多层防御策略。
   • 数据泄露：包括模型逆向攻击、成员推理攻击，需通过加密、访问控制及隐私增强技术（如联邦学习）防范。

5. 伦理与治理

   • AI的歧视性、不可解释性与自我演化能力可能引发伦理争议，如自动驾驶决策责任归属、医疗AI的公平性问题等。
   • 涉及隐私保护、透明度要求及可持续性发展，需通过技术合规与社会共识构建安全生态。

6. 行业应用与风险

   • 医疗领域：需防范误诊、隐私泄露与数据滥用，推动数据匿名化与安全审计。
   • 金融与社会：AI可能被用于操纵市场、生成虚假信息，需强化监管与合规控制。
   • 国际合作：《AI安全白皮书》及《ChatGPT安全影响》推动形成技术规范与伦理共识，强调多方协同治理。

未来方向
需加强AI安全技术研发，完善法规与行业标准，提升模型可解释性与隐私保护能力，推动技术应用与伦理、法律的同步发展，构建安全、透明、可控的AI技术生态。