人工智能背景下数据安全八大趋势_12页_3mb

CAICT 中国信通院：人工智能背景下数据安全八大发展趋势总结

核心内容概述

在人工智能时代，数据成为技术发展的核心驱动力，其安全问题也日益凸显。中国信通院基于行业研究，提出人工智能时代数据安全的八大发展趋势，涵盖数据责任、数据使用、数据流通及智能体安全等维度，旨在构建系统性策略，保障数据安全与人工智能的健康发展。

主要观点与关键信息

1. 数据是人工智能生态构建的底层驱动

• 数据价值提升：数据不仅是训练模型的材料，更是驱动技术创新与决策的核心资源。
• 数据竞争加剧：掌握高质量、多样化的数据将成为企业间竞争的关键变量。
• 数据安全影响价值：数据泄露或污染将直接导致模型性能下降与竞争力丧失。

2. 数据安全工作面临WWWH新挑战

• What（哪些数据需要保护）：从传统业务数据扩展到模型数据、生成数据等新型数据。
• Who（谁会参与数据流通）：数据流通涉及多方主体，包括用户、服务商、大模型拥有者等。
• Where（数据会在哪些场景暴露）：数据暴露面从传统场景扩展到大模型训练、推理等新兴场景。
• How（数据会被怎么使用）：数据使用从人为主转向智能体驱动，责任边界模糊，治理难度上升。

3. 人工智能时代数据安全八大趋势

趋势一：落实数据三权分置，推动数据产权制度成为共识

• 数据产权制度从“物权逻辑”向“非竞争性、多源共生”转变。
• 数据持有权、使用权、经营权可根据数据类型与参与方灵活配置。

趋势二：数据安全责任从静态划分转向场景化动态适配

• 责任主体从用户与服务商扩展至大模型拥有者。
• 数据安全责任需根据具体场景动态划分，如智能体应用、API调用、平台工具链等。

趋势三：机密计算成为数据“使用中安全”的新基建

• 机密计算通过硬件级可信执行环境（TEE）实现数据“可用不可见”。
• 提供多种应用场景下的机密计算解决方案，如密态“龙虾盒子”、MaaS专区、智能体零信任架构等。

趋势四：精准布控“模数共振”汇聚、训练、协同环节的数据安全

• 模数共振推动数据与模型协同，但也带来新的数据安全风险。
• 风险包括数据汇聚融合、模型训练数据泄露、多方协同确权等。
• 解决方案包括数据分类分级、可信数据流通、安全审查、权限管控等。

趋势五：可信数据空间迈向人工智能原生驱动新阶段

• 可信数据空间从“规则驱动”升级为“原生智能”，支持智能体自主调用与推理。
• 智能体成为空间内的“数字居民”，具备感知、决策与执行能力。
• 治理能力从“人治”向“自治、智治”转变。

趋势六：以“来数加工”化解Token出海数据安全合规痛点

• Token出海模式通过“数据保税区”实现境内处理、境外返回，构建全链路闭环。
• 高频跨境调用、数据路径难举证、二次出境风险、多司法管辖区冲突等问题需重点应对。
• 广东汕头试点验证了“来数加工”模式的可行性。

趋势七：从身份、权限、行为三维度构建智能体可信数据使用环境

• 智能体具备自主性，传统安全手段难以应对。
• 需构建身份可信、权限可信、行为可信的三层体系。
• 智能体运行在沙箱环境中，确保数据调用可控、可追溯。

趋势八：零信任理念正在缝合智能体协同引入的数据安全罅隙

• 多智能体协同带来数据流转失控、共享污染、来源不可追溯、数据残留等风险。
• 零信任理念从“系统级”扩展至“智能体行为级”，构建“新边界”。
• 实施“永不信任，始终验证”、“假设失陷”、“最小代理”等原则。

总结

人工智能时代的数据安全工作需从多维度进行系统性布局，包括明确数据权责归属、保障数据流通安全、构建智能体可信环境、引入零信任架构等。中国信通院提出的八大趋势，为行业应对数据安全挑战提供了清晰的路径与策略，有助于推动人工智能技术在安全可控的环境下持续发展。