> **来源：[研报客](https://pc.yanbaoke.cn)** # 网络安全标准化技术研究报告——智能体安全标准化研究 ## 核心内容概述 本报告由全国网络安全标准化技术委员会秘书处组织编写，聚焦智能体安全标准化研究，旨在系统梳理智能体安全风险，提出标准化发展趋势及工作建议，为网络安全国家标准制修订与保障实施提供技术参考与决策支撑。报告涵盖智能体定义、分类、发展现状、安全风险框架、全生命周期风险流转分析以及国际国内标准化现状等内容。 ## 主要观点与关键信息 ### 1. 智能体定义与分类 - **定义**：智能体是能够感知环境、理解信息并作出决策与行动的自主系统，分为软智能体（软件实体）和硬智能体（物理实体）。 - **分类维度**： - 产品形态：硬智能体、软智能体 - 功能定位：智能助理、感知交互、仿真、安全、协作等 - 协作能力：单智能体、多智能体、人类与智能体协作 - 决策依据：确定性、非确定性 - 决策过程：简单反射、基于模型、基于目标、基于效用、学习型 - 所处层次：操作系统智能体、应用智能体 ### 2. 智能体发展现状 - **技术发展**：智能体在感知、规划、记忆、行为等方面能力显著提升，尤其大语言模型的普及推动其从规则驱动向自主决策演进。 - **产业发展**：全球智能体市场快速增长，预计2024-2030年复合年增长率达44.8%。北美、亚太（尤其是中国和日本）在市场和政策上占据主导地位。 - **政策支持**：各国通过立法、监管、技术研究等手段构建AI安全治理体系，中国也构建了“顶层战略—法律框架—专项规章—伦理规范—动态执法”五位一体的治理体系。 ### 3. 智能体安全风险与应对措施 #### 3.1 智能体安全风险框架 - 共有风险：AIA02（数据泄露、篡改和投毒）、AIA03（供应链与插件投毒）、AIA04（身份仿冒和越权访问）、AIA09（人工监管与可追溯性失效） - 子系统风险： - **记忆模块**：AIA10（记忆幻觉和操纵） - **感知模块**：AIA01（提示词注入与越狱） - **规划模块**：AIA05（幻觉和策略性拒绝） - **行动模块**：AIA11（工具滥用） - **交互模块**：AIA06（多智能体级联故障）、AIA07（协议风险） - **环境与基础设施模块**：AIA08（运行环境风险） #### 3.2 跨模块传导风险 | 风险类型 | 主要模块 | 传导路径 | 影响范围 | |----------|----------|----------|----------| | AIA01 | 感知模块 | 感知→规划→行动→交互→环境 | 内生+环境 | | AIA10 | 记忆模块 | 记忆→规划→行动→交互→环境 | 内生+环境 | | AIA07 | 交互模块 | 交互→规划→行动→基础设施 | 交互+基础设施 | | AIA11 | 行动模块 | 感知→规划→行动→交互→环境 | 内生+环境 | | AIA05 | 规划模块 | 规划→行动→环境 | 内部+环境 | #### 3.3 全生命周期安全风险流转分析 | 生命周期阶段 | 主要风险 | 风险解决方 | |---------------|----------|-------------| | 启动 | AIA09 | 智能体服务提供者 | | 设计与开发 | AIA02、AIA03、AIA09 | 智能体服务提供者、模型算法研发者、智能体开发平台提供者 | | 验证与确认 | AIA01、AIA02、AIA03、AIA06、AIA09、AIA10 | 智能体服务提供者、智能体开发平台提供者 | | 部署 | AIA02、AIA03、AIA04、AIA06、AIA08、AIA09 | 智能体服务提供者、智能体开发平台提供者 | | 运行与监测 | AIA01、AIA02、AIA03、AIA04、AIA05、AIA06、AIA07、AIA08、AIA09、AIA10、AIA11 | 智能体服务提供者、模型算法研发者、智能体开发平台提供者 | | 重新评价/退役 | AIA02、AIA03、AIA04、AIA08、AIA09 | 智能体服务提供者、模型算法研发者、智能体开发平台提供者 | ### 4. 智能体安全标准体系 - **标准化需求**：构建覆盖基础共性、安全管理、关键技术、测试评估和产品与应用的标准化体系框架。 - **标准体系框架**：包含基础共性、安全管理、关键技术、测试评估和产品与应用五个部分。 - **标准演进分析**：智能体标准体系逐步完善，从概念定义到具体技术规范，涵盖身份管理、智能体描述、多模态能力等。 ### 5. 标准工作推进建议 - **构建国家标准体系**：聚焦软智能体，制定涵盖其特有风险的标准化规范。 - **深化国际标准协同**：推动与国际标准的对接，促进技术互操作性。 - **完善标准实施机制**：加强标准的实施与支撑保障，确保标准落地。 ## 国内外标准现状 ### 国外标准 - **ISO/IEC**： - ISO/IEC 22989:2022 定义智能体概念。 - ISO/IEC 23053:2022 规定基于机器学习的AI系统框架。 - ISO/IEC 27090 规定AI系统安全威胁和故障应对指南。 - **ITU-T**： - ITU-T F.748.46 规定智能体的四种能力。 - ITU-T X. sr-ai 是首个智能体安全领域的国际标准草案。 - **IEEE**： - 发布IEEE 7000系列标准，涵盖伦理、算法偏见、透明度等。 - **国际协同**： - 2025年12月，IEC、ISO、ITU在韩国首尔举办“国际人工智能标准峰会”，推动制定可互操作的国际标准。 ### 国内标准 - **TC260（全国网络安全标准化技术委员会）**： - 发布《人工智能安全治理框架2.0》《网络安全技术 人工智能生成合成内容标识方法》等。 - 制定《生成式人工智能服务安全基本要求》《人工智能模型即服务安全要求》等推荐性国家标准。 - **TC28（全国信息技术标准化技术委员会）**： - 发布《人工智能术语》《人工智能平台计算资源规范》等基础标准。 - 推动《人工智能 智能体互联》系列标准，涵盖身份管理、智能体描述、交互协议等。 - **国内标准演进**： - 涵盖AI基础、技术、风险管理、可信赖、治理、产品与应用等多个领域。 ## 总结与展望 - 智能体作为AI系统的重要形态，具备更强的自主性与交互性，也带来新的安全风险，需构建专门的安全标准体系。 - 国内外均在推动AI安全标准化建设，智能体标准体系逐步完善，涵盖从概念定义到具体技术要求的多个层面。 - 未来智能体将在自动驾驶、机器人控制等领域实现更深层次应用，推动跨行业协同与智能化发展。 - 随着大模型与智能体的深度融合，安全标准需覆盖全生命周期，包括数据、模型、工具、环境等维度。