2026网络安全标准实践指南智能体部署使用安全指引_19页_562kb
报告摘要
网络安全标准实践指南——智能体部署使用安全指引总结
核心内容
《网络安全标准实践指南——智能体部署使用安全指引》是由全国网络安全标准化技术委员会秘书处发布的标准技术文件,旨在为智能体的部署与使用提供系统性的安全指引,覆盖评估、准备、部署、使用、停用等全生命周期阶段。该文件适用于各类组织和个人在部署智能体时的安全风险防范,也可作为选择商业或开源智能体服务的参考依据。
主要观点
- 安全生命周期管理:智能体的部署使用应贯穿其整个生命周期,包括评估、准备、部署、使用和停用阶段,每个阶段都有明确的安全要求。
- 安全防护优先:在部署使用智能体时,应优先考虑其内置安全机制,如安全沙箱、权限管理、日志审计等,避免使用缺乏基础安全机制的智能体。
- 最小权限原则:智能体应仅授予完成任务所必需的最小权限,防止越权操作和滥用。
- 供应链安全:应关注智能体的技能、工具等组件的来源与安全性,避免引入存在高危漏洞或未修复问题的组件。
- 风险控制机制:应建立高风险操作清单,对关键操作进行二次确认或直接阻断,防止因误操作或恶意行为引发安全事件。
- 数据与隐私保护:在使用智能体时,应遵循最小必要原则,避免泄露敏感信息,如生物特征、家庭隐私、知识产权内容等。
- 持续监控与更新:应持续关注智能体运营方和安全企业发布的安全公告,及时采取应对措施,如升级、降级或锁定版本。
关键信息
1. 范围
- 本文件为智能体部署使用的安全指引,适用于智能体安全风险防范和商业智能体服务选择。
2. 规范性引用文件
- 引用了《GB/T 25069 信息安全技术 术语》作为术语和定义的基础。
3. 术语与定义
- 智能体(Agent):具备自主感知、记忆、决策、交互与执行能力的智能系统,通常为软件系统。
- 工具(Tools):智能体调用外部能力的标准化接口,定义了执行原子操作的名称、输入参数和返回结果。
- 技能(Skills):封装了完成特定任务的最佳实践、操作流程和领域知识的标准化指令集合。
4. 缩略语
- API:应用程序编程接口(Application Programming Interface)
- IP:网际互连协议(Internet Protocol)
5. 概述
- 用户在部署和使用智能体时,应参照本文件的安全指引,进行安全防护,并结合附录A进行安全检查。
- 如发现安全问题,应及时根据相关章节进行安全加固。
- 组织应依据附录B建立安全管理机制,防范内部人员带来的安全风险。
6. 评估阶段
- 明确使用目的:评估智能体在任务中的必要性与合理性。
- 了解技术特性与安全风险:包括智能体能力边界、技术特性、安全风险,以及开源与商业智能体的差异。
- 选择安全智能体:优先选择自带安全机制的智能体,避免选择存在重大安全隐患的项目。
- 检查维护状态:智能体项目若超过一个月无维护、存在未修复漏洞或已停止维护,不应选择。
7. 准备阶段
- 获取合法安装物料:应从官方渠道获取安装文件,避免使用来源不明的物料。
- 验证安装物料真实性:通过数字签名、杂凑值等方式确保安装物料未被篡改。
- 部署环境隔离:本地、虚拟化、云环境部署应分别采取安全隔离措施。
- 选择安全大模型:应选择已备案的大模型,优先采用本地化部署,确保接口安全。
- 增强安全机制:对智能体和大模型的安全机制进行差距分析,并通过工具或服务增强防护能力。
8. 部署阶段
- 避免来源不明部署脚本:应通过官方文档或核验的部署脚本进行部署。
- 限制网络暴露:配置为仅本机可访问,确需开放公网接口时应加密访问并限制来源。
- 日志记录:开启日志记录功能,记录文件操作、指令执行、网络活动等行为。
- 插件安全:安装前应检查插件来源可靠性,避免安装存在高危漏洞或无关插件。
- 权限最小化:不应使用管理员权限运行智能体,应仅授予任务所需的最小权限。
9. 使用阶段
- 安全复查:应复查智能体的安装与配置情况,确保用户能有效管理其运行状态。
- 技能安全:应使用来源可靠的技能,进行安全测试,并做好风险防范。
- 数据保护:避免提供未授权的第三方数据及敏感信息,确保个人信息安全。
- 网络访问安全:定期检查公网接口的必要性和安全性,及时关闭非必要接口。
- 数据备份与管理:定期备份有价值数据,管理长期记忆文件,防止信息泄露。
- 权限清理:及时回收敏感权限,清理不再使用的技能和对话记录。
- 安全告警响应:应核查安全工具与服务的告警信息,及时处理潜在威胁。
- 关注安全公告:应持续关注智能体运营方和安全企业发布的安全公告,及时响应。
10. 停用阶段
- 停止运行:应彻底停止智能体主程序及关联服务。
- 数据备份与清理:在卸载前,应对需保留的数据进行备份与转存。
- 环境清理:根据部署方式,执行相应的环境清理操作,包括删除相关文件、撤销权限、关闭接口等。
附录信息
附录 A:安全检查清单
- 提供了部署使用各阶段的检查项,包括评估、准备、部署、使用、停用等,帮助用户系统性地进行安全检查。
附录 B:安全管理指引
- 管理制度:应建立智能体使用管理制度,明确禁止行为、使用边界、审批流程。
- 资产登记:建立智能体资产登记表,记录智能体、部署信息、开发者、模型、工具、访问控制、授权信息和审查记录。
- 行为监控:对关键活动进行日志记录,并进行风险分析。
- 发现未审批智能体:通过扫描端口、分析流量、识别API通信、检索进程等方式发现未审批智能体。
- 员工安全教育:提升员工对智能体安全风险的认知,包括提示词注入攻击、凭证泄露、数据泄露等。
总结
该《实践指南》为智能体的部署与使用提供了系统性、全面性的安全指引,强调了全生命周期管理、最小权限原则、数据保护、风险控制和持续监控等关键安全措施。通过附录A和附录B,进一步细化了安全检查和管理要求,有助于组织和个人在智能体使用过程中有效防范安全风险,确保系统和数据的安全性。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载