大模型时代下的安全挑战及应对_24页_6mb

大模型安全领域正在快速发展，相关政策和标准不断完善。近年来，腾讯在AI大模型安全方面表现突出，2024年在专项实网演练中未失分，并在沙盘推演中获奖。2025年，近200家已备案企业必须参加国家级攻防演练，法规如《互联网信息服务算法推荐管理规定》、《生成式人工智能服务管理暂行办法》等强调备案和安全评估要求。

核心风险包括模型开发、训练和部署阶段的问题，如开发环境漏洞、数据投毒、提示词攻击、越狱攻击、模型后门等。腾讯总结了六大主要风险路径，并提出相应解决方案，如LLM-WAF防护网关，用于检测注入攻击和敏感数据泄露，确保大模型服务的安全稳定运行。

总体而言，大模型安全涉及本体、应用和赋能三个维度，需通过风险评估、安全运维和防护产品（如数据过滤引擎、内容安全大模型）来应对挑战，促进合规和可持续发展。