2025年LLM间接提示注入漏洞解析与防御路线报告_22页_5mb

LLM间接提示注入漏洞解析与防御

大语言模型（LLM）的安全风险日益突出，尤其是在间接提示注入（IPI）攻击方面。OWASP 2025发布的LLM top 10安全问题中，“提示注入排名第一，反映了该漏洞的严重性。IPI攻击通过隐藏恶意指令在外部内容（如文档、邮件或网页）中，由模型在解析上下文时自动执行，导致模型执行非预期操作。攻击成功率（ASR）远高于直接注入。

攻击原理涉及模型无法区分指令与数据，且缺乏“忽略外部数据中指令”的意识。真实案例显示，论文中有人故意植入指令操控AI评审，造成全球多所大学发表含有AI指令的论文。其他案例包括Copilot等AI工具被攻击者操控，窃取个人数据、利用对话记录进行钓鱼等。

防御对策包括输入过滤、加强指令结构解析和模型微调。输入过滤阶段对潜在恶意指令进行拦截，指令结构强化提升模型对合法请求的识别能力，模型自身通过RLHF和安全训练增强对复杂场景的应对。结合检测机制，如内容安全、敏感信息泄露防护和URL过滤，可有效降低攻击风险。

总体而言，IPI攻击是AI时代的新威胁，需要从技术、流程和教育多方面加强防御，确保LLM的广泛应用安全可靠。