2025年DeepSeek与AI幻觉研究报告-清华大学_38页_3mb

AI幻觉分析总结

一、AI幻觉定义

• 事实性幻觉：模型生成与事实不符的内容
• 忠实性幻觉：未忠实于用户意图或上下文
• 逻辑性幻觉：输出内容逻辑失真或脱离现实

二、产生原因

1. 数据偏差与知识固化
2. 泛化能力不足
3. 用户指令模糊导致自由发挥
4. 推理能力增强导致逻辑过度外推

三、评测结果显示

四、幻觉应对策略

（一）三种用户应对方式

1. 联网搜索（幻觉率降低明显）
2. 多模型协作验证
3. 提示词工程：
   • 知识/时间锚定技术
   • 生成参数协同控制（如设定 temperature=0.3）
   • 对抗性提示形成自我审查机制

（二）技术性解决方案

• 检索增强生成（RAG）框架
• 结合垂直领域知识库
• 多阶段精细化模型训练

五、特定高发场景

• 未来事件预测（极高风险）
• 开放域创意写作（高风险）
• 多跳复杂推理任务（高风险）
• 联网条件下的专业输出

六、幻觉的创造力价值

1. 科学领域：
   • 诺贝尔化学奖蛋白质结构设计案例
   • AI“错误”催生创新突破
2. 文艺创作：
   • 艺术表达突破人类思维定式
   • 创造新型叙事范式
3. 技术应用：
   • 图像分割任务中虚幻边界提升系统性能
   • 构建实验验证与理论重构的新研究流程

AI幻觉代表着模型理性逻辑与人类创造性思维的交叉地带，既需警惕其风险，也应珍视其可能带来的创新突破。