大语言模型在推荐系统应用现状与初步探索-31页_3mb

推荐系统如何从大语言模型中取长补短

背景与问题：

1. 传统推荐系统缺点：
   • 模型较小，时间空间开销低
   • 仅能利用数据集内知识，缺乏语义信息和深度意图推理
2. 大语言模型优缺点：
   • 引入外部知识，语义信号丰富；具备跨域推荐能力
   • 计算复杂度高，难以处理海量样本；缺少协同信号
3. 核心研究问题：
   • 推荐系统如何结合大模型提升性能
   • 拆解为"何处应用"(WHERE)"如何应用"(HOW)两个问题

何处运用大语言模型：

1. 推荐系统五阶段流程：
   • 数据采集
   • 特征工程
   • 特征编码
   • 打分排序
   • 流程控制
2. 典型应用场景：
   • 特征工程：用户画像增强、内容理解、样本扩充
   • 特征编码：增强文本表征、提升跨场景迁移能力
   • 打分/排序：物品评分、生成、混合任务
   • 流程控制：对话式推荐流程设计

如何运用大语言模型：

1. 两大应用趋势：
   • 模型层面：融合传统推荐模型(CRM)
   • 数据层面：引入推荐场景数据进行微调
2. 技术方案：
   • KAR框架：
     • Factorization Prompting分解用户兴趣
     • 知识适配器网络处理文本信息
     • 表现：AUC平均提升15%
   • CTRL框架：
     • 跨模态知识对齐
     • 监督微调优化推荐效果
     • 推理时延显著降低

挑战与展望：

1. 工业应用瓶颈：
   • 训练效率：显存耗费大、训练时间长
   • 推理时延：难以满足实时需求
   • 长文本建模：受上下文窗口限制
   • ID特征缺失：纯ID信息无法被模型理解
2. 应用前景：
   • 缓解稀疏场景：提升冷启动和长尾问题解决能力
   • 引入外部知识：丰富信息类场景的物品表征
   • 交互体验优化：用户主动需求描述实现精准推荐
   • 推荐流程重构：跨域知识融合增强推荐效果