【小红书】语义模型在小红书社区搜索的应用_23页_1mb

小红书搜索面临多模态、异构数据及个性化三大核心问题。多模态指需处理文本、图像、视频等多类型内容；异构数据涉及图文笔记、长/短视频、商品、用户评论等不同形式的信息；个性化则要求根据用户偏好提供差异化的搜索结果。针对这些问题，小红书引入语义模型优化搜索流程，涵盖召回、排序及相关性评估等环节。

语义模型的应用分为召回、排序和相关性三部分。召回阶段通过倒排索引和向量召回技术实现：倒排召回基于关键词匹配，如查询“艾尔登法环”返回包含相关关键词的笔记；向量召回利用神经网络计算查询与笔记内容的余弦相似度，综合文本、图片、视频及用户特征进行匹配。召回聚合则整合多种召回结果，提升覆盖范围。

排序阶段采用LTR（Learning to Rank）模型，融合查询词理解、内容质量、时效性、个性化及多样性等多维度因素。其中，相关性打分模型结合文本、图片、视频匹配类特征，评估结果与业务规则（如PostRank）结合，优化排序结果。个性化精排进一步细化用户画像，提升搜索相关性。

语义模型的训练分为三个阶段：预训练、后训练和微调。预训练阶段使用BERT模型，通过MLM（Masked Language Model）任务在文本数据上进行无监督学习，构建深层语言表示。后训练阶段引入BCE（Binary Classification and Next Sentence Prediction）任务，利用用户数据进行监督学习，增强对上下文关系的理解。微调阶段采用回归任务（MSE），基于标注数据调整模型参数，优化相关性预测精度。

在线推理环节通过模型蒸馏减少计算开销，提炼关键信息生成查询摘要（如提取头部N个重要句子，长度压缩至160字符）。量化技术将模型参数从fp32转换为fp16，提升推理效率。此外，训练采用Megatron-LM框架与TensorFlow，通过多机多卡的3D并行策略加速；推理则依赖TFserving与FasterTransformer实现高效部署。

模型训练与评估涉及多模态融合，如Bert+ViT架构，图文部分通过右侧塔单独训练（图像+查询联合优化）。整体方案通过语义理解提升搜索质量，解决传统关键词匹配不足的问题，同时保障多模态数据的高效处理与个性化需求的满足。