达摩院-人工智能行业：机器翻译在跨境电商的应用与研究_25页_6mb

机器翻译在跨境电商的应用与研究总结

核心内容

本文档主要探讨了机器翻译在跨境电商领域的应用与最新技术探索，由阿里巴巴算法专家杨宝嵩撰写。重点介绍了阿里翻译技术平台的能力、机器翻译在商品展示、买家沟通、商品搜索等场景中的实际应用，以及在模型改进、质量评估、领域适应、个性化翻译等方面的技术创新。

---

主要观点

阿里翻译技术平台概览

• 阿里翻译技术平台在国际评测中表现优异，如WMT21、WMT18等。
• 在多个任务中取得第一，包括Quality Estimation Task、Metrics Task、术语翻译任务等。
• 获得多项奖项，如工信部新一代人工智能重点任务揭榜计划优胜单位、浙江省科学技术进步二等奖。
• 发表60+ CCF A/B类会议/期刊论文，拥有100+项专利。

翻译在跨境电商中的应用

• 商品内容展示：翻译技术被广泛应用于商品标题、价格、评价等信息的多语言展示，支持英语、俄语、阿拉伯语等多种语言。
• 买卖家沟通：实现跨语言的自动翻译，提升沟通效率。
• 商品搜索：支持多语言搜索，提升用户搜索体验。
• 多模态场景：包括图片翻译、直播/视频翻译等，提升商品信息的可理解性与传播效率。

---

关键信息

模型改进：连续语义增强

• 问题：传统离散表示数据增强方法存在数据多样性差、效率低、易产生语义偏移等问题。
• 解决方法：在连续语义空间中扩充训练样本分布，结合邻域风险最小化策略优化翻译模型。
• 效果：在公开数据集上取得SOTA，仅需25%的双语数据即可达到基线效果，显著提升翻译业务转化率。
• 特点：不依赖外部数据，可与离散式数据增强方法结合。

质量评估：UniTE模型

• 问题：不同评估场景（原文-译文、译文-参考译文、原文-译文-参考译文）使用的技术与语料不一致，标注资源利用率低。
• 解决方法：基于区块化Attention掩码的模型结构，结合跨语言预训练与多任务联合训练，实现不同标注资源的知识迁移。
• 效果：在WMT21 Metrics比赛中取得第一。
• 特点：统一评估模型，适用于多种翻译任务与语言对。

领域适应：轻量训练的Adapter与KNN-MT

• 问题：传统Finetuning方法存在灾难性遗忘，需要调整全部参数，部署成本高。
• 解决方法：
  • Adapter：固定上游模型参数，仅调整Adapter参数，实现轻量级领域适配。
  • KNN-MT：无需训练，通过寻找最相似句子并动态干预解码过程，实现领域适配。
• 效果：在多个领域（IT、Koran、Law）中显著提升翻译质量。
• 特点：Adapter部署成本低，KNN-MT无需训练，仅需更新索引。

领域适应：子词知识迁移

• 问题：不同分词粒度的模型在知识迁移方面存在挑战。
• 解决方法：引入Embedding Generator，通过上游任务与蒸馏目标监督生成未见过token的嵌入。
• 效果：在多个任务中提升翻译质量，如M-BERT、Thesis、Laws等。
• 特点：简单易复用，不需修改模型架构。

个性化翻译

• 用户行为引导的机器翻译：
  • 问题：单一翻译结果无法满足所有用户需求。
  • 解决方法：基于用户历史关键词与tfidf分数提取用户表征，结合对比学习策略进行半监督训练。
  • 效果：提升翻译准确性与多样性，BLEU从27.52提升至32.35。
• 无监督多样性翻译：
  • 问题：现有单reference训练导致翻译表达单一。
  • 解决方法：引入Diversity Rewards与Quality Rewards，使用最小风险训练优化模型。
  • 效果：生成更多样化的翻译结果，提升用户体验。
• 用户行为引导的语种识别：
  • 问题：用户输入不规范，多语言歧义问题严重。
  • 解决方法：利用用户历史语种分布与国家属性等信息进行无监督个性化语种识别。
  • 效果：提升语种识别的准确性与适应性。

---

技术成果

• 模型改进：连续语义增强（ACL 22 Outstanding Paper）。
• 质量评估：UniTE（ACL 22）。
• 领域适应：Adapter（NeurIPS 20、EMNLP 20、TASLP 21）、KNN-MT（ACL 21、EMNLP 21、AAAI 22、ACL 22）。
• 子词知识迁移：ACL 21。
• 个性化翻译：用户行为引导的机器翻译（ACL 21）、无监督多样性翻译（NAACL 22）、用户行为引导的语种识别（ACL 22）。

---

参考文献

• ACL 2022：
  • Learning to generalize to More: Continuous Semantic Augmentation for Neural Machine Translation
  • UniTE: Unified Translation Evaluation
  • Unsupervised Preference-Aware Language Identification
  • Efficient Cluster-based k-Nearest-Neighbor Machine Translation
• NAACL 2022：
  • Bridging the Gap between Training and Inference: Multi-Candidate Optimization for Diverse Neural Machine Translation
• AAAI 2022：
  • Non-Parametric Online Learning from Human Feedback for Neural Machine Translation
• ACL 2021：
  • Towards User-Driven Neural Machine Translation
  • Bridging Subword Gaps in Pretrain-Finetune Paradigm for Natural Language Generation
  • Adaptive Nearest Neighbor Machine Translation
• ICLR 2021：
  • On learning universal representations across languages
• EMNLP 2021：
  • Non-Parametric Unsupervised Domain Adaptation for Neural Machine Translation
• NeurIPS 2020：
  • Incorporating BERT into Parallel Sequence Decoding with Adapters
• IEEE-TASLP 2021：
  • Adaptive Adapter: an Efficient Way to Incorporate BERT into Neural Machine Translation

---

联系方式

• 更多交流：yangbaosong.ybs[AT]alibaba-inc.com

---

结论

阿里翻译技术平台在跨境电商中发挥了重要作用，通过多语言商品展示、买卖家沟通、商品搜索等场景的广泛应用，提升了用户体验与业务效率。同时，在模型改进、质量评估、领域适应、个性化翻译等方面进行了深入研究，取得了多项国际顶级会议奖项与技术突破，为机器翻译在实际场景中的落地提供了坚实的技术支持。