QCon-搜索推荐Serverless架构和业务中台技术实践_沈敏-2019.10-31页_10mb

搜索推荐Serverless架构和业务中台技术实践总结

核心内容

阿里巴巴高级技术专家沈敏在本次演讲中分享了搜索推荐中台的技术架构与Serverless实践，重点介绍了如何通过Serverless架构优化业务开发流程、提升系统性能与弹性能力，并结合双11大促场景，探讨了在高并发压力下如何实现算法的自动降级与资源调度。

主要观点

1. 搜索推荐中台架构目标

• 统一业务逻辑：通过标准化架构，支持集团62+BU的业务，覆盖万级别场景。
• 高性能与可扩展性：实现高密度部署与快速弹性，支持百万级QPS，降低开发与运维成本。
• 支持快速迭代：提供灵活的实验机制与快速发布能力，提升算法与业务的敏捷性。

2. Serverless架构实践

• FAAS（Function as a Service）：通过剥离业务开发不关心的问题，聚焦核心逻辑，实现快速开发与部署。
• 资源弹性：支持全时秒级弹性，实现资源的动态调配，应对流量波动。
• 监控与治理：平台提供细粒度监控、限流、降级、负载均衡、容灾等功能，保障系统稳定性。
• 多语言支持：通过GraalVM实现多语言无缝对接，提升前后端一体化研发效率。

3. 双11大促挑战与应对

• 资源与性能瓶颈：面对百万级QPS，算法代码性能缺陷与机器资源缺口成为主要挑战。
• 自动化降级机制：通过4级降级实验配置（L0-L3），根据latency、超时率等指标自动触发降级，保障系统可用性。
• 多租户与流量调度：采用多租户备份机制与智能流量调度，实现资源的高效利用与系统稳定性。

4. 异构调度与性能优化

• 从同构到异构：通过容器与场景的二层调度，实现流量的智能负载均衡与资源的高效分配。
• JVM虚拟化：基于JVM的高密度部署，提升资源利用率，减少冷启动延迟。
• 代码级优化：通过SQL化、异步化、标准化流程模板等方式，降低代码复杂度与开发成本。

关键信息

技术架构组成

Serverless核心优势

• 一键创建函数与资源：简化开发流程，提升效率。
• 秒级监控与报警：支持实时性能反馈与异常处理。
• 全时秒级弹性：实现资源的快速扩缩容，适应流量波动。
• 算法灵活实验：支持AB实验、分层实验、秒级发布与实时效果反馈。

异构调度策略

• 二层调度：从容器到场景的调度方式，提升系统性能与隔离性。
• 流量调度：通过智能负载均衡，实现流量的动态分配与资源优化。

双11实践亮点

• 多租户备份机制：避免冷启动，保障系统稳定性。
• 智能多目标弹性：基于限流率、降级率、超时率、CPU使用率等指标，实现全局与分场景动态水位优化。
• 算法自动降级：在流量高峰时，自动切换到不同级别的降级策略，确保核心业务不受影响。

行业趋势与技术展望

• Serverless成为主流：随着业务复杂度与规模的提升，Serverless架构能够有效降低开发与运维成本，提升系统灵活性。
• 全图化与标准化：通过业务逻辑与物理层解耦，实现复杂业务逻辑的标准化与高效执行。
• AI时代资源紧缺：在AI应用日益普及的背景下，资源的高效利用成为关键，Serverless架构提供了解决方案。

总结

阿里巴巴搜索推荐中台通过Serverless架构的实践，实现了业务逻辑的标准化、资源的弹性调度与算法的快速迭代。在双11大促场景中，通过多租户、流量调度与智能弹性机制，有效应对了高并发带来的挑战，保障了系统的稳定性与性能。未来，随着AI技术的深入发展，Serverless架构将继续在提升业务开发效率、优化资源利用、支持灵活实验等方面发挥重要作用。