徐可甲：面向智算服务构建下一代可观测Pipeline-39页_5mb

云原生智算服务关键技术

AI在计算机视觉、语音和NLP等领域取得突破，推动各行各业发展，包括自动驾驶。AI服务上云趋势明显，深度学习/AIGC广泛应用容器等云原生技术。云原生架构实现资源池化、弹性伸缩，提升工程效率和性能，支持大规模计算，如千卡GPU任务和PB级数据存储。

智算服务可观测需求与挑战

AI生产环境需要全面监控以确保稳定性，包括GPU坏卡检测、性能优化和资源利用率提升。挑战涉及动态计算需求、资源竞争和环境一致性，需要高效的可观测解决方案来保障服务可靠性和效率。

下一代可观测Pipeline

下一代可观测Pipeline基于LoongCollector数据采集器，具备高性能、稳定可靠、灵活可编程的特点。支持多租隔离、云原生架构和多种数据源接入，提供端到端监控，包含事件驱动模型和原生插件引擎，以满足AI服务大规模数据处理需求。

智算服务可观测Pipeline技术实践

技术实践包括在K8s中的部署，使用LoongCollector实现GPU坏卡检测、日志处理和性能分析。例如，通过DaemonSet或Sidecar模式采集日志，并与SLS后端集成进行可视化告警和分布式训练优化。这种方法解放运维工作，提高系统稳定性和自助服务水平。

未来展望

云原生架构将主导AI计算发展，预计到2025年，超50%企业工作负载将迁移至云原生平台。技术将持续优化，提升云原生AI的资源效率和创新迭代速度，支撑更大规模应用。