深度学习技术选型白皮书（2018_年）_37页_1mb

深度学习技术选型白皮书总结

核心内容

本白皮书由中国人工智能产业发展联盟发布，旨在为企业和开发者提供深度学习技术选型的参考依据。白皮书围绕深度学习训练框架、推断框架及技术生态工具集三个维度，系统梳理了当前深度学习技术体系，并提出了选型指标体系。同时，对产业界在深度学习应用中面临的问题与趋势进行了分析。

主要观点

• 深度学习框架是人工智能产业化落地的核心：深度学习框架不仅封装了算法，还提供了数据调用、计算资源管理等关键功能，是人工智能技术体系的重要支撑。
• 开源框架是当前主流选择：大多数企业采用开源框架进行深度学习开发，以降低技术门槛、提升开发效率和灵活性。
• 训练与推断框架需分别考虑：训练框架更关注算力、分布式计算、模型优化等；推断框架则更注重效率、实时性、跨平台适配及能耗优化。
• 技术生态工具集是深度学习应用的重要支撑：包括编译中间件、数据与模型表示格式、可视化工具、模型压缩优化工具等，有助于解决模型部署与优化中的难题。
• 产业对深度学习框架提出了更高的需求：包括模型复用、跨平台支持、硬件适配、性能优化等，当前框架在这些方面仍存在不足。

关键信息

一、深度学习软件框架发展概述

• 深度学习框架分为云端训练、云端推断和端侧推断三种应用场景。
• 云端训练框架对算力要求高，需支持分布式计算和工业级模型。
• 云端推断框架注重效率与并发性，端侧推断框架则需兼顾性能与能耗。

二、深度学习训练框架技术选型

1. 应用现状

• TensorFlow：生态成熟，功能完备，支持多种算法，适合大规模应用。
• Caffe/Caffe2：在计算机视觉领域表现优异，适合快速训练和部署。
• PaddlePaddle：支持中文处理，工业性能优异，适合复杂业务部署。
• MXNet：性能优异，支持多语言，适合产品化和部署。
• Keras：易用性强，适合快速开发和实验验证。

2. 产业新需求

• 开源框架难以满足实际生产需求，需进一步工程化。
• 模型迁移与跨平台适配存在困难，需统一数据格式和模型表示。
• 硬件平台与框架耦合度高，需提升底层优化能力。

3. 选型指标体系

• 生态建设：支持的编程语言、教程文档、核心开发者活跃度。
• 易用性：模型复用、高级语言支持、自定义扩展、跨平台能力。
• 性能：并发性、稳定性、特征规模、模型优化能力。
• 支持架构：硬件加速支持、虚拟环境适配。
• 安全性：模型加密、系统安全。

三、深度学习推断框架技术选型

1. 应用现状

• 推断框架分为移动端和服务器端两类，移动端框架如TensorFlow Lite、Core ML、Paddle-mobile、NCNN等，服务器端则以TensorRT为主。
• 推断框架存在碎片化问题，兼容性差，缺乏统一标准。

2. 产业新需求

• 推断框架需支持多硬件并行处理。
• 模型部署需适应不同终端，如嵌入式设备、手机、服务器等。
• 推断框架与训练框架存在不兼容问题，需统一模型表示和接口。

3. 选型指标体系

• 易用性：模型优化、通用模型支持、跨平台部署。
• 性能：推断速度、启动时间、资源占用、功耗。
• 底层优化：对不同硬件（如CPU、GPU、FPGA）的支持、指令集优化。
• 安全稳定性：模型加密、系统安全。

四、深度学习技术生态工具集

• 深度学习编译中间件：如CUDA、Intel Inference Engine、NNVM/TVM，用于解决模型部署与硬件适配问题。
• 数据及模型表示格式：如TFRecord、RecordIO、ONNX、NNEF，支持跨框架模型迁移。
• 可视化工具：如TensorBoard、VisualDL、Facets，用于训练过程监控与分析。
• 标准模型算法资源库：如TensorFlow Model Zoo、PyTorch Model Zoo，提供常用模型及算法支持。
• 模型压缩优化工具集：如PocketFlow，支持模型剪枝、稀疏化、量化、网络蒸馏等技术，提升模型效率与性能。

五、趋势展望

• 安全性：开源框架需加强数据安全与模型保护机制。
• 资源共享：需推动封装后的资源实现共享，降低重复开发成本。
• 数据前处理：框架需增强对工业数据的处理能力，如清洗、结构化等。
• 运算效率：需优化分布式训练与模型部署的效率。
• 定制化支持：需提升框架对特定业务场景的适配能力。
• 工程化特性：需完善训练、推断、可视化、模型发布等功能。
• 统一中间表示层：目前缺乏统一标准，需推动统一中间层的建立。

六、合作机构

本白皮书由以下机构共同参与起草和发布：

• 中国信息通信研究院
• 中兴通讯股份有限公司
• 华为技术有限公司
• 杭州海康威视数字技术股份有限公司
• 北京百度网讯科技有限公司
• 中国移动通信有限公司
• 中国联合网络通信有限公司
• 中国联通网络技术研究院
• 航天云网科技发展有限责任公司
• 中国航天科工集团第三研究院第三总体设计部
• 小米科技有限责任公司