20181029-中国人工智能产业发展联盟-人工智能行业_深度学习技术选型白皮书(2018年)_37页_1mb
报告摘要
深度学习技术选型白皮书总结
核心内容
本白皮书由中国人工智能产业发展联盟发布,旨在为企业在深度学习技术选型中提供参考依据,同时为开源框架服务及产品评估提供标准。白皮书围绕深度学习训练框架、推断框架及技术生态工具集三个维度,系统分析了当前技术应用现状、选型考虑及发展趋势。
主要观点
-
深度学习框架是人工智能产业化落地的核心
- 软件框架封装了深度学习算法,实现数据调用与计算资源使用,是AI技术实现的重要桥梁。
- 企业选择开源框架为主流,闭源框架仅用于技术壁垒构建。
-
深度学习框架分类
- 按应用场景分为云端训练、云端推断、端侧推断。
- 不同场景对框架的功能、性能及优化要求不同。
-
训练框架选型考虑
- 指标体系分为生态建设、易用性、性能、支持架构及安全稳定性五大类,每类包含二级及三级指标。
- 企业需综合考虑框架的灵活性、易用性、性能及兼容性。
-
推断框架选型考虑
- 指标体系包括易用性、性能、底层优化及安全稳定性,重点考量推断速度、资源占用及跨平台支持。
- 推断框架存在碎片化问题,尚未形成统一标准,企业需根据硬件环境选择合适的框架。
-
技术生态工具集
- 编译中间件、数据及模型表示格式、可视化工具、标准模型资源库及模型压缩优化工具集是提升AI开发效率和部署能力的重要支撑。
- 编译器对模型适配和优化至关重要,目前缺乏统一的中间表示层标准。
关键信息
一、深度学习训练框架
1. 主流训练框架
- TensorFlow:生态成熟,功能完备,支持多种算法和硬件加速,适合大规模应用。
- Caffe/Caffe2:在计算机视觉领域表现优异,支持多GPU训练,适合图像识别类任务。
- PaddlePaddle:国内自主研发,支持大规模数据处理,具备良好的中文支持。
- MXNet & Keras:适合快速开发与产品迭代,Keras在易用性方面表现突出。
2. 产业新需求
- 框架生态碎片化,模型复用率低。
- 跨平台适配与硬件优化不足。
- 安全性问题突出,尤其是第三方库的使用与数据可控性。
3. 优秀案例
- TensorFlow:用于智慧城市交通系统、机械轴承智能诊断等。
- Keras:用于运营商固定宽带离网预测,开发效率高。
- PaddlePaddle:用于广告推荐、图像OCR等业务。
- Caffe:用于目标检测,支持Faster R-CNN等经典算法。
二、深度学习推断框架
1. 应用现状
- 推断框架体系碎片化,各平台支持不同。
- 云端推断以GPU为主,终端推断则依赖CPU、FPGA等硬件优化。
2. 选型考虑
- 易用性:模型优化、跨平台支持、数据格式兼容性。
- 性能:推断速度、启动时间、资源占用、功耗。
- 底层优化:针对不同硬件的专属优化支持。
- 安全稳定性:模型加密、系统稳定性保障。
3. 优秀案例
- HiAI:面向移动终端,提供在线、离线推理及端侧训练能力,支持多种算子。
- TensorFlow 推断:用于工业轴承故障预测,实现高精度健康评估。
- PaddlePaddle & TensorFlow 推断优化:通过模型优化策略实现性能显著提升。
三、深度学习技术生态工具集
-
深度学习编译中间件
- 编译器需支持多框架、多硬件优化,如CUDA、Intel Inference Engine、NNVM/TVM。
- 缺乏统一的中间表示层标准,影响模型迁移与部署。
-
数据及模型表示格式
- 不同框架使用不同数据格式(如TFRecord、RecordIO)。
- ONNX与NNEF作为两大阵营的模型表示标准,推动跨框架模型转换。
-
深度学习可视化工具
- TensorBoard为行业主流工具,VisualDL兼容PaddlePaddle等主流框架。
- 工具帮助开发者分析数据分布、模型训练过程等。
-
标准模型算法资源库(Model Zoo)
- 各大平台提供多种模型,如TensorFlow Hub、TensorFlow Models、PyTorch、MXNet等。
- 提供从数据集到模型训练的全流程案例。
-
模型压缩优化工具集
- 包括通道剪枝、权重稀疏化、权重量化、网络蒸馏等。
- 腾讯的PocketFlow等工具实现了模型压缩与加速。
趋势展望
- 安全问题:需加强数据安全与模型保护。
- 资源共享:封装后的资源需实现更高效的共享。
- 数据前处理:需提升框架对工业数据的兼容与处理能力。
- 运算效率:需优化分布式训练与模型部署效率。
- 定制化与工程化:框架需更灵活以适应工业定制化需求,同时增强工程化特性。
- 中间表示层统一:推动统一中间层标准,解决模型迁移与部署难题。
合作机构
- 中国信息通信研究院
- 中兴通讯股份有限公司
- 华为技术有限公司
- 杭州海康威视数字技术股份有限公司
- 北京百度网讯科技有限公司
- 中国移动通信有限公司
- 中国电信股份有限公司
- 中国联通网络技术研究院
- 航天云网科技发展有限责任公司
- 中国航天科工集团第三研究院第三总体设计部
- 小米科技有限责任公司
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载