AI全行业赋能系列深度研究之五：领军路径分歧，更大的模型还是更低的成本？-20211213-申万宏源-70页_3mb

领军路径分歧：更大的模型还是更低的成本？

核心内容

本文探讨了AI行业在发展过程中面临的两大核心路径选择：更大的模型和更低的成本。重点分析了AI平台层、大模型趋势、主要AI公司布局、以及深度学习框架的发展现状与挑战。同时，介绍了各大AI公司如商汤科技、旷视科技、华为、谷歌、微软等在平台自研、AI芯片适配、模型优化等方面的策略与实践。

主要观点

• AI大模型成为趋势：以GPT为代表的大模型能够通过大规模预训练降低对数据量的需求，适用于长尾场景，但对存储和算力要求极高，普通机构难以复现。
• 大模型优势与局限：大模型具备更强的泛化能力和多任务处理能力，但在某些特定任务上表现可能不如小模型，且存在计算资源瓶颈。
• 小模型与低成本路径：适合硬件基础薄弱、需求不统一的行业，通过自有生产线、小算力和中台复用等方式降低成本。
• AI平台层的重要性：平台层包括训练框架、推理部署框架、数据平台和模型生产平台，是AI生态发展的关键。
• 深度学习框架的演进：TensorFlow、PyTorch、MXNet、CNTK等主流框架已能满足大部分开发者需求，但存在技术遗留问题，如静态图与动态图的优劣、性能与易用性的取舍。
• 国产平台的潜力：国产平台在技术适配性、中文环境支持等方面具备优势，但在社区规模、生态成熟度上仍需提升。

关键信息

AI产业链

• 从算力（AI芯片、AIDC超算中心）到应用（AI+安防、AI+金融、AI+汽车等）。
• 平台层是AI大规模应用的基础，包括训练框架、推理框架、数据平台和模型生产平台。

AI大模型趋势

• GPT系列：OpenAI的GPT-3具有1750亿参数，能够处理多种NLP任务，如翻译、问答、数学运算等。
• MT-NLG：微软与英伟达联合推出，参数量达5300亿，适用于多种语言模型任务。
• Switch Transformers：通过MoE稀疏结构实现高效扩展，参数量达1.6万亿，适用于自然语言推理和数学运算。
• 盘古大模型：华为推出的最大中文语言预训练模型，参数量达千亿，支持自然语言处理和计算机视觉。

深度学习框架对比

框架	支持分布式	支持移动端	编程范式	计算图类型	社区支持	适用场景
TensorFlow	√	√	声明式	静态计算图	Google	工业界、大规模部署
PyTorch	√	√	命令式	动态计算图	Facebook	学术界、快速原型设计
MXNet	√	√	命令式	动态计算图	Amazon	云端分布式部署
CNTK	√	×	声明式	静态计算图	Microsoft	简单易用、特定场景
Theano	×	×	声明式	静态计算图	×	已不维护
Caffe	×	×	声明式	静态计算图	×	图像处理
Caffe2	√	√	声明式	静态计算图	×	工业界、轻量化部署

AI明星公司布局

• 商汤科技：SenseCore大模型 + 小模型，降低AI应用落地成本。
• 旷视科技：Brain++平台支撑跨行业AIoT解决方案。
• 华为：MindSpore框架 + 华为昇腾AI芯片，支持云边端协同。
• 百度：PaddlePaddle开源框架，支持中文环境，具备较强的工业适配能力。
• 清华大学：Jittor计图，支持易用性、可定制性与高性能。

AI碎片化应对路径

• 更大模型路径：适合硬件外采、需求标准化程度高、产业链分工成熟的行业。
• 更低成本路径：适合硬件基础差、需求不统一、产业链尚未成熟的行业。

技术与生态

• AI芯片性能公式：AI芯片整体性能 = AI芯片硬件性能 × (算子库和工具链 + 深度学习框架支持)。
• 生态壁垒：软硬件高度耦合导致生态壁垒，突破需依赖框架与芯片的协同优化。
• 开源框架优势：TensorFlow、PyTorch等开源框架具备规模化效应，形成生态标准。
• 国产框架潜力：在中文环境、国产芯片适配、特定场景优化等方面有发展空间。

深度学习框架发展趋势

• 动态图 vs 静态图：动态图（如PyTorch）调试方便但难以全局优化；静态图（如TensorFlow）优化能力强但调试困难。
• 多语言支持：主流框架均支持Python，部分支持C++、R、Lua等。
• 性能优化：通过分布式训练、异步接口、内存优化等提升框架效率。
• 社区与生态：TensorFlow和PyTorch分别代表工业界与学术界，具备强大的社区支持。

总结

AI行业正面临两大发展方向的抉择：构建更大模型以提升泛化能力和多任务处理能力，或采用低成本路径以适应不同行业需求。主流深度学习框架如TensorFlow、PyTorch、MXNet、CNTK已能满足大部分需求，但仍有优化空间。国产平台在中文环境支持、芯片适配等方面具备优势，但需进一步提升生态成熟度。AI大模型虽在技术上取得突破，但对算力和存储要求极高，仅限于大企业复现。而小模型和低成本路径则更适合资源有限的场景。AI平台层的发展将决定未来AI生态的走向，各大公司正通过自研框架和平台来争夺这一战略高地。