电子行业AI+系列专题报告：边缘AI，大语言模型的终端部署，推动新一轮终端需求-20230531-国信证券-25页_2mb

报告摘要

电子AI+系列专题报告总结

核心内容

本报告聚焦于边缘AI的发展趋势，尤其是大语言模型在终端设备上的部署。报告指出，随着大模型参数量级的指数级增长，其在AI2.0时代具备“涌现”能力，即在一定参数阈值后，模型展现出新的能力，如推理和无标注学习能力。同时，模型的训练和推理对硬件的算力、内存和通信提出了更高要求。

主要观点

大模型的参数下限
- AI2.0时代的基础大模型参数规模从十亿到千亿级别。
- 通过自监督学习，模型无需人工标注，可以处理海量数据。
- 参数量达到 $10^9$ 级别被认为是大语言模型的下限。
大模型的参数上限
- 参数的增加需要与训练token数量等比例增长，以实现性能最大化。
- 100B参数模型已能满足大多数任务，但要充分释放潜力需1000B量级的token数据。
- 高质量的数据集是训练大模型的关键，目前主要来源于公开论坛、代码文档、维基百科等。
大模型训练对硬件的挑战
- 训练大模型需要巨大的算力和内存，如GPT-3训练需要约1558颗A100 GPU。
- 推理阶段的算力需求相对较低，但仍需高性能GPU支持，如4至8张A100。
- 随着模型规模增加，内存需求呈指数级增长，需采用优化技术以实现终端部署。
终端部署的必要性
- 降低延迟、减少带宽、提高数据安全和隐私保护、增强可靠性。
- 通过量化、知识蒸馏、剪枝等技术，模型可被优化至适合终端运行。
- 高通通过骁龙8 Gen2实现Stable Diffusion在手机本地的快速推理。
“贾维斯”式智能管家
- 大语言模型有望成为复杂AI系统的控制中心和交互入口。
- 通过调用多个AI模型，实现多功能的智能管家系统。
- Google推出Gecko模型，可在旗舰手机上离线运行，推动终端AI应用发展。
行业趋势与市场影响
- AI+推动新一轮换机潮，旗舰手机芯片成为模型部署的关键。
- 智能音箱、全屋智能中控屏、手机、MR等有望成为AI交互入口。
- 随着AIGC技术发展，AI多模交互能力显著提升。

关键信息

大语言模型的参数增长：从十亿到千亿级别，模型性能随参数和数据量线性增长。
训练与推理的算力需求：训练阶段需求为 $6 \times$ 参数数量 $\times$ 数据规模；推理阶段为 $2 \times$ 参数数量 $\times$ 数据规模。
优化技术：量化、知识蒸馏、剪枝是实现终端部署的关键手段。
终端部署能力：目前仅旗舰手机具备运行优化后大模型的能力，占比约13%。
AI落地场景：包括智能音箱、手机、MR等设备，AI将推动新的交互体验和换机需求。
行业投资建议：部分公司被列为“买入”评级，如晶晨股份、传音控股、歌尔股份等。

产业链相关公司

半导体：晶晨股份、瑞芯微、全志科技、北京君正、兆易创新。
消费电子：传音控股、歌尔股份、福立旺、闻泰科技、创维数字。

风险提示

AI技术发展不及预期：技术进展可能受数据质量、资源限制等因素影响。
边缘端芯片发展不及预期：芯片性能若无法跟上模型发展，将影响终端部署。
AI投资规模低于预期：企业可能因资金或市场因素，对AI领域投资不足。
AI服务器渗透率提升低于预期：AI应用可能因市场接受度或技术瓶颈，未能快速普及。
AI监管政策收紧：监管政策可能限制AI技术的使用，影响业务模式。

图表目录

图1：AI2.0时代的特征
图2：过去五年LLM模型参数快速增长
图3：参数量的指数提升线性提高模型性能
图4：当模型参数量达到一定程度时模型效果会突然提升
图5：小模型的性能也随着规模扩大而逐步提高
图6：2022年最大的五个transformer模型条件
图7：各模型位于LM损失等高线图上的位置
图8：LaMDA模型训练数据来源
图9：静态内存
图10：动态内存
图11：模型大小与设备内存的增长示意图
图12：算力计算公式
图13：近年推出的大预言模型有效算力比率
图14：边缘计算的应用场景
图15：云计算与边缘计算的区别
图16：云计算与边缘计算
图17：边缘AI的数据传输
图18：量化可以降低功耗和占用面积
图19：NVIDIA Turing GPU体系结构中各种数据类型相对的张量运算吞吐量和带宽减少倍数
图20：优化AI完全在终端侧高效运行StableDiffusion
图21：骁龙8Gen2旗舰芯片组15秒出图
图22：知识蒸馏基本框架
图23：单独训练子模型反哺主模型
图24：联邦学习的升级版FedCG
图25：两种经典剪枝方法
图26：剪枝算法流程
图27：钢铁侠和Jarvis
图28：微软亚洲研究院的Jarvis项目
图29：HuggingFaceAI模型写作系统四个步骤
图30：Plugin插件界面
图31：PaLM2的从小到大的四种版本
图32：PaLM2在部分测试中体现出了优异性
图33：ChatGPT App欢迎界面
图34：微软Bing chat应用
图35：2019年美国语音助理市场份额
图36：全球智能音箱市场下滑
图37：语音交互过程示意图
图38：Siri信号流示意图
图39：双通检测（AOP唤醒主CPU）
图40：苹果A11芯片开始搭载NPU
图41：全球手机分处理器频率销量占比
图42：全球手机分价格段销量占比
图43：AIGC支撑AI多模交互
图44：鸟鸟和类ChatGPT模型分身对话
图45：全球AR/VR出货量预测
图46：全球智能家居出货量预测

表格目录

表1：GPT参数和训练集规模快速增长
表2：大语言模型的计算
表3：大预言模型算力测算

重点公司盈利预测及投资评级

公司代码	公司名称	投资评级	昨收盘（元）	总市值（亿元）	EPS 2023E	EPS 2024E	PE 2023E	PE 2024E
688099.SH	晶晨股份	买入	86.36	358.62	1.77	2.23	48.79	38.66
300223.SZ	北京君正	买入	93.77	451.57	1.64	1.87	57.22	50.23
688036.SH	传音控股	买入	127.95	1,028.65	3.09	4.61	41.41	27.73
002241.SZ	歌尔股份	买入	18.29	625.59	0.52	0.76	35.17	24.22
688678.SH	福立旺	买入	18.70	32.42	0.94	1.35	19.89	13.89
600745.SH	闻泰科技	买入	50.08	622.40	0.94	1.35	53.28	37.20
000810.SZ	创维数字	买入	15.74	181.04	0.94	1.35	16.74	11.69