半导体行业研究:推理算力需求持续增长,ASIC端侧应用前景广阔_13页_986kb
报告摘要
文档总结
核心内容
随着大模型的持续迭代和参数规模的显著增长,推理算力需求正快速扩容,推动半导体行业向端侧和应用侧发展。文档指出,大模型的商业化进程加快,特别是ChatGPT3.5和Deepseek-R1等模型的推出,使得推理端算力需求显著上升,并带动了ASIC芯片在端侧部署中的应用前景。
主要观点
- 推理算力需求增长:大模型参数规模增加,导致算力需求提升。IDC预测,到2026年,推理服务器的工作负载占比将从2020年的51.5%上升至62.2%,中国人工智能服务器工作负载结构中的推理算力占比也呈上升趋势。
- 大模型平价化趋势:Deepseek-V3模型通过算法优化,显著降低了训练成本,仅为GPT-4o的十分之一。这为端侧和应用侧的大模型商业化提供了更广阔的空间。
- ASIC芯片的优势:ASIC芯片专为神经网络推理和矩阵运算设计,相较于GPU在功耗、可靠性、性能和成本等方面具有显著优势,更适合端侧和用户侧的部署。
- 终端市场潜力:本地推理需求增加,推动ASIC芯片市场增长,其应用场景涵盖智驾、AI眼镜、智能家居、智慧安防、智慧办公等多个领域。
- 市场增长预测:全球ASIC芯片市场规模预计从2021年的199亿美元增长至2025年的462亿美元,年复合增长率达23.4%。
关键信息
推理算力需求扩容
- 大模型参数规模持续增加,推动算力需求增长。
- ChatGPT3.5的商业化成功带动了大模型用户数量的快速上升。
- Deepseek-R1在短时间内实现用户数量的爆发式增长,验证了大模型平价化对端侧和应用侧的利好。
- 推理成本显著低于训练成本,推动更多应用场景落地。
ASIC芯片发展前景
- ASIC芯片专为特定任务设计,具备低功耗、低成本、高可靠性等优势。
- GPU虽然通用性强,但能耗高,难以满足终端设备的使用需求。
- 随着AI产品在端侧和应用侧的商业化,ASIC芯片市场需求将快速增长。
主要模型参数规模对比
| 模型 | 发布时间 | 开发者 | 参数规模(十亿) |
|---|---|---|---|
| GPT-1 | 2018 | OpenAI | 1.17 |
| BERT | 2018 | 3.40 | |
| GPT-2 | 2019 | OpenAI | 15.00 |
| Fairseq | 2020 | Meta | 130.00 |
| GPT-3 | 2020 | OpenAI | 1750.00 |
| GlaM | 2021 | 1200.00 | |
| LaMDA | 2022 | 1370.00 | |
| SparkDesk | 2023 | iFLYTEK | 1700.00 |
| GPT-4 | 2023 | OpenAI | 17600.00 |
| Grok 3 | 2025 | xAI | 12000.00 |
| GPT-5 | 2025 | OpenAI | 20000.00 |
Deepseek-V3训练成本
| 项目 | H800 GPU小时(万) | 美元(百万) |
|---|---|---|
| 预训练 | 2664.000 | 5.328 |
| 上下文扩展训练 | 11.900 | 0.238 |
| 后训练 | 0.500 | 5.576 |
| 总训练成本 | - | 557.6 |
英伟达主流产品能耗
| 型号 | 能耗 (W) |
|---|---|
| GeForce RTX 5090 | 575 |
| GeForce RTX 5080 | 360 |
| GeForce RTX 5070 Ti | 300 |
| GeForce RTX 5070 | 250 |
| GeForce RTX 4090 | 425 |
| GeForce RTX 4080 | 320 |
| GeForce RTX 4070 Ti | 285 |
| GeForce RTX 4070 | 200 |
投资建议
- 芯原股份:提供平台化、一站式芯片定制服务,覆盖消费电子、汽车电子、工业、物联网等多个领域。
- 寒武纪:产品线覆盖云端、边缘端和终端场景,终端智能处理器IP已出货过亿台,云端和边缘智能芯片也已实现量产出货。
风险提示
- 技术迭代风险:大模型和芯片技术更新迅速,可能影响现有产品竞争力。
- 下游需求不及预期风险:AI商业化进程可能受市场接受度、政策等因素影响。
- 中美贸易摩擦加剧风险:国际贸易环境变化可能影响芯片供应链和市场拓展。
市场前景
- ASIC芯片市场预计将在2025年达到462亿美元,年复合增长率23.4%。
- 随着AI在端侧和应用侧的商业化,ASIC芯片将在更多领域实现广泛应用。
分析师信息
- 吴起涤:执业登记编号 A0190523020001,邮箱 wuqidi@yd.com.cn
- 赵毅轩:执业登记编号 A0190124060001,邮箱 zhaoyixuan@yd.com.cn
图表目录
- 图1:云端部署、边缘部署、终端部署
- 图2:训练与推理环节的性能需求不同
- 图3:中国人工智能服务器工作负载预测,2020-2026
- 图4:参数量与大模型性能
- 图5:增长1亿用户花费时间
- 图6:推理模型输入输出价格(元/1M Tokens)
- 图7:GeForce RTX 50
- 图8:ASIC芯片性能优势
- 图9:2021-2025EASIC全球市场规模(亿美元)
- 图10:2020-2024营业总收入(亿元)
- 图11:2020-2024扣非归母净利润(亿元)
- 图12:2020-2024营业总收入(亿元)
- 图13:2020-2024扣非归母净利润(亿元)
公司简介
- 芯原股份:提供半导体IP授权和芯片定制服务,覆盖多个行业应用。
- 寒武纪:专注于智能芯片研发,产品线覆盖云端、边缘端和终端场景。
结论
推理算力需求持续增长,推动ASIC芯片在端侧市场的广泛应用。随着大模型平价化趋势,AI产品在多个领域的商业化前景广阔,ASIC芯片具备显著的市场潜力。建议关注芯原股份和寒武纪等具备丰富产品矩阵和广泛应用场景的企业。同时,需关注技术迭代、下游需求和中美贸易摩擦等风险因素。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载