软件与服务行业:深度解析训练及推理AI芯片需求及壁垒_21页_2mb
报告摘要
AI芯片需求及壁垒深度报告总结
核心内容
本报告深度解析了AI芯片在训练与推理场景中的需求差异及行业壁垒,强调了算力在人工智能发展中的核心地位。AI芯片主要分为训练芯片和推理芯片,分别满足不同的应用场景与性能需求。随着生成式AI技术的突破,AI芯片市场迎来快速增长,成为全球科技竞争的新焦点。
主要观点
- AI芯片分类:AI芯片按用途分为训练芯片和推理芯片,按部署位置分为云端、边缘/终端芯片。
- 算力需求指标:模型参数规模、数据量和模型数量是衡量算力需求变化的三个核心指标。
- 训练芯片特点:需要高计算性能、高精度、可扩展性,以及高内存带宽,适合云端训练。
- 推理芯片特点:注重低时延、低功耗和高能效,适合边缘/终端部署。
- 市场格局:英伟达在训练芯片领域占据绝对优势,推理芯片市场则更加分散,华为昇腾作为国产算力领军者,正在构建强大的AI芯片生态。
关键信息
训练与推理需求差异
| 领域 | 芯片类型 | 特点 | 应用场景 |
|---|---|---|---|
| 训练 | GPU、ASIC | 高吞吐量、高精确率、可扩展性、高内存和带宽 | 云、HPC、数据中心 |
| 推理 | GPU、ASIC、FPGA | 低延时、低功耗、高能效 | 自动驾驶、智慧安防、消费电子、物联网 |
代表厂商对比
| 厂商 | 代表芯片 | 应用场景 | 算力(@FP16) | 显存带宽 | 互联带宽 |
|---|---|---|---|---|---|
| 英伟达 | A100、H100 | 训练、推理 | 312 TFLOPS、1979 TFLOPS | 2039 GB/s | PCIe 5.0: 128GB/s, NVLink: 900GB/s |
| 华为昇腾 | 昇腾310、昇腾910 | 训练、推理 | 320 TFLOPS、8 TFLOPS | - | - |
| AMD | Instinct MI250X、MI210 | 训练、推理 | 383 TFLOPS、181 TFLOPS | 3276.8 GB/s | 100 GB/s |
| 海光 | 8100系列 | 训练 | - | 1024 GB/s | - |
| 壁仞科技 | BR100、BR104 | 训练、推理 | - | - | 448GB/s、192GB/s |
| 寒武纪 | MLU270、MLU370 | 训练、推理 | - | 102GB/s、614.4GB/s | 200GB/s、600GB/s |
| 摩尔线程 | MTT S80、S3000、S2000 | 训练、推理 | - | 448GB/s | - |
| 遂原 | 云燧 T20、T10、i20 | 训练、推理 | 128 TFLOPS、80 TFLOPS | 1.6TB/s、512GB/s | 300GB/s、200GB/s |
算力需求测算
- 训练算力需求 = 模型参数量 × 训练数据量 × 模型数量
- 推理算力需求 = 模型参数量 × 推理数据量 × 模型数量
以ChatGPT为例,其日均推理算力需求约为 $7.18 \times 10^{20} \text{FLOPS}$,随着应用场景的扩展,推理算力需求将显著增长。
市场前景
- 全球AI芯片市场预计从2021年的102.5亿美元增长至2030年的3095.3亿美元,年复合增长率达46.03%。
- 中国人工智能服务器工作负载中,推理占比已超过50%,预计2026年将达62.2%。
产业链与生态
- 华为昇腾:打造昇腾计算产业生态,涵盖人工智能计算中心、能源、金融、交通、电信、制造、医疗等多个行业。
- 合作伙伴:包括华鲲振宇、湘江鲲鹏、安擎、百信、宝德、北联国芯、长江计算、广电五舟、黄河、昆仑、清华同方、神州鲲泰、新华三等。
风险提示
- 产能不及预期:海外制裁可能影响国产芯片制造能力。
- 行业景气度不及预期:若训练与推理需求未达预期,可能影响市场增长。
- 行业竞争加剧:更多企业进入AI芯片领域,可能导致竞争格局恶化。
- 产业链其他业务不及预期:产业链公司若其他业务发展受阻,可能影响整体表现。
投资建议
- 行业评级:看好、中性、看淡
- 公司评级:买入、增持、中性、减持、无投资评级
图表目录
- 图1:英伟达H100 GPU芯片
- 图2:云端与边缘侧AI应用场景需求
- 图3:训练时常、数据集大小、模型参数与模型性能关系
- 图4:OpenAI推出ChatGPT Plus
- 图5:微软将ChatGPT接入Teams
- 图6:不同阶段需求特点
- 图7:巨头布局时间轴
- 图8:CUDA软件生态
- 图9:HBM3结构图
- 图10:AI的内存墙
- 图11:PCIe接口性能
- 图12:NVLink
- 图13:中国AI服务器工作负载预测
- 图14:AI芯片利润
- 图15:全球AI芯片市场规模
- 图16:公有云市场AI加速器市占比
- 图17:英伟达历代GPU架构
- 图18:华为昇腾产业链图谱
总结
AI芯片作为人工智能发展的核心支撑,其需求随着大模型的普及而快速增长。训练芯片与推理芯片在性能、功耗、应用场景等方面存在显著差异。英伟达在训练芯片领域占据主导地位,而华为昇腾则在推理芯片及国产替代方面展现出强劲的发展潜力。随着技术的不断成熟和应用场景的扩展,AI芯片市场将迎来更大的发展机遇。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载