2024年AI算力行业投资策略:全产业创新不断,国产化向阳而生_53页_3mb
报告摘要
2024年AI算力行业投资策略总结
核心内容
AI算力行业正经历快速变革,国产化替代进程加快。随着大模型时代的到来,训练算力需求以275倍/2年的速度增长,推理算力在应用落地期具备高爆发性。AI芯片、服务器、网络等环节均迎来价值提升和技术创新。
主要观点
-
AI算力需求激增
- 大模型训练与推理均需要AI服务器提供算力支持,需求量和性能持续提升。
- 训练算力需求由参数、token数、服务次数等决定,推理算力同样依赖高性能网络。
-
AI芯片:国产替代加速
- 英伟达芯片仍具备生态优势和稀疏矩阵技术优势,但国产芯片如华为昇腾、寒武纪、燧原等在性能、功耗、集成度方面持续提升。
- 华为昇腾910支持稀疏性技术,算力提升显著,成为国产算力核心。
-
算力通信:两极格局,价值放大
- AI算力通信需求呈指数级增长,高速率光模块(400G/800G)、高性能网络(InfiniBand和RoCE)成为关键。
- 通信网络的演进推动集群性能提升,网络架构和协议创新(如NVLink、RoCE)是重要趋势。
-
算力电子:量价齐升,群星璀璨
- HBM成为AI服务器标配,带宽和容量远超传统内存,显著提升数据处理效率。
- 电源、PCB等算力电子组件价值提升,液冷技术成为散热解决方案。
- 云端AI与端侧AI同步发展,带动消费电子终端变革。
关键信息
1. AI服务器与通用服务器对比
| 部件 | 通用服务器 | Nvidia 8卡A100服务器 |
|---|---|---|
| CPU | 2颗Intel Xeon | 2颗AMD Rome/Intel Xeon |
| GPU | 无 | 8颗Nvidia A100 |
| 内存 | 1TB | 2TB |
| 网络 | 双口万兆网卡 | 双口万兆网卡(16颗200G光模块) |
| 电源 | 800~1200W | 1800W高功率 |
| 散热 | 风冷 | 液冷 |
| 价值占比 | 31.5%(CPU) | 72.9%(GPU) |
2. 推理算力需求预测
| 项目 | 2023E | 2024E | 2025E |
|---|---|---|---|
| 平均参数量(亿) | 1750 | 1750 | 1750 |
| 单日推理算力需求(P) | 859 | 9514 | 36471 |
| 推理卡需求量(万张) | 106,041 | 1,174,603 | 4,502,646 |
3. AI芯片与性能对比
| 芯片型号 | 功耗(W) | 显存(GB) | 带宽(GB/s) | INT8算力(TOPS) | FP16算力(TFLOPS) | BF16算力(TFLOPS) | FP32算力(TFLOPS) | 工艺 |
|---|---|---|---|---|---|---|---|---|
| 华为昇腾910 | 310W | 80GB HBM3 | 900GB/s | 640 | 320 | 320 | 67 | 7nm |
| 英伟达H100 | 700W | 80GB HBM3 | 3.35TB/s | 1979 | 989 | 989 | 67 | 4nm |
| 英伟达A100 | 400W | 80GB HBM2e | 1935GB/s | 624 | 312 | 312 | 19.5 | 7nm |
4. 算力通信趋势
- InfiniBand阵营:以Nvidia(Mellanox)为代表,强调性能与生态,NVLink和InfiniBand是关键技术。
- 以太网阵营:传统硬件厂商和科技大厂代表,强调成本、兼容性和性能,RoCE等技术推动高性能网络发展。
- 高速光通信:光模块、光芯片、光器件等环节国产替代加速,天孚通信、源杰科技、光库科技等企业表现突出。
5. AI服务器发展趋势
- AI服务器单台价值量显著提升,从约5-6万/台增至100万元/台。
- 高性能网络(如InfiniBand和RoCE)成为关键,支持大规模并行计算和高吞吐。
- 液冷技术成为主流,提升散热效率,适应高功耗需求。
6. 通信技术演进
- 通信协议(如Wi-Fi)持续演进,带宽和速率提升显著。
- AI通信面临速率、功耗、距离的“不可能三角”,倒逼新技术加速渗透。
- 400G以上光通信演进,成为重要趋势。
7. 国内算力市场与运营商角色
- 电信运营商推动算网融合战略,提升资源复用率和整体算力优势。
- 中国电信、中国移动等在算力基础设施建设中发挥重要作用,如天翼云、智算中心等。
重点公司与估值
- 英伟达:主导AI算力生态,InfiniBand和NVLink技术领先。
- 华为:昇腾AI芯片及Atlas 900 SuperCluster引领国产替代。
- 中兴通讯:具备全系列网络芯片研发能力,支持高速网络发展。
- 盛科通信:TsingMa.MX系列芯片支持400G端口速率,适用于数据中心和工业网络。
- 天孚通信、源杰科技、光库科技:在光芯片和光器件领域取得突破,推动国产替代。
风险提示
- 外部环境影响供应链稳定。
- AI应用推进不及预期。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载