20240329-上海证券-人工智能行业跟踪报告_英伟达发布新一代GPU架构_NVLink连接技术迭代升级_8页_636kb
报告摘要
文档总结:英伟达发布新一代GPU架构与超级计算机,推动生成式AI发展
核心内容概述
2024年3月19日,英伟达发布了新一代Blackwell架构GPU B200、计算平台HGX B200以及第五代NVLink连接技术。基于B200和Grace CPU的超级芯片GB200与由72块GB200组成的DGX GB200 NVL72超级计算机同步推出,标志着英伟达在生成式AI训练与推理领域的技术再升级。该系列产品的推出将进一步提升AI模型的处理效率和性能,同时对光模块市场产生深远影响。
主要观点
-
Blackwell架构性能提升显著
- B200采用台积电4纳米工艺,内部晶体管数量达2080亿个,单块GPU浮点运算能力较Hopper架构提升25%,总性能提升2.5倍。
- B200在FP4精度下,性能可达到H100的5倍,更适用于AI推理场景。
-
NVLink 5.0连接技术优化带宽与功耗
- 第五代NVLink技术实现1.8TB/s双向带宽,显著提升GPU间通信效率。
- DGX GB200 NVL72内部采用铜缆连接,降低功耗约20KW,跨机柜连接仍依赖光收发器。
-
DGX GB200 NVL72超级计算机性能表现亮眼
- 在生成式AI模型训练场景下,可支持720 PFLOPS FP8吞吐量。
- 在推理场景下,可支持1.44EFLOPS FP4吞吐量,效率较HGX100显著提升。
- 与H100相比,训练GPT-MoE-1.8T模型所需GPU数量减少至2000块,训练周期缩短至200天,能耗仅为H100的四分之一。
-
800G光模块需求持续增长
- DGX GB200 NVL72拥有72个OSFP端口,每个端口对应400G或800G光模块,随着GB200数量增加,800G光模块使用比例将介于1:2.5至1:3.5之间。
- 跨机柜连接仍是生成式AI训练的主流方案,800G光模块需求具备可持续性。
关键信息
-
技术参数对比:
- HGX B200:FP8吞吐量72P,FP4吞吐量144P,NVLink版本第五代,NVSwitch版本第四代,总带宽14.4TB/s。
- HGX B100:FP8吞吐量56P,FP4吞吐量112P,NVLink第五代,NVSwitch第四代,总带宽14.4TB/s。
- HGX H200:FP8吞吐量32P,FP4吞吐量--,NVLink第四代,NVSwitch第三代,总带宽7.2TB/s。
- HGX H100:FP8吞吐量32P,FP4吞吐量--,NVLink第四代,NVSwitch第三代,总带宽7.2TB/s。
-
光模块与光芯片企业分析:
- 中际旭创:中高端数通市场龙头,2024年预测PE为32倍,位于近五年93%分位。
- 新易盛:光模块领域龙头,成本管控优秀,预测PE为42倍,位于近五年98%分位。
- 天孚通信:光器件整体解决方案提供商,预测PE为53倍,位于近五年99%分位。
- 源杰科技:光芯片企业,预测PE为130倍,位于近五年66%分位。
投资建议
- 建议关注具备技术优势与市场前景的光模块与光芯片企业,如中际旭创、新易盛、天孚通信及源杰科技。
- DGX GB200 NVL72超级计算机的推出将带动数通市场800G光模块需求,相关企业有望受益。
风险提示
- 下游需求不及预期
- 人工智能技术落地和商业化不及预期
- 产业政策转变
- 宏观经济不及预期
行业与市场影响
- 生成式AI训练与推理加速:Blackwell架构与NVLink 5.0技术显著提升了AI模型的训练和推理效率,有助于AI应用在消费端(C端)的落地。
- 光模块市场持续增长:随着AI计算需求的提升,800G光模块作为关键组件,市场需求有望持续增长。
- 液冷技术发展:DGX GB200 NVL72采用水冷散热,推动液冷技术在数据中心的应用,相关企业如曙光数创、英维克值得关注。
结论
英伟达最新推出的Blackwell架构GPU与超级计算机GB200 NVL72,标志着其在生成式AI领域的技术突破。NVLink 5.0连接技术与高性能GPU的结合,显著提升了AI计算性能与能效,同时带动了800G光模块市场的发展。建议投资者关注相关产业链企业,特别是光模块与光芯片领域,以把握未来AI技术升级带来的投资机会。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载