计算机行业AIGC系列之二十三：算力网络再讨论！从Dojo架构到算法的硬件延伸-20230925-申万宏源-39页_3mb

算力网络再讨论！从Dojo架构到算法的硬件延伸

核心内容

本文深入分析了Tesla Dojo算力网络架构及其对算力网络发展的启示，并延伸讨论了Google TPU系列和华为星河AI网络等，探讨了算力网络与AI算法之间的关系。文章指出，算力网络的发展与算法需求密切相关，硬件架构应根据算法特性进行设计，网络性能对算力集群整体效率具有决定性影响。

主要观点

• 算力网络的三大规律：

  1. 带宽与连接架构是决定算力性能的关键因素；
  2. 高速chip-to-chip连接方案（如NVLink、CXL）是高速网络和光通信需求的底层逻辑；
  3. 单SoC性能提升与芯片堆叠不等于算力集群整体性能的线性提升，网络设计是瓶颈。

• Tesla Dojo架构特点：

  • 标准化与分布式：D1 Compute Die作为最小计算单元，标准化程度高，支持灵活的资源调配；
  • 高效数据存取：通过2D mesh到3D组网，解决数据存取瓶颈，提升整体效率；
  • 高带宽与低延迟：D1 Die之间带宽可达2 TB/s，Tile间带宽为900 GB/s，DIP提供400Gb连接；
  • CFP精度创新：引入CFP8和CFP16，兼顾精度与速度，提升训练效率；
  • 系统设计：Dojo通过软件编译和网络设计优化，实现高效资源调配，提升算力利用率。

• 与传统架构的差异：

  • Dojo更注重数据处理的本地化与高效通信，区别于传统GPU服务器的“颗粒度”限制；
  • 与Nvidia的InfiniBand相比，Dojo采用基于以太网的TTP协议，更注重通用性和成本效率。

• 未来趋势：

  • 本土RoCE与400G以上光通信：成为国内算力网络的重要方向，提升网络性能和资源利用率；
  • 光模块技术演进：从800G向1.6T演进，单模WDM光模块在高带宽场景中不可或缺；
  • OCS方案：谷歌TPU v4采用的全光学交换网络，具备高效率、低损耗、可扩展性强等优势，未来有望在AI和HPC领域广泛应用。

关键信息

Tesla Dojo架构演进

• 2019年4月：Tesla Autonomy Investor Day，宣布研发超级训练计算机；
• 2020年8月：马斯克表示预计一年内推出Dojo v1.0；
• 2021年8月：正式官宣Dojo技术细节；
• 2021年10月：发布Dojo Technology白皮书；
• 2022年8-9月：Hot Chips34披露Dojo细节，完成第一个Dojo Cabinet验证测试；
• 2023年6月：Dojo初步应用输出；
• 2023年7月后：Dojo正式上线，预计2024年1月前拥有全球Top5算力，2024年10月达到100 exaFLOPs。

Dojo系统结构

• 最小计算单元：D1 Compute Die，包含354个Training nodes，拥有1.25 MB片上SRAM和1 TFlop FP16/CFP8算力；
• Tile结构：由25个D1芯片组成，提供15 kW功率、9 TB/s带宽，支持液冷散热；
• Tray单元：6个Tile搭配20个DIP，用于内存扩展、网络连接，提供640 GB共享HBM和400Gb接口；
• 机柜与POD：2个Tray构成1个机柜，可扩展为POD，支持高密度、高带宽、高可靠组网。

TTP协议与网络连接

• Tesla Transport Protocol (TTP)：类似NVLink、CXL，带宽可达900GBps；
• TTPoE：基于以太网的TTP，支持400Gb连接，提升网络灵活性；
• DIP的作用：提供800GBps内存带宽、32GB HBM内存，以及对外连接接口。

Google TPU演进

• TPU v1：主要用于推理，单向架构，发布于2015年；
• TPU v2：用于训练，64G HBM，带宽提升至496Gbps；
• TPU v3：带宽提升至656Gbps，支持更多AI场景；
• TPU v4：采用3D立方体组网，带宽提升至1200GBps，引入OCS方案，提升网络效率。

华为星河AI网络

• 高带宽：端口提升至400G，向800G演进；
• 高可靠：支持冗余链路、亚毫秒级故障切换；
• 可运维：提供全栈可视运维，支持大规模集群；
• 开放性：采用RoCE协议，降低运维成本；
• 应用场景：适用于大模型训练，支持多模态数据处理。

相关标的

• 算力网络与流量环节：中际旭创、新易盛、天孚通信、华工科技、中兴通讯、紫光股份、锐捷网络、源杰科技、盛科通信等；
• AI服务器计算环节：浪潮信息、胜宏科技、神州数码；
• 华为产业链：软通动力、华大九天、长电科技、润达医疗、赛意信息、中软国际、广电运通等；
• 特斯拉与智能车产业链：德赛西威、立讯精密、双环传动、精锻科技、爱柯迪、岱美股份等。

风险提示

• 技术迭代风险：新技术可能颠覆现有网络架构和通信方案；
• 行业竞争风险：GPU/DSA、智联汽车、机器人领域竞争激烈，需关注产业链地位与管理；
• 投资决策风险：需结合自身情况，不应仅依赖投资评级作出决策。

估值信息

信息披露

本报告由申万宏源证券研究所发布，仅供其客户使用，不构成投资建议。投资者应独立判断，并自行承担风险。报告内容基于公开信息，不保证其准确性或完整性。