计算机行业智联汽车深度三十三暨华为系列深度之六:特斯拉、Dojo+英伟达,GPU+谷歌,TPU+昇腾:趋势是带宽与扩展性_29页_2mb
报告摘要
文档内容总结
核心内容
本报告分析了特斯拉 Dojo、英伟达 GPU、谷歌 TPU 和华为昇腾等 AI 芯片的架构异同,并预测了 AI 产业在计算与通信方面的趋势。核心内容包括:
- 特斯拉 Dojo 与传统 AI 架构相比,强调 扩展性、带宽 和 存算一体 的设计,以适应自动驾驶等复杂场景。
- 英伟达 GPU 从 2010 年起持续优化,注重 互联、带宽 和 AI 支持,从 Cuda Core 发展为 Tensor Core。
- 谷歌 TPU 通过 脉动阵列 支持矩阵乘法,注重 扩展性 和 带宽,并在 稀疏计算 和 光互连 方面有所突破。
- 华为昇腾 采用 达芬奇架构,具备 高算力 和 低功耗,与 TPU 有相似之处,支持 多种数据精度 和 分布式训练。
主要观点
- 扩展性 是 AI 芯片发展的关键趋势,所有芯片均在提升扩展能力。
- 带宽 和 延迟 的平衡是 AI 通信的核心挑战,Dojo 通过 Z 平面连接 和 TTPoE 提升整体性能。
- 数据精度 逐步向 低精度(如 BF16、INT8、CFP8)演进,以提升计算效率。
- 存算一体 是一种新兴趋势,Dojo 通过 本地 SRAM 和 减少核心数量 优化计算效率。
- 光模块 在 AI 计算集群中需求上升,预计 Dojo 的 BasePOD 规模下需要 28320 个光模块,推动光通信行业增长。
关键信息
1. 特斯拉 Dojo 架构特点
- 存算一体:Dojo Core 与 SRAM 集成,提升计算效率。
- 扩展性强:采用分层结构(D1、Tile、Tray、POD),支持大规模计算。
- 高带宽:通过 TTPoE 实现 400Gb/s 带宽,优于传统网络。
- 路由便捷:采用 Z 平面拓扑,数据传输路径短,减少延迟。
2. 英伟达 GPU 架构趋势
- 核心数减少:从麦克斯韦到赫伯,核心数逐步减少,但 扩展性 和 带宽 提升。
- Tensor Core:从 Volta 开始引入,支持矩阵乘法和稀疏计算。
- 互联技术:采用 NVLink 和 InfiniBand 提升带宽和减少延迟。
3. 谷歌 TPU 发展历程
- TPUv1 到 TPUv4:逐步增强 带宽、扩展性 和 稀疏计算。
- 光互连:在 远距离 芯片之间采用光互连,提升传输效率。
- 脉动阵列:TPUv4 采用类似结构,支持高效矩阵运算。
4. 华为昇腾特点
- 达芬奇架构:支持 矩阵乘法 和 稀疏计算,与 TPU 类似。
- 高算力:昇腾 910 算力为 256 TeraFLOPS,功耗低。
- 分布式训练:支持 1024 芯片 构成集群,适应大规模 AI 任务。
5. AI 计算趋势
- 数据精度:逐步向 低精度(如 BF16、INT8、CFP8)演进。
- 带宽最大化:提升 片内/片外带宽,优化数据传输效率。
- 核心数减少:通过 架构优化,减少核心数量,提升扩展性。
6. AI 通信趋势
- 从 2D 到 3D 组网:采用 Z 平面拓扑 和 TTPoE 提升系统性能。
- 光模块需求:预计 Dojo 的 BasePOD 需要 28320 个光模块,推动光通信市场增长。
- 液冷方案:引入 15kW 液冷封装,提升能效和散热能力。
重点标的与风险提示
标的推荐
- 流量环节:中际旭创、华工科技、新易盛、天孚通信、中兴通讯、紫光股份、锐捷网络。
- AI 服务器计算环节:浪潮信息、胜宏科技(电子)、神州数码(tmt)。
- 华为产业链:软通动力(大模型+OS+数据库)、华大九天(tmt,EDA)、长电科技(电子,封测)、润达医疗(医疗AI)、赛意信息(MetaERP)、中软国际、广电运通、神州数码。
- 特斯拉与智能车产业链:德赛西威、立讯精密(电子)、双环传动(机械&汽车)、精锻科技、爱柯迪、岱美股份。
风险提示
- 业绩波动:由于复工和宏观环境变化,2022-2023 年存在业绩波动风险。
- 竞争风险:GPU/DSA、智联汽车、机器人领域存在 研究竞争 和 产业链地位 的风险。
- 技术风险:切换到类似 Dojo 架构难度较大,需关注 技术可行性 和 市场接受度。
总结
特斯拉 Dojo、英伟达 GPU、谷歌 TPU 和华为昇腾等 AI 芯片均在 扩展性、带宽 和 AI 支持 方面有所突破。Dojo 通过 存算一体 和 Z 平面连接 提升性能,而英伟达和谷歌则通过 Tensor Core 和 光互连 提高效率。华为昇腾在 架构 和 算力 方面与 TPU 有相似之处,但更注重 全栈解决方案。随着 AI 领域发展,光模块 需求显著上升,成为产业链中的重要环节。同时,市场需关注 技术迭代 和 宏观环境变化 带来的风险。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载