计算机行业深度报告_AI算力_卖水人_专题系列_10_高速互联协议与硬件_从_配套件_到_第二算力_58页_5mb
报告摘要
计算机行业深度报告:高速互联协议与硬件,从“配套件”到“第二算力”——AI算力“卖水人”专题系列(10)
核心内容概述
本报告探讨了AI算力生态中高速互联技术的重要性,分析了计算机高速互联的五个层级,包括片上网络NoC、封装内Chiplet互联、PCIe、CXL以及Scale-Up和Scale-Out互连协议/硬件。这些技术构成了AI算力基础设施的底层支撑,从“配套件”向“第二算力”演进,成为AI时代的关键驱动力。
主要观点
- AI算力需求持续增长:随着AI应用的扩展,计算机高速互联网络的需求持续增长,互联速率不断提升。
- 本土企业有望成为国际一流:随着国内外AI超节点和相关企业对互联架构的不断升级,本土企业有望成为国际领先的高速互联芯片制造商。
- 高速互联技术是AI发展的基石:高速互联技术不仅支撑AI算力硬件,还对系统性能、效率和可扩展性产生深远影响。
关键信息
第一层:片上网络NoC
- NoC是一种可扩展的基于分组的通信结构,用于连接SoC中的处理元件、存储器和外设。
- 传统分层总线和交叉开关在高集成度SoC中存在路由拥堵、时序挑战和QoS限制。
- Cadence的Janus NoC通过路由节点、端点和降低设计复杂性实现高效数据传输。
- Arteris与AMD合作,推出FlexGen NoC IP,用于下一代AI芯片组设计,支持从数据中心到边缘设备的广泛应用。
- Arm的Neoverse CMN-700相干网格网络支持多种应用场景,包括高性能计算、存储、服务器等。
第二层:封装内Chiplet互联
- Chiplet技术通过先进封装方法,将不同工艺/功能的芯片集成,提升性能和降低生产成本。
- 优势包括模块化拆分、灵活性、多核集成和成本效益。
- 台积电的SoIC技术实现高性能、低功耗的异构集成。
- 英特尔Foundry提供多种封装方式,如EMIB、Foveros-S、Foveros-R等,支持多种互连标准如UCIe。
- UCIe规范定义了协议和物理层,支持不同厂商芯片组之间的高带宽通信。
第三层:PCIe与CXL
- PCIe是AI服务器主机I/O的内部底座,提供高带宽、低延迟的通信。
- CXL是基于PCIe协议的高速互连技术,专为CPU与外围设备设计,支持内存共享和扩展。
- CXL 3.0引入了内存共享,提升系统性能和效率。
- 通过CXL内存扩展,实验结果显示在HPC和AI工作负载中,性能提升显著。
- Astera Labs的Leo CXL内存控制器支持内存共享、延迟降低和并发处理能力,提高AI推理效率。
第四层:Scale-Up互联
- Scale-Up旨在无缝连接多个GPU,作为一个统一的计算系统。
- 理想的Scale-Up需具备低延迟、高带宽和原生内存语义。
- NVIDIA的NVLink技术是Scale-Up的关键,如NVLink 6和NVLink 7,实现高带宽和低延迟的GPU互联。
- NVLink 6通过同步双向SerDes实现带宽翻倍,NVLink 7支持更复杂的网络拓扑结构。
- 未来NVL1152可能采用CPO技术进行扩展,但短期内仍以铜缆为主。
第五层:Scale-Out互联
- Scale-Out连接数据中心内的服务器,如NVIDIA Quantum InfiniBand和Spectrum-X Ethernet。
- 支持数千至数十万GPU的大型集群,满足大规模AI计算需求。
- 优化设计如ConnectX-8 SuperNIC,通过集成PCIe交换和网络功能,简化系统架构。
投资建议
- AI时代高速互联需求增长:随着AI算力需求的提升,高速互联技术将获得更大市场空间。
- 本土企业机会显著:万通发展、澜起科技、盛科通信等企业在高速互联芯片领域具备竞争力,有望实现突破。
- 建议关注相关产业链:包括Switch企业、AI处理器、超节点OEM、服务器组件、算力租赁和云计算企业等。
相关公司
- Switch企业:万通发展、澜起科技、盛科通信、紫光股份、浪潮信息。
- AI处理器:海光信息、寒武纪、壁仞科技、沐曦股份、天数智芯、芯原股份、龙芯中科、中国长城。
- 超节点OEM:浪潮信息、工业富联、中科曙光、华勤技术、紫光股份、联想集团、软通动力、烽火通信、中国软件国际。
- 服务器组件:散热、存储、网络、电源、连接、PCB等。
- 算力租赁/云计算:协创数据、宏景科技、利通电子、网宿科技、金山云、智微智能、首都在线、优刻得。
- 数据中心:云赛智联、世纪互联、大位科技、润泽科技、光环新网、奥飞数据、数据港。
市场预测
- PCIe互连芯片市场:预计2030年市场规模将达77.61亿美元,年均复合增长率20.1%。
- CXL互连芯片市场:预计2030年市场规模将达17.03亿美元,年均复合增长率170%。
- 中国市场份额:预计2030年将占全球市场30%以上。
风险提示
- 技术迭代研发不及预期。
- 下游行业需求集中及周期性波动。
- 供应链波动与产能保障。
- 人才竞争与流失。
- 全球贸易摩擦。
- 外文素材翻译或表述偏差。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载