驱动人工智能支撑数据中心的半导体生态系统_46页_6mb

驱动人工智能 支撑数据中心的半导体生态系统总结

核心内容概述

本报告由美国半导体行业协会（SIA）与德勤（Deloitte）联合发布，探讨了半导体在人工智能（AI）和数据中心中的关键作用。随着AI的快速发展，半导体技术已成为AI基础设施的核心驱动力，不仅推动了AI计算能力的提升，也促进了整个半导体行业的发展。AI数据中心的建设需要大量的半导体组件，从计算、存储到电源和冷却系统，形成一个复杂的生态系统。

主要观点

• 半导体是AI的基础使能技术：现代AI系统依赖于半导体提供的计算、存储和网络能力，芯片在AI服务器总价值中占据主导地位。
• AI工作负载分为训练与推理：训练需要高吞吐量和高带宽，而推理则更注重延迟和能效，两者对芯片设计提出了不同的要求。
• AI数据中心的快速增长：预计2022年至2028年的复合年增长率（CAGR）为88.8%，而2025年至2028年的CAGR为56.3%。
• AI带动半导体需求激增：到2028年，AI数据中心的半导体年收入可能超过1.2万亿美元，占全球半导体市场的重要份额。
• AI与半导体形成正反馈循环：AI的发展推动半导体性能需求，而半导体技术的进步又促进了更强大、更高效的AI系统。

关键信息

AI数据中心中的芯片分类

AI数据中心服务器由多个托盘组成，每个托盘承载不同的半导体组件，包括：

• 计算托盘：包含AI加速器、HBM、CPU、系统内存、DPU、NIC和PDU。
• 电源托盘：包含桥式整流器、PFC控制器、功率MOSFET、PMIC和VRM。
• 网络与IPMI托盘：包含BMC、以太网PHY、管理SoC、固件闪存、DRAM和电源管理IC。
• CDU托盘：包含流量传感器、压力传感器、温度传感器、CDU控制器板（MCU）和以太网/PM总线接口。
• 加速器互连托盘：包含交换机ASIC、电源分配块、ACC芯片、高速PHY和SerDes收发器。

AI训练与推理工作流中的芯片协同

• 训练流程：数据由DPU进行预处理并写入NVMe SSD，随后由AI加速器进行并行计算，HBM提供高速存储支持，CPU负责任务编排和同步。
• 推理流程：使用优化后的模型进行实时数据处理，推理芯片注重低延迟和高吞吐量，以支持云端和边缘AI部署。

半导体在AI数据中心中的价值分布

• 半导体在AI服务器机架内容价值中占比超过95%，其中逻辑芯片占65%，存储芯片占20%以上。
• 逻辑芯片主要包括AI加速器、CPU、DPU、NIC控制器、BMC和ASIC。
• 存储芯片包括HBM、DRAM和NAND闪存。
• 其他关键半导体包括模拟芯片（如PMIC、电压稳压器、时钟发生器）和化合物半导体（如GaN和SiC）。

AI数据中心的全球供应链

• 从设计到部署，AI数据中心的制造涉及全球多个地区。
• 产品设计主要在美国和韩国进行。
• 晶圆制造集中在台湾、韩国和美国。
• 封装环节涉及台湾、韩国、马来西亚和美国。
• 模块和电路板组装主要在中国大陆、台湾和越南。
• 系统集成与测试在马来西亚、中国大陆、越南和台湾进行。
• 最终安装与部署在全球范围内进行。

半导体技术发展趋势

• 先进封装技术：2.5D/3D封装、芯粒集成和光互连技术正在推动数据中心架构的革新。
• 化合物半导体：GaN和SiC在电源管理方面表现出更高的效率和更低的热损耗。
• 边缘AI需求增长：推理任务正从数据中心向边缘设备转移，推动对低功耗、高集成度的半导体需求。
• AI与半导体的协同创新：AI的发展正在加速半导体技术的创新，同时半导体的进步也在推动AI能力的提升。

未来展望

• AI推理工作负载预计将成为半导体需求的主要驱动力，其CAGR将显著高于训练。
• 未来AI数据中心可能向更高功率密度（如25kW级别）发展，对热管理、机械稳定性和封装技术提出更高要求。
• 供应链的弹性、合作和创新是保持AI领先地位的关键因素。

结论

半导体是AI基础设施的基石，支撑了从计算到存储、从电源到冷却的完整系统。随着AI训练和推理需求的增长，半导体行业正经历前所未有的变革。未来，AI与半导体将形成更紧密的协同关系，推动计算能力、能效和系统可靠性达到新的高度。为了维持这一增长，政府和行业必须加强合作，推动技术创新，并确保全球供应链的稳定与高效。