2024年AI_ASIC芯片市场前景、前沿应用及相关标的分析报告_37页_5mb

2024年深度行业分析研究报告总结

核心内容概述

本报告主要分析了ASIC芯片在AI领域的市场前景，对比了ASIC与GPU在性能、成本和软件生态等方面的差异，并详细介绍了北美四大CSP（云服务提供商）自研AI ASIC的发展现状与技术特点，最后总结了相关标的（博通、Marvell）在ASIC业务上的布局与业绩表现。

主要观点

1. ASIC芯片市场前景广阔

• 资本支出增长：北美四大CSP（微软、亚马逊、谷歌、Meta）2024年前三季度Capex规模达到1708亿美元，同比增长56%，且yoy增速逐季加快。
• AI算力需求驱动：AI算力集群，尤其是推理集群，对ASIC芯片的需求快速增长，预计推理集群规模将达百万级别。
• 市场规模预测：据Marvell预测，2023年ASIC占数据中心加速计算芯片的16%，市场规模约为66亿美元；预计到2028年，ASIC占比将提升至25%，市场规模达429亿美元，CAGR为45.4%。

2. ASIC与GPU的对比

• 硬件性能：ASIC针对特定算法和应用进行优化，具有更高的能效比和在特定任务上的计算能力，例如深度学习中的矩阵运算。GPU则具备更强的通用性和并行处理能力，适用于大规模数据并行计算。
• 成本：ASIC单位算力成本低于GPU，例如谷歌TPU v5比英伟达H100成本低70%，亚马逊Trainium 2比H100成本低60%。
• 软件生态：ASIC的软件生态相对单一，编程难度较大；而GPU拥有成熟的软件生态，如CUDA和ROCm，支持多种编程语言和社区支持。
• 应用场景：ASIC更适用于推理场景，而GPU更适合训练场景。

3. 北美四大CSP自研AI ASIC

谷歌TPU

• TPU v5p单个Pod可达8960颗芯片，采用Multislice训练技术，实现5万卡线性加速。
• TPU v6预计2024H2推出，FP16/BF16算力达926 TFLOPS，能效比TPU v5e提升67%。
• TPU v4在MLPerf基准测试中比英伟达A100快1.15倍，功耗更低。
• TPU v5p训练LLM的速度比TPU v4快2.8倍，利用SparseCores技术实现更高的效率。

亚马逊Trainium & Inferentia

• Trainium 2算力达430 TFLOPS，HBM容量96GB，内存带宽4TB/s，性能较Trainium 1提升4倍。
• Inferentia 2吞吐量较Inferentia提升4倍，延迟降至1/10，推理成本降低。
• 亚马逊计划将Trainium扩展至10万个芯片的EC2 UltraCluster集群。

微软Maia 100

• Maia 100采用5nm工艺和CoWoS-S封装，算力在MXFP4下达3200 TFLOPS，性能超过英伟达A100 28%。
• 一个Ares机架系统搭载72颗MTIA芯片，支持高密度部署和低功耗。
• Maia SDK与PyTorch、ONNX Runtime等框架集成，提升模型部署效率。

Meta MTIA

• MTIA v2算力达354 TFLOPS（INT8），内存带宽204.8GB/s，TDP为90W。
• MTIA v2与Meta的推荐引擎结合，提升模型性能，低复杂度模型有开箱即用优势，高复杂度模型在4-6个月内性能提升2倍以上。
• MTIA已部署在16个数据中心，支持高并发推理任务。

关键信息

博通（Broadcom）

• AI芯片业务目标：预计2024年AI芯片收入超过100亿美元，占公司整体收入比例增长至35%。
• IP储备：博通拥有广泛的IP储备，涵盖计算、存储、网络IO、封装等多个领域，支持XPU平台开发。
• 产品落地：博通利用XPU平台实现了业界最快的产品落地时间，联合开发多款XPU产品。
• 盈利能力：半导体业务是公司最大业务，2023财年占总收入的78.7%，净利率从50%提升至58.5%。
• 客户覆盖：博通已为两家头部CSP批量供应ASIC产品，另一家客户正在产能爬坡，预计2025年贡献业绩。

Marvell

• AI业务目标：预计2024-2026财年AI业务收入从5.5亿提升至25亿美元。
• 数据中心业务：2023年数据中心业务TAM为210亿美元，预计到2028年将增长至750亿美元，CAGR为29%。
• 平台布局：Marvell构建了从“工艺制程-IP-封装-专家”全链条的加速计算基础设施平台，涵盖多种IP和封装技术。
• 产品线：Marvell的定制计算产品包括AI加速芯片、安全芯片、NIC/DPU、ARM计算、存储、视频和CXL功能ASIC。
• 业绩表现：2021-2024财年收入年复合增速达19.5%，2025财年盈利逐季改善，Non-GAAP净利率提升至24.6%。
• 客户覆盖：Marvell为亚马逊设计的Trainium 2已批量出货，其他客户正在推进产能爬坡。

相关标的

• 博通：AI芯片业务增长迅速，盈利能力显著提升，拥有丰富的IP储备和广泛的客户基础。
• Marvell：AI业务增长潜力大，数据中心业务占比超40%，具备完整的加速计算平台布局。

总结

ASIC芯片在AI领域展现出强劲的增长潜力，尤其在推理场景中，其高能效、低成本和高吞吐量优势明显。北美四大CSP正加速自研AI ASIC，以应对AI算力需求的快速增长。博通和Marvell作为主要供应商，凭借强大的IP储备和产品布局，有望在ASIC市场中占据重要地位。未来，随着AI模型的复杂度提升和算力需求增加，ASIC市场将保持高速成长，成为数据中心加速计算芯片的重要组成部分。