16ChatGPT对GPU算力的需求测算与相关分析_71页_3mb
报告摘要
半导体行业专题:ChatGPT对GPU算力的需求测算与相关分析
核心观点
-
短期GPU增量与市场规模
- 假设每日1亿用户,每人进行10次交互,每次回答50词,算力利用率为30%,则单个大语言模型(LLM)的日常需求可带来21,348片A100 GPU,对应2.13亿美元的市场规模。
- 若有5家大企业推出LLM,总需求为107,000片A100,对应市场规模约10.7亿美元。
-
短期服务器增量与市场规模
- 单个服务器搭载8个GPU,单个LLM带来2,669台服务器需求,对应3.39亿美元的市场规模。
- 5家大企业合计需13,345台服务器,对应市场规模约20亿美元。
-
远期GPU增量空间
- 参考谷歌每日30亿次搜索,所需A100 GPU约1,067,415片,对应13.3万台DGX A100服务器,市场空间可达200亿美元。
关键中间变量
- 1亿用户所需GPU数量:21,348(A100)
- 1亿用户所需服务器数量:2,669(DGX A100)
- 单日交互+训练总算力:1.08E+10 TFLOPS
- A100单卡算力:19.5 TFLOPS/s
- 算力利用率:30%
- 5家企业对应GPU数量:107,000(A100)
- 5家企业对应服务器数量:13,345(DGX A100)
市场规模相关参数/假设
- A100单卡算力:19.5 TFLOPS/s
- GPU单价:1万美元
- 每台服务器搭载GPU数量:8
- 服务器单价:15万美元
- 做LLM的企业数量:5(BAT、华为、字节等)
远期GPU增量空间与技术差距
- 谷歌+LLM所需GPU数量:1,067,415(A100)
- 远期总算力需求:5.4E+11 TFLOPS
- 国内GPU与国际差距:
- 在高精度浮点计算能力方面,国内产品与国际厂商存在一代以上的差距。
- 在软件生态方面,国内企业多采用OpenCL,与英伟达CUDA生态差距明显。
- 国内厂商如壁仞科技、天数智芯、海光等在部分性能指标上已实现突破,但整体仍需时间实现国产替代。
市场机遇与挑战
- 短期影响:美国对中国高端GPU的禁售可能影响英伟达和AMD在中国市场的销售,但国内厂商可利用未被禁售的中高端产品进行替代。
- 长期机会:国内庞大的AI市场和信创需求,将推动国产GPU和AI芯片厂商快速发展,逐步实现技术突破和市场替代。
- 建议关注的公司:
- 芯片:龙芯中科、海光信息、景嘉微、寒武纪、澜起科技
- PCB:胜宏科技、兴森科技、沪电股份
- 先进封装:通富微电、甬矽电子、长电科技、长川科技
- 海外企业:英伟达、AMD、英特尔、美光
ChatGPT与GPGPU
- ChatGPT简介:由OpenAI开发,基于GPT-3.5模型,2022年11月上线,成为增长最快的消费级应用程序。
- GPGPU定义:通用计算GPU,用于非图形渲染的高性能计算,如AI训练、推理等。
- CUDA生态优势:NVIDIA凭借CUDA构建了强大的生态壁垒,占据全球GPU市场约90%的份额。
- OpenCL对比CUDA:虽然OpenCL具备跨平台兼容性,但开发友好性和市场占有率均不及CUDA。
GPU与CPU对比
- CPU:串行处理器,适合复杂逻辑处理和事务处理。
- GPU:并行处理器,适合大规模数据并行计算,如深度学习和AI训练。
- 算力需求:训练需要较高的精度(如FP32),推理可使用较低精度(如INT8)。
- 算力提升:模型参数量和训练词数的增加显著提升了算力需求,每3~4个月翻倍。
GPU应用场景
- 图形加速:用于图像渲染等图形处理任务。
- 通用计算:用于AI训练、推理、高性能计算等任务。
- 计算密集型任务:如流体动力学、分子建模、深度学习等。
GPU市场数据
- 2020年全球GPU市场规模:254亿美元,预计2028年将达2465亿美元,年复合增长率32.82%。
- 2020年中国GPU市场规模:47.39亿美元,预计2027年将达345.57亿美元。
- 2021年中国加速服务器市场规模:53.9亿美元,GPU占比91.9%。
- 2025年全球AI服务器市场规模:预计达317.9亿美元,年复合增长率19%。
技术与市场趋势
- AI芯片市场增长:2020年全球AI芯片市场规模约175亿美元,预计2025年将达726亿美元。
- 量化技术:通过INT8等低精度计算实现推理加速,同时保持较高精度。
- 算力消耗:随着模型参数量增加,训练所需算力呈指数级增长,如GPT-3训练算力需求达3.14E+23 FLOPS。
风险因素
- 用户拓展不及预期
- AI技术及新产品开发发展不及预期
- 外部制裁加剧
- 宏观经济需求下行
附录:相关公司涨跌幅(截至2023年2月14日)
| 分类 | 公司名 | 代码 | 市值 (亿元人民币) | ChatGPT 2022年11月30日上线至今涨跌幅 | 2023年初至今涨跌幅 |
|---|---|---|---|---|---|
| CPU | 龙芯中科 | 688047.SH | 488.78 | 49% | 43% |
| CPU | 海光信息 | 688041.SH | 1,235.85 | 28% | 33% |
| CPU | 中科曙光 | 603019.SH | 425.88 | 24% | 31% |
| CPU | 英特尔 | INTC.O | 8,049.41 | -4% | 9% |
| CPU | AMD | AMD.O | 9,134.63 | 7% | 28% |
| GPU | 景嘉微 | 300474.SZ | 381.51 | 45% | 54% |
| GPU | 英伟达 | NVDA.O | 36,527.90 | 29% | 49% |
| AI芯片 | 寒武纪-U | 688256.SH | 342.62 | 35% | 57% |
| AI芯片 | 澜起科技 | 688008.SH | 713.46 | -7% | 0% |
| AI芯片 | Mobileye | MBLY.O | 2,343.44 | 50% | 22% |
| FPGA | 紫光国微 | 002049.SZ | 1,032.70 | -8% | -8% |
| FPGA | 复旦微电 | 688385.SH | 443.24 | -9% | -1% |
| FPGA | 安路科技-U | 688107.SH | 283.43 | 13% | 10% |
| DPU | 左江科技 | 300799.SZ | 136.25 | 4% | 2% |
| IP | 芯原股份-U | 688521.SH | 308.66 | 30% | 41% |
| AI SoC | 瑞芯微 | 603893.SH | 368.62 | 14% | 28% |
| AI SoC | 晶晨股份 | 688099.SH | 348.41 | 12% | 20% |
| AI SoC | 富瀚微 | 300613.SZ | 152.06 | 18% | 32% |
| PCB | 兴森科技 | 002436.SZ | 205.11 | 1% | 25% |
| PCB | 胜宏科技 | 300476.SZ | 155.63 | 28% | 39% |
| PCB | 生益电子 | 688183.SH | 94.00 | 11% | 21% |
| PCB | 沪电股份 | 002463.SZ | 294.93 | 23% | 31% |
| 先进封装 | 长电科技 | 600584.SH | 513.58 | 15% | 25% |
| 先进封装 | 通富微电 | 002156.SZ | 334.58 | 28% | 34% |
| 先进封装 | 甬矽电子 | 688362.SH | 112.76 | -1% | 27% |
| 先进封装 | 华峰测控 | 688200.SH | 276.32 | 23% | 10% |
| 先进封装 | 长川科技 | 300604.SZ | 289.65 | -17% | 8% |
| 存储 | 美光 | MU.O | 4,470.81 | 5% | 20% |
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载