计算机行业AIGC系列报告二算力AIGC时代的卖铲人-页_2mb

算力：AIGC时代的“卖铲人”

核心内容

本报告聚焦于AIGC（人工智能生成内容）时代对算力的需求，系统分析了大模型训练和推理所需的算力及成本，并重点介绍了英伟达DGX系统及国产AI芯片与服务器的发展前景。

主要观点

• 大模型的发展依赖于算力提升：随着NLP模型参数量的快速增长，模型性能的提升主要依赖于算力的提升。Transformer架构因其高效的并行计算能力，成为大模型发展的主流选择。
• 算力需求与模型规模密切相关：大模型的训练和推理算力需求与模型参数量和数据集规模成正比，且不同模型架构（Encoder-Only、Decoder-Only、Encoder-Decoder）对算力需求的系数不同。
• 英伟达GPU在AI训练中占据主导地位：英伟达GPU凭借其Tensor Core技术、多核并行计算能力及CUDA-X库的支持，成为当前最适合进行大模型训练的AI芯片。
• 算力是AIGC发展的关键基础设施：报告指出，算力是AIGC时代的“卖铲人”，算力基础设施的发展是AIGC产业不可或缺的一环。
• 投资建议聚焦AI芯片与服务器领域：在AI芯片领域，重点推荐寒武纪和海光信息；在服务器领域，推荐中科曙光和浪潮信息。

关键信息

大模型算力需求

• 训练算力需求公式：训练算力需求 = 模型参数量 × 数据集token数 × 系数k。其中，k值取决于模型类型，Encoder-Only或Decoder-Only为6，Encoder-Decoder为3。
• GPT3训练算力需求：GPT3的训练算力需求为3646PF·Days，若使用10000张英伟达V100/A100芯片，则分别需要14.59/3.34天。
• 训练费用测算：GPT3使用10000张V100芯片训练，费用约为4.72百万美元；使用10000张A100芯片训练，费用约为1.89百万美元。

推理算力需求

• 推理算力需求公式：推理算力需求 = 模型参数量 × （输入 + 输出）token数 × 系数k。其中，k值为2（Encoder-Only或Decoder-Only）或1（Encoder-Decoder）。
• GPT3推理算力需求：1000个token的推理算力需求为350TFLOPS，使用A100芯片推理，成本约为0.0015美元。
• API调用费用：ChatGPT API调用费用为0.002美元/1k token，GPT4 API费用则更高，百度文心一言为0.012元/1k token。

英伟达DGX系统

• DGX系统组成：包括A100、H100、BasePOD、SuperPOD四款产品，其中A100和H100为主要服务器产品。
• DGX A100参数：搭载8个A100 GPU，共640GB显存，峰值性能达5 petaFLOPS AI，10 petaOPS INT8。
• DGX H100参数：搭载8个H100 GPU，共640GB显存，峰值性能达32 petaFLOPS FP8，性能较前代提升3倍。
• DGX系统优势：提供高度系统化、可扩展的平台，支持AI训练、推理和分析，适用于复杂的大规模AI任务。

国产AI芯片与服务器

• 寒武纪：专注于AI芯片研发，思元590采用MLUarch05架构，训练性能较前代产品显著提升。
• 海光信息：提供深度计算处理器，与寒武纪产品形成协同效应。
• 中科曙光：AI服务器市场占有率高，产品覆盖广泛，与海光信息有深度合作。
• 浪潮信息：中国AI服务器市场份额连续四年保持在50%以上，2021年全球市场份额达20.9%。

风险提示

• AI服务器供应链风险：部分中国AI服务器企业被纳入美国实体清单，可能影响其采购核心零部件。
• AI芯片研发不及预期风险：我国AI芯片与英伟达仍存在较大差距，研发进度若不及预期将影响AIGC产业发展。
• AI相关上市公司短期涨幅过大风险：部分AI相关上市公司短期涨幅较快，存在股价波动风险。

投资建议

• AI芯片：推荐寒武纪和海光信息，因其在国产AI芯片领域具有稀缺性和技术优势。
• 服务器：推荐中科曙光和浪潮信息，因其在AI服务器市场具有领先地位和良好的市场表现。

参考报告

1. 《微软引领AI+办公应用史诗级革命——AI+系列报告三》（2023-03-18）
2. 《ChatGPT快速流行，重构AI商业模式——AIGC投资机会梳理》（2023-02-08）

报告声明

• 本报告由招商证券编制，基于合法取得的信息，但不保证其准确性和完整性。
• 报告内容和意见仅供参考，不构成投资建议。
• 本报告版权归招商证券所有，未经许可，不得翻版、复制、引用或转载。