计算机行业AI系列专题研究报告:AI算力研究框架_80页_8mb
报告摘要
AI算力研究框架总结
核心内容
GPT4:AI技术和工程的伟大创新,迈向AGI时代
GPT-4是目前最接近AGI的AI系统,具备强大的“涌现能力”,即在大型模型中出现的小型模型所不具备的能力。这种能力在模型规模达到一定阈值时显著提升,与物理中的相变现象相似。GPT-4在创造能力、推理能力、上下文长度、图像识别、专业知识和安全性等方面实现了飞跃式提升。
GPT-4的训练过程融合了多种技术,包括大参数、大数据、算法创新、Transformer架构、RLHF(人类反馈强化学习)以及提示学习等。其背后有多个核心团队负责不同的研发任务,如预训练、长上下文处理、视觉、强化学习与对齐、评估与分析、部署等。
AI算力:科技企业大模型竞赛的核心“装备”,AIGC应用的关键基建
AI算力作为大模型训练和推理的核心支撑,成为新一轮科技竞赛的关键基础设施。随着Transformer架构的大模型训练需求激增,算力消耗呈指数级增长。2023年1月,ChatGPT计划向微软融资100亿美元,用于算力基建。未来,随着大模型应用的全面落地,算力需求将进一步扩大。
主要观点
- 计算:GPU是大模型训练和推理的核心支柱,其更新速度远超摩尔定律。AI服务器作为GPU的重要载体,市场规模和渗透率将显著提升。
- 网络:网络已成为限制AI算力提升的主要瓶颈,英伟达推出的NVLink和NVSwitch方案显著提升了GPU间通信能力。800G、1.6T光模块作为上游核心器件,将受益于大模型训练需求的增长。
- 存储:NAND、DRAM等存储器面临“内存墙”挑战,HBM凭借其高带宽特性成为高性能GPU的核心组件,市场前景广阔。
- 算力生态:AI算力作为科技产业的新周期核心,将推动相关产业链的发展,包括计算、网络、存储和软件等领域。
关键信息
-
GPT-4技术特点:
- 参数规模接近1万亿,数据量20万亿Tokens。
- 支持32,000 token的上下文长度,具备强大的逻辑推理和多模态处理能力。
- 采用RLHF技术,实现模型与人类价值观的对齐。
- 通过Prompt机制,提升模型的泛化能力和推理能力。
-
算力需求:
- Transformer架构使大模型对算力的需求远超摩尔定律。
- 训练GPT-3模型需要约3640 PFlop/s-day的算力。
- ChatGPT的运营需要巨大的算力支持,预计需要多个大型数据中心。
-
投资建议:
- 计算:推荐关注浪潮信息、中科曙光、紫光股份、工业富联、纬创、广达、英业达、戴尔、联想集团、超威电脑、中国长城、神州数码、拓维信息、四川长虹等。
- 网络:推荐关注紫光股份、中兴通讯、星网锐捷、深信服、迪普科技、普天科技、映翰通等。
- 光模块:推荐关注中际旭创、新易盛、光迅科技、华工科技、联特科技、剑桥科技、天孚通信等。
- 存储:推荐关注紫光国微、江波龙、北京君正、兆易创新、澜起科技、东芯股份、聚辰股份、普冉股份、朗科科技等。
风险提示
- 宏观经济影响下游需求。
- 大模型迭代不及预期。
- 大模型应用不及预期。
- 市场竞争加剧。
- 中美博弈加剧。
- 相关公司业绩不及预期。
算力发展与科技周期
- 全球科技产业每十年经历一次重大变革,AI算力作为新周期的核心,将推动新的科技巨头崛起。
- 算力对经济产出有显著带动作用,每投入1元算力可带动3-4元的经济产出。
- 2023年,全球算力相关公司市值涨幅显著,尤其是光模块领域。
技术与算法
- Transformer:基于自注意力机制,具有全局表征能力、高度并行性等优势。
- RLHF:通过人类反馈强化学习,使模型更贴近人类价值观。
- Prompt:通过提示机制,提高模型在新任务上的表现,无需额外训练。
- 并行训练:使用多种并行策略,如分布式训练、混合精度训练等,显著提升训练效率。
数据与训练
- 大模型的预训练数据来源广泛,包括网页、书籍、对话数据、科学数据和代码等。
- 数据质量对模型性能至关重要,需进行过滤、去重、隐私保护等处理。
- 数据集的构建和优化是大模型研发的关键环节。
未来展望
- GPT系列模型的持续迭代将推动算力需求不断增长。
- AI算力作为科技产业的核心,将引领新一轮科技周期。
- 相关产业链公司有望显著受益于AI算力的爆发式增长。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载