【计算机】人工智能系列报告(四)-算力系列报告(一):推理芯片:生成式AI驱动,或迎来重大机遇_10页_1mb
报告摘要
推理芯片:生成式AI驱动,或迎来重大机遇
核心内容总结
生成式AI技术的快速发展正在推动推理算力需求的显著增长。以ChatGPT为代表的生成式AI应用在短时间内吸引了大量用户,表明AI模型在实际应用中的潜力巨大。随着模型参数和Token数量的增加,推理所需的算力也在不断提升,预计未来推理算力将超过训练算力,训练芯片与推理芯片数量之比可能达到2:8。
量化技术是降低生成式AI推理成本的关键。从FP16到INT8,再到正在研究的INT4,量化技术不断演进,使得推理过程在不影响性能的前提下,显著降低内存占用和计算成本。这为CPU+ASIC、CPU+FPGA等技术路线的发展提供了支持,同时为国产算力芯片的推广创造了条件。
主要观点
- 生成式AI需求增长:生成式AI模型的性能持续提升,用户数量迅速增长,推动推理算力需求爆发。
- 量化技术推动成本下降:量化技术的迭代降低了推理算力的门槛,使更多技术路线具备实现推理能力的潜力。
- 推理算力需求将超过训练算力:随着模型稳定和应用落地,推理需求预计将成为算力市场的主导。
- 海外CSP自研芯片趋势明显:谷歌、微软、亚马逊、Meta等企业正在积极研发自研芯片,以满足生成式AI的训练和推理需求。
- 国产芯片具备竞争力:寒武纪、华为昇腾、海光信息等国产芯片厂商在推理场景中表现出较强的性能和兼容性,有望在市场中占据一席之地。
关键信息
推理芯片技术路线
- GPU厂商:英伟达和AMD的数据中心GPU产品已支持生成式AI的推理需求,且消费级GPU亦具备一定能力。
- ASIC芯片:谷歌TPU v5e和v5p在训练和推理速度、性价比上均有显著提升,支持多种AI框架。
- FPGA与CPU结合:部分厂商通过CPU+FPGA组合提升推理效率,尤其适用于边缘计算场景。
国产芯片进展
- 寒武纪MLU370:采用7nm工艺及Chiplet技术,已批量交付给阿里云等客户。
- 华为昇腾系列:昇腾910B、910C在低精度计算方面表现突出,支持INT8和FP16计算,配套软件栈完善。
- 海光信息深算二号:实现LLaMa、GPT等生成式AI模型的全面适配,兼容CUDA架构,降低模型移植成本。
- 其他厂商:沐曦、壁仞、燧原等也推出了适用于推理场景的芯片,部分产品性能接近英伟达产品。
市场趋势
- 算力需求上升:国内生成式AI应用的落地正在加速推理算力需求增长。
- 性价比为核心:在推理场景中,算力的性价比比绝对性能更重要。
- 算力服务器采购加速:2023年以来,中国移动、中国联通、中国电信等运营商集中采购AI服务器,推动国内推理芯片市场发展。
建议关注的公司
-
AI推理芯片:
- 寒武纪
- 海光信息
-
算力服务器:
- 浪潮信息
- 中科曙光
- 神州数码
- 工业富联
风险提示
- 人工智能技术落地不及预期:若AI技术无法有效商业化,可能影响推理芯片的市场需求。
- 产业政策转变:政策方向变化可能影响AI算力相关产业的投入与技术突破。
- 宏观经济不及预期:经济放缓可能抑制消费端对AI相关产品的接受度。
投资评级
- 行业评级:超配
- 评级说明:基于未来6-12个月内行业涨幅预期,若超过市场基准指数10%以上则为超配。
结论
生成式AI的发展将持续推动推理算力需求的增长,量化技术的演进为多种技术路线提供了实现基础。国产推理芯片凭借技术迭代和性价比优势,有望在这一趋势中迎来重大发展机遇。建议关注寒武纪、海光信息等AI推理芯片厂商,以及浪潮信息、中科曙光等算力服务器供应商。同时需关注人工智能技术落地、产业政策及宏观经济变化等潜在风险。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载