25AIGC算力时代系列报告:ChatGPT芯片算力:研究框架_29页_1mb
报告摘要
ChatGPT芯片算力:研究框架总结
核心内容
随着ChatGPT等人工智能模型的快速发展,算力需求呈现爆发式增长,推动芯片产业在量和价两个维度同步提升。本报告分析了AIGC(人工智能生成内容)对芯片产业的影响,并探讨了CPU、GPU、FPGA、ASIC及光模块等关键芯片技术在AI领域的应用前景。
主要观点
- 算力需求爆发:ChatGPT的广泛应用显著提升了服务器的算力需求,尤其在训练和推理场景中,对高端芯片如英伟达A100 GPU的依赖程度大幅增加。
- 芯片量价齐升:AIGC不仅带来新的应用场景,还提高了原有场景的流量,推动芯片需求量增加。同时,高端芯片需求的上升也拉高了芯片的均价。
- 异构计算成为主流:AI服务器通常采用CPU与加速芯片(如GPU、FPGA、ASIC)的组合,以满足高吞吐量和复杂计算需求。
- Chiplet技术助力算力提升:Chiplet技术能够突破先进制程的限制,提升芯片良率、降低设计和制造成本,成为未来算力升级的重要手段。
- 存算一体技术前景广阔:通过在存储器中叠加计算能力,存算一体技术能够显著提升算力和能效,适用于大模型训练和推理等高负载场景。
关键信息
芯片种类及特性
| 芯片种类 | 优点 | 缺点 |
|---|---|---|
| GPU | 多核并行计算,高浮点运算能力 | 管理控制能力弱,功耗高 |
| FPGA | 可编程性强,低延时,灵活 | 开发难度大,价格昂贵 |
| ASIC | 体积小、功耗低、性能高 | 灵活性不足,成本较高 |
| 光模块 | 支撑高速数据传输,是数据中心互联的关键 | 需要高速传输技术支撑 |
AI服务器需求增长
- AI服务器需求大幅增加,尤其在训练和推理场景中。
- 2023年1月,ChatGPT月活跃用户达到1亿,成为算力需求增长的重要推手。
- 中国人工智能服务器工作负载预测显示,未来需求将持续增长。
未来技术趋势
- Chiplet技术:通过将多个小芯片封装在一起,提升算力和性能,同时降低成本和功耗。
- 存算一体技术:在存储器中集成计算单元,显著提升算力和能效,适用于大模型和高精度计算。
- AI芯片发展:国内外厂商如华为、寒武纪、阿里、百度等均在AI芯片领域布局,推动国产替代和技术突破。
应用场景
- 训练:需要高算力,通常使用GPU或ASIC。
- 推理:适合CPU与GPU/FPGA结合使用,实现高吞吐量和低延时。
- 计算:适用于通用计算任务,CPU为主。
- 新应用场景:包括智能客服、游戏NPC、智能音箱、陪伴型机器人、内容生产等。
风险提示
- AI技术发展不及预期:当前NLP模型如ChatGPT仍存在缺陷,技术发展可能不达预期。
- 版权、伦理和监管风险:AIGC内容可能涉及版权和伦理问题,监管风险不容忽视。
- 半导体下游需求不及预期:芯片行业具有周期性,可能因宏观经济波动导致需求下降。
行业投资评级
- 看好:行业指数在6个月内相对于沪深300指数上涨超过10%。
- 中性:行业指数在-10%至+10%之间。
- 看淡:行业指数在6个月内下跌超过10%。
国内外主要厂商布局
- 谷歌:TPU v4集群,提供超1 exaflops浮点性能。
- 英伟达:GPU+CUDA,支持HPC和AI应用;基于Grace的系统与NVIDIA GPU结合,性能提升10倍。
- Habana:已被Intel收购,推出Gaudi(训练)和Goya(推理)芯片。
- 阿里巴巴:含光800AI芯片,自研架构与算法。
- 百度:昆仑2代AI芯片,采用7nm制程,性能提升2-3倍。
- 华为:昇腾910,业界算力最强的AI处理器。
- AMD:EPYC系列,采用Chiplet技术,性能持续提升。
- 英特尔:Meteor Lake,首次采用Chiplet设计,性能功耗比目标提升1.5倍。
技术演进路线
- 查存计算:早期技术,GPU用于复杂函数运算。
- 近存计算:如AMD Zen系列CPU、三星HBM-PIM。
- 存内计算:如Mythic、千芯科技等。
- 存内逻辑:满足大模型计算精度要求,如TSMC和千芯科技。
结论
ChatGPT等AI模型的广泛应用显著提升了算力需求,推动芯片产业量价齐升。未来,Chiplet和存算一体技术将成为提升算力和能效的关键。国内GPU、CPU、FPGA、AI芯片及光模块产业链具备良好的发展前景,值得关注。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载