人工智能背景下“存算感连“发展新态势_17页_2mb
报告摘要
人工智能背景下“存算感连”发展新态势总结
核心内容
在人工智能快速发展的背景下,“存算感连”一体化正成为推动技术进步和产业变革的重要方向。这一趋势融合了存储、计算、感知和连接四大核心技术,旨在解决人工智能在数据处理、算力效率、数据采集与传输等方面的瓶颈,实现技术协同与系统优化。
主要观点
一、为什么是“存算感连”?
- 一体化趋势:从“存算连”到“感存算”再到“存算感连”,一体化发展正逐步打通机器人、视觉、大模型与云端等领域的技术壁垒。
- 技术爆发:国际龙头企业如英伟达、SK海力士等通过“HBM(存)+H100等(算)+NVLink/IB(连)”技术路径推动了人工智能的爆发式增长。
- 未来方向:随着人工智能大模型向边缘和可穿戴设备拓展,“存算感连”一体化很可能成为未来发展的主流方向。
二、“存”——人工智能大模型迭代关键
- HBM存储器:高带宽内存(HBM)是当前AI芯片迭代的核心,缓解“存储墙”问题,提升算力效率。
- 产能增长:2024年全球HBM产能相比2023年大幅增长,SK海力士订单接近饱和。
- 新型存储器:LPW(低功耗高带宽)等新型存储器将缓解端侧AI运算的带宽瓶颈和能耗问题。
- 存算一体:存算一体技术有望解决冯诺依曼架构下的存储与计算分离问题,成为未来算力效率提升的解决方案。
- 先进封装:存算结合推动了CoWoS等先进封装技术的发展,2025年台积电CoWoS月产能预计达到7.5-8万片。
三、“算”——人工智能发展核心动力
- 三大趋势:
- 算力增长:新一代芯片算力持续倍增,如B300芯片运算效能较B200提升50%。
- 软硬结合:算法、软件与硬件深度融合,如英伟达与戴尔合作的AI工厂平台。
- 应用多样化:从CPU到GPU再到XPU,硬件形态不断丰富,满足不同场景需求。
- 技术路径:博通、美满电子等企业通过ASIC/DSA路线开发XPU芯片,提供定制化解决方案。
- 算力成本:高投资、高技术、高回报的循环模式受到挑战,单纯“堆算力”模式受到质疑。
四、“感”——人工智能拓展领域的触角
- 传感器作用:作为存算感联系统的“感官神经”,传感器实时采集海量数据,是智能决策与自主进化的基础。
- 发展趋势:
- 低功耗化:传感器向低功耗、自供能方向发展,以满足可穿戴设备、物联网等场景的长期使用需求。
- 微型化:传感器体积不断缩小,有的甚至小似针头。
- 集成化:多模态感知、软硬件一体化集成成为发展方向。
- 智能化:传感器与AI、物联网融合,实现从数据采集到“感知-决策”一体化。
- 数据采集:预计2032年传感器安装数量将从2018年的1万亿增长到45万亿,数据采集率将超过10²⁰bit/s。
- 挑战与应对:传感器数据面临识别和安全两大问题,需提升本地信号处理和决策能力,以减少对云端的依赖。
五、“连”——推动人工智能技术的融合
- 连接技术作用:连接是存算感联系统的“神经系统”,保障数据传输和全局资源协同。
- 主要技术路径:
- LPO技术:通过线性直驱技术降低功耗和延迟,适用于数据中心内部高速互连。
- CPO技术:光电共封装技术可降低功耗、成本,实现高度集成。
- 硅光技术:集成度高、带宽高、成本低,推动光通信系统的高度集成化。
- 连接优势:
- 数据传输速率提升:3-5万只800G/1.6T光模块可赋能单个千卡AI集群训练。
- 训练时间缩短:光互连技术使ResNet-50训练时间从10天压缩至4小时。
- 成本下降:光模块功耗降低,数据中心年省电费超500万美元。
- 技术协同:连接技术与存算感协同进化,推动存算协同化、感知实时化和推理智能化。
关键信息
- HBM:高带宽内存是AI芯片迭代的关键,2025年英伟达Blackwell Ultra使用12层堆叠HBM3e,显存提升至288GB。
- GPU市场:预计2023-2029年复合年增长率25%,2029年GPU收入将比CPU多两倍。
- 传感器数据:2032年传感器安装数量预计达45万亿,数据采集率将远超全人类信息数据采集率。
- 连接技术:NVLink已迭代至第五代,带宽达1800GB/s,支持分布式存储池与计算节点的动态重构。
- 光互连优势:降低延迟、提升算力利用率、减少训练时间、降低能耗,是未来连接技术的重要方向。
未来展望
“存算感连”一体化将成为推动人工智能技术发展的关键,通过存储、计算、感知和连接的深度融合,实现技术协同与系统优化,推动人工智能向更高层次发展。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载