AIGC大模型算力平台参考设计-浪潮信息_20页_5mb

开放加速规范AI服务器设计指南围绕生成式AI的算力需求和技术挑战，提出以应用为导向的系统设计原则。设计原则包括：应用导向原则强调聚焦实际场景，结合业务特性优化系统架构；多元开放原则支持多技术体系兼容，通过开源和标准接口实现硬件软化；绿色高效原则要求采用液冷散热和高效电源管理，降低PUE指标；统筹设计原则主张从规模化部署角度，统一计算、存储、通信资源协调。

设计指南分为多维协同设计、全面系统测试和性能测评调优三个层面。多维协同设计涵盖节点与集群层，节点层面包括系统架构（支持全互连FC和混合立方互连HCM拓扑）、OAM模块（定义接口规范，实现高性能AI计算）、UBB基板（承载8个OAM模块，提供×8链路互连方案）、硬件设计（强调PCIe互连和高速信号处理）、散热设计（采用N+1冗余风扇和冷板液冷方案）、系统管理（资产信息、寄存器规范及带外监控功能）、故障诊断（支持ECC错误、PCIe总线异常检测）和软件平台（兼容主流系统架构与AI框架）。集群层面涉及网络存储优化、整机柜设计（支持19/21英寸机柜部署）、液冷方案（低温水系统通过变频技术提升能效）、制冷系统（闭式冷却塔+CDU组合）和智能运维（可视化管理、能耗监控等）。

全面系统测试包括结构测试（验证无结构干涉）、散热测试（监控芯片温度与噪音）、稳定性测试（实测AC/DC/重启1000次以上）和软件兼容性测试（覆盖操作系统、算子、框架及模型）。性能测评调优分为基础性能测试（评估单卡/多卡算力、显存带宽）、互连性能测试（CPU-OAM带宽需达理论值80%，OAM间P2P带宽及延迟需匹配）、模型性能测试（针对8类任务如BERT、ResNet等）和调优策略（通过数据预处理、超参数调整、算子融合等提升计算效率）。

开放加速规范通过统一OAM与UBB设计标准，降低硬件开发门槛与成本，推动AI算力资源规模化应用。OAM模块采用PCIeSwitch实现与CPU的高速数据通道，支持32条内存通道；UBB基板通过OSFP/QSFP-DD连接器构建横向扩展拓扑，确保互连带宽与延迟一致性。液冷方案优化散热效率，智能运维体系提升系统可靠性。设计指南强调跨厂商兼容性，通过1H端口及中背板互连，实现高密度、低功耗的AI集群部署，满足生成式AI大模型训练对超大规模数据处理及高效通信的需求。