Atlas_300T_Pro_训练卡_技术白皮书_24页_617kb

Atlas 300T Pro 训练卡（型号9000）技术白皮书总结

核心内容

Atlas 300T Pro 训练卡（型号9000）是一款高性能的AI加速卡，旨在为数据中心提供强大的算力支持，适用于人工智能训练和高性能计算领域。

主要观点

• Atlas 300T Pro 训练卡（型号9000）与服务器配合使用，能够显著提升深度学习训练效率，单卡提供最高280 TFLOPS FP16算力。
• 该训练卡集成了AI算力、通用算力和I/O能力，具备高度集成化的特点。
• 通过PCIe 4.0和1*100G RoCE高速接口，训练卡能够实现高速数据传输，提升训练数据和梯度同步效率。
• 支持带内和带外管理功能，包括在线升级、设备状态监控、资产管理等，提升维护便捷性。
• 提供丰富的硬件兼容性，支持华为和第三方服务器，具体信息可参考相关兼容性查询链接。
• 通过多项国际认证，包括CE、RCM EMC、FCC EMC、ICES EMC、UKCA、VCCI、RoHS和VEEE等，确保产品符合全球标准。

关键信息

产品规格

• 形态：双槽位全高全长（10.5英寸）
• AI处理器：昇腾910 AI处理器，集成30个达芬奇AI Core + 16个TaiShan核
• 内存规格：32GB片上内存 + 16GB DDR4，支持ECC
• 网络接口：1*100GE QSFP-DD接口，支持RoCE协议
• 功耗：最大300W
• 散热方式：被动风冷
• 尺寸：266.7mm x 111.15mm x 39.04mm
• 重量：1.2kg

环境条件

• 工作温度：5℃~45℃
• 存储温度：-40℃~+70℃
• 工作湿度：8%RH~90%RH（非冷凝）
• 存储湿度：5%RH~95%RH（非冷凝）
• 工作海拔：≤3050m
• 散热要求：根据入口温度不同，风速和压降要求也不同，最低风量要求为5.0CFM

电源管理

• 主电源：要求对应槽位提供5.5A@12V及0.5A@3.3V标准供电能力
• 辅助电源：提供18.75A@12V
• 电源连接器针脚间距：4.20mm
• 针脚定义：包括4个GND和4个12V电源线

热插拔

• 不支持通知式热插拔和暴力热插拔

系统框图

• 核心组件包括Ascend 910 AI处理器、iBMC管理模块、内存、电源和散热系统
• 支持通过虚拟化技术将昇腾AI处理器切分为多个虚拟NPU实例

典型使用场景

• 系统管理员：通过iBMC系统进行带外管理，包括OS安装、固件升级、系统信息查询和故障处理
• 生产装备人员：通过装备系统与iBMC和OS交互完成设备操作
• 算法工程师：使用Tensorflow等AI框架进行模型开发、训练和调试

管理功能

• 带内管理：支持在线升级、设备状态监控、命令行管理、资产管理
• 带外管理：通过SMBUS接口和iBMC系统实现设备监控、告警信息处理

重要声明

• 本文档内容可能随产品版本更新而变化，仅作为使用指导，不构成任何明示或暗示的担保
• 产品生命周期和漏洞处理流程详见华为官网相关链接
• 用户使用产品需遵守华为企业业务最终用户许可协议（EULA）
• 产品初始数字证书详见华为设备初始数字证书权责说明

兼容性

• 华为服务器型号：Atlas 800 推理服务器（型号3000、3010）
• 第三方服务器型号：可查询昇腾兼容性认证服务器目录

认证信息

缩略语