AIIA发布业界权威AI芯片目录集:AI芯片技术选型目录-2020.7-97页_2mb
报告摘要
中国人工智能产业发展联盟AI芯片技术选型目录(2020)总结
核心内容
中国人工智能产业发展联盟(AIIA)计算架构与芯片推进组发布《AI芯片技术选型目录(2020)》,旨在为AI芯片供应商和需求商提供交流平台,促进供需对接与产业健康发展。目录内容涵盖云端/数据中心、边缘计算、终端、IP技术等不同应用场景的AI芯片产品,重点介绍了各产品的技术特点、性能指标、应用案例和产品信息。
主要观点
- AI芯片已成为推动人工智能发展的关键要素,其应用场景从云端扩展至终端设备。
- 云端训练与推断、边缘计算、终端计算是AI芯片的三大主要部署场景。
- 目录以企业自愿报名方式征集产品信息,并通过测试验证与行业基准测试(如AIIADNNbenchmark)反映芯片的真实性能。
- 芯片设计逐渐聚焦于特定场景的优化,如视频处理、语音识别、智能驾驶等。
- 中国AI芯片企业在云端与边缘计算领域已具备一定的竞争力,部分产品性能可与国际大厂(如NVIDIA)相媲美。
关键信息
一、云端/数据中心
2.1 云端训练
-
百度昆仑1芯片:
- 基于XPU架构,支持训练和推理;
- 采用14nm工艺,支持FP16/FP32/INT8等数据类型;
- 峰值算力256TOPS,内存16GB,带宽512GB/s,功耗150W,上市时间2019年11月。
-
邃思通用人工智能训练芯片(上海燧原科技):
- 12nm FinFET工艺,2.5D封装,晶体管数量141亿;
- 峰值算力20TFLOPS@FP32,80TFLOPS@BF16/FP16,最大功耗190W;
- 支持多种数据类型,具备高带宽和低延时,已获得24项授权专利。
-
NVIDIA A100/V100/T4 Tensor Core GPUs:
- NVIDIA A100采用7nm工艺,峰值算力624TOPS@INT8,功耗400W,内存40GB HBM2,带宽1555GB/s,上市时间2020年5月;
- NVIDIA V100(NVLink)和V100(PCIe)支持多种深度学习任务,算力分别达到1248TOPS和15.7TFLOPS;
- NVIDIA T4适用于推理任务,功耗70W,内存16GB GDDR6,带宽320+GB/s,上市时间2018年3月。
2.2 云端推断
-
赛灵思Alveo加速器卡:
- Alveo U50、U200、U250、U280等型号,支持多种精度和深度学习框架;
- U50功耗50W,内存8GB,带宽316GB/s,支持金融、视频处理等应用场景;
- U200、U250功耗100W-225W,内存64GB,带宽77GB/s,适用于高计算强度任务;
- U280支持双网络连接,功耗100W,内存8GB HBM2 + 32GB DDR4,带宽460GB/s。
-
中科寒武纪思元100:
- 支持多种精度,INT8算力32TOPS,FP16算力16TFLOPS;
- 内存8GB/16GB,带宽102GB/s,功耗75W,上市时间2018年5月。
-
中科寒武纪思元270:
- 支持INT8/FP16/FP32,算力达到128TOPS@INT8;
- 内存16GB,带宽102GB/s,功耗70W,上市时间2019年6月。
-
比特大陆BM1684:
- 支持INT8/FP16,算力17.6TOPS@INT8,Winograd加速下可达35.2TOPS;
- 内存12GB LPDDR4X,带宽68.3GB/s,功耗16W,上市时间2019年9月。
-
鲲云星空X3加速卡:
- 支持ResNet、YOLO等主流CNN模型,内存8GB DDR4,带宽32GB/s;
- 峰值功耗56W,支持分类、目标检测、语义分割等任务,芯片利用率高达95.4%;
- 上市时间2020年6月。
-
华为昇腾310AI处理器:
- 达芬奇架构,支持INT8/FP16,算力16TOPS@INT8,8TOPS@FP16;
- 内存LPDDR4X,带宽2*64bit@3733MT/S,功耗4W-8W,上市时间2019年;
- 支持多种深度学习框架,适用于图像识别、视频处理等任务。
2.3 小结
- 云端训练与推断芯片涵盖了百度、燧原、NVIDIA、中科寒武纪、比特大陆、鲲云、华为等企业;
- 云端推断芯片在能效比、算力、部署灵活性等方面各有优势;
- 云端推断芯片的性能与功耗比在不同应用场景中表现各异,部分产品性能领先。
二、边缘计算
3.1 上海天数智芯IIuvatarCoreXI芯片
- 针对边缘计算场景设计,支持主流CNN模型;
- 峰值功耗5W,内存8GB,带宽273GB/s;
- 支持FP16计算,算力4.8TFLOPS,适用于智慧零售、园区、医疗等场景;
- 已适配国产CPU(如ARM、X86、龙芯);
- 专利数量17项,支持Tensorflow原生框架扩展。
3.2 NVIDIA Jetson与NVIDIA T4 Tensor Core GPUs
-
NVIDIA Jetson:
- Jetson Nano:Maxwell架构,128CUDA核心,适用于嵌入式AI开发;
- Jetson TX2:Pascal架构,256CUDA核心,适用于工业物联网;
- Jetson Xavier NX:Volta架构,384CUDA核心+48Tensor核心,支持多传感器数据处理;
- Jetson AGX Xavier:Volta架构,512CUDA核心+64Tensor核心,适用于高性能边缘计算。
-
NVIDIA T4 Tensor Core GPU:
- Turing架构,支持实时光线追踪、AI、模拟等;
- 适用于高性能计算与超大规模数据中心,支持多种AI任务。
3.3 其他边缘计算芯片
-
紫光展锐虎贲T710:
- 适用于安防、机器人、车载等场景;
- 专利数量未提供。
-
中科寒武纪思元220M.2:
- 适用于边缘端的AI推理任务;
- 专利数量未提供。
-
华为昇腾310AI处理器:
- 适用于边缘计算,算力16TOPS@INT8,8TOPS@FP16;
- 支持多种AI框架,适用于图像识别、视频处理等任务。
3.6 小结
- 边缘计算芯片主要应用于智能视频分析、工业检测、安防等场景;
- 芯片设计注重低功耗与高能效比;
- 多种芯片支持主流深度学习框架,便于开发与部署。
三、终端
4.1 通用端侧产品
-
NVIDIA Jetson:
- 适用于智能网关、机器人、传感器等;
- 支持多种深度学习任务,性能与功耗平衡。
-
华为昇腾310AI处理器:
- 部署于终端设备,支持多种AI任务;
- 算力16TOPS@INT8,8TOPS@FP16,功耗4W-8W。
-
瑞芯微RK1808AIoT芯片方案:
- 支持多种AI应用,适用于智能终端设备;
- 功耗未提供。
-
瑞芯微RK3399Pro:
- 高性能AI芯片,适用于边缘端计算;
- 支持多种AI框架,性能较强。
-
天数智芯IIuvatarCoreXI芯片:
- 适用于终端计算,支持多种AI任务;
- 功耗低,适用于嵌入式系统。
4.2 智能驾驶
-
赛灵思ZU7EV:
- Zynq UltraScale+ MPSoC,适用于智能驾驶系统;
- 支持多种AI任务,具备高灵活性。
-
NVIDIA DRIVE:
- 针对自动驾驶开发,支持多种AI算法;
- 高性能GPU,适用于复杂AI任务。
4.3 安防、机器人、车载
-
云天励飞深度学习神经网络处理器:
- 适用于安防、工业检测等;
- 支持多种AI任务,性能较高。
-
紫光展锐虎贲T710:
- 适用于安防、机器人、车载等场景;
- 支持多种AI任务,功耗低。
-
华为Hi系列芯片:
- Hi3516DV300、Hi3519AV100、Hi3559A V100、Hi3562V100、Hi3566V100、Hi3568V100等;
- 适用于视频监控、智能安防等,支持多种AI任务。
4.4 手机
-
华为Kirin 990 5G处理器:
- 集成NPU,支持多种AI任务;
- 功耗低,性能优异。
-
高通骁龙865移动平台:
- 集成AI引擎,支持多种AI应用;
- 高性能,适用于高端智能手机。
4.5 语音
-
启英泰伦CI1103:
- 适用于语音识别、降噪等;
- 功耗未提供。
-
深聪半导体AI语音芯片:
- 支持语音识别,适用于智能终端设备。
-
清微智能TX210:
- 支持语音识别,适用于终端设备。
4.6 小结
- 终端AI芯片主要应用于手机、智能设备、安防、机器人、车载等领域;
- 芯片注重低功耗、高性能、多场景适应性;
- 部分芯片已实现商用部署,支持主流AI框架。
四、IP技术
-
安谋科技周易AIPU:
- 适用于AI加速,支持多种AI任务;
- 专利数量未提供。
-
颗脉PowerVR NNA神经网络加速器系列IP:
- 适用于AI加速,支持多种深度学习框架;
- 专利数量未提供。
5.3 小结
- IP技术是AI芯片设计的重要组成部分,为芯片提供计算单元与加速能力;
- 企业通过IP技术实现AI芯片的定制化与高性能。
五、附录与说明
- 选型目录由AIIA委托中国信息通信研究院进行验证测试,测试结果可公开查询;
- 参与测试的芯片会显示“tested by AIIA”和“AIIADNNbenchmark”标识;
- 产品信息由企业提供并经审核,AIIA不承担数据真实性责任;
- 目录内容将根据实际案例持续更新,以推动AI芯片产业健康发展。
总结
《中国人工智能产业发展联盟AI芯片技术选型目录(2020)》全面梳理了当前AI芯片在云端、边缘和终端的应用情况,展示了各企业产品的技术特点、性能指标和应用场景。目录不仅为用户提供选型参考,也为芯片企业提供了宣传与测试验证的平台。未来,目录将基于真实案例迭代更新,推动AI芯片技术的发展与产业应用的深化。
试读结束,高清完整版pdf/doc/ppt,请点下载