清华-2018人工智能芯片技术白皮书-2018.12-47页-4mb

人工智能芯片技术白皮书（2018）总结

核心内容概述

本白皮书系统地分析了人工智能芯片的发展背景、关键技术特征、技术挑战与发展趋势，为AI芯片的研发和应用提供了全面的技术指引。AI芯片作为人工智能技术的物理基础，其发展对AI的性能提升、能耗优化和应用扩展具有决定性作用。

主要观点与关键信息

1. AI芯片的定义与分类

AI芯片是为人工智能应用设计的硬件平台，主要分为三类：

• 通用芯片：如GPU，用于支持AI应用的高效计算。
• 专用加速芯片：专门用于加速机器学习算法，如NVIDIA的Tensor Core GPU和Google的TPU。
• 神经形态计算芯片：受生物神经网络启发，具有高并行性、低功耗和事件驱动等特性。

2. AI芯片的关键特征

• 新型计算范式：处理非结构化数据，依赖大规模并行计算和数据本地化。
• 训练与推断需求不同：训练需要高精度、高带宽和高存储能力；推断则更关注能效、速度和实时性。
• 大数据处理能力：AI芯片需要具备处理大量数据的能力，以克服“内存墙”问题。
• 数据精度：AI芯片正在向低精度设计发展，以提升能效和计算速度。
• 可重构能力：支持多种AI算法，适应不同的应用场景。
• 软件工具链：AI芯片需配合高效的软件开发工具，如NVIDIA的CUDA、TensorFlow、PyTorch等。

3. AI芯片的发展现状

• 云端AI芯片：NVIDIA的V100 GPU和Google的TPU是当前的代表，具备高吞吐、高带宽和可扩展性。
• 边缘AI芯片：边缘设备主要执行推断任务，对功耗、体积和成本有严格限制。例如，MobileEye和NVIDIA的Drive PX用于自动驾驶。
• 云与端的协作：云端负责训练，边缘设备负责推断，未来可能实现端侧训练和分布式AI处理。

4. AI芯片的技术挑战

• 冯·诺伊曼瓶颈：传统架构中数据存储和计算之间的延迟和能耗问题严重。
• CMOS工艺和器件瓶颈：随着工艺尺寸缩小，电流泄漏和能耗增加成为制约因素。
• 存储技术瓶颈：传统存储器如DRAM和NAND在性能和能耗上无法满足AI芯片的高要求，需要新型存储器和架构。

5. AI芯片的架构设计趋势

• 云端架构：强调大存储、高性能和可伸缩性，支持多芯片互连。
• 边缘架构：追求极致效率，采用低功耗、低延时的计算方式。
• 软件定义芯片：具备动态重构能力，能够适应多种AI算法和任务需求，如清华大学的Thinker芯片。

6. 存储技术在AI芯片中的作用

• AI友好型存储器：如HBM、SRAM、NVM等，用于提升数据访问效率和计算性能。
• 片上存储器：如SRAM，具有低延时和高带宽，适合实时数据处理。
• 新兴存储器：如ReRAM、PCM、STT-MRAM等，具备高密度、低功耗和模拟计算能力，为存内计算和神经形态芯片提供支持。

7. 新兴计算技术

• 近内存计算：减少数据搬运，提升带宽和能效。
• 存内计算：直接在存储器中进行计算，显著降低延迟和能耗。
• 基于新型存储器的神经网络：如RRAM、FeFET等，支持模拟计算和高密度存储。
• 生物神经网络：如脉冲神经网络（SNN）和神经形态芯片，具有低功耗、低延迟和高并行性。

8. 神经形态芯片

• 算法模型：包括SNN和ANN，SNN更符合生物神经网络特性。
• 特性：
  • 高并行互联：支持任意神经元之间的连接。
  • 众核结构：采用分簇设计，支持大规模并行计算。
  • 事件驱动：基于生物神经元特性，实现低功耗和高效率。
  • 数据流计算：以图结构表示运算和传输，适合神经网络应用。

9. 机遇与挑战

• 机遇：神经形态芯片在智能城市、自动驾驶、人脸识别等领域有广泛应用。
• 挑战：
  • 物理结构限制，如散热、存储密度和功耗。
  • 软件和算法的复杂性，SNN等算法仍处于研究阶段。
  • 需要更深入的脑科学研究来支持生物启发的算法开发。

技术展望

AI芯片未来将朝着更高效的计算架构、更灵活的可重构能力、更强大的存储技术以及更符合生物神经网络特性的神经形态计算方向发展。随着芯片制造工艺的进步、新型存储器和计算架构的引入，AI芯片将更广泛地应用于各种AI场景，成为推动人工智能技术发展的关键硬件支撑。