AI芯片基础知识_67页_1mb

AI芯片基础知识总结

核心内容概述

本文档系统地介绍了AI芯片的基础知识，包括芯片的分类、CPU和GPU的定义与特性、ASIC和FPGA的定义与区别，以及它们在AI计算中的应用和趋势。

---

芯片的分类

芯片按照功能和用途可以分为以下几类：

• 逻辑芯片：用于执行特定逻辑运算，是现代电子系统的核心组件。
  • 逻辑门电路包括与门、或门、非门、异或门等。
  • 广泛应用于消费电子、工业制造、教育医疗、国防军事等领域。

---

CPU 和 GPU

CPU 定义

• CPU（Central Processing Unit）是计算机系统的运算和控制核心。
• 主要功能包括解释指令、处理数据、协调硬件操作。
• 采用冯·诺依曼架构，包括运算器、控制器、存储器、输入/输出设备等。
• 处理流程：数据从存储器读取，控制器将数据交给运算器进行处理，运算结果再返回存储器。

CPU 的主要组成

• 运算器（ALU）：执行数学计算和逻辑判断。
• 控制器（CU）：协调CPU操作，包括取指、解码、执行、写回。
• 寄存器：高速缓存，存储最近使用的数据或即将使用的指令。
• 时钟模块：为CPU提供稳定的时基，驱动所有操作。

CPU 的类别（按指令集）

指令集名称	类型	推出时间	推出公司/机构	采用此指令集主要授权商
x86	CISC复杂指令集	1978年	Intel、AMD	兆芯、众志、海光等
ARM	RISC精简指令集	1985年	Arm（被软银收购）	苹果、三星、AMD、TI、东芝、微芯、高通等
MIPS	RISC精简指令集	1980年代	MIPS	瑞昱、炬力等
SPARC	RISC精简指令集	1985年	SUN（被甲骨文收购）	德州仪器、Cypress等
PowerPC	RISC精简指令集	1991年	IBM	苹果、任天堂、微软、索尼等
Alpha	RISC精简指令集	1992年	DEC（被惠普并购）	申威
RISC-V	开源	2010年	加州大学伯克利分校	GreenWaves、Imagination、平头哥等

GPU 定义

• GPU（Graphics Processing Unit）是图形处理单元，最初用于加速图形渲染。
• 现在广泛用于通用计算（GPGPU），特别是在深度学习、科学计算等领域。

GPU 的特点

• 高度并行架构：拥有成百上千个处理核心，适合并行计算。
• 专为浮点运算优化：适合处理矩阵乘法、向量运算等。
• 高内存带宽：配备高速显存（VRAM），提高数据处理速度。
• 低延迟响应：适合实时图形渲染和AI计算。
• 支持多种编程接口：如CUDA、OpenCL、Vulkan等。

GPU 的分类

• 独立GPU（dGPU）：用于高性能计算，如英伟达的GeForce系列。
• 集成GPU（iGPU）：集成在主板或CPU中，如Intel的集成显卡。

GPU 的主要参数

参数	说明
制程	表示芯片制造工艺，以nm为单位
图形处理器单元数量	决定并行处理能力
CUDA核数	影响GPU的通用计算性能
Tensor核数	用于加速AI计算，影响推理和训练效率
核心频率	影响GPU的性能
显存容量	决定GPU能处理的数据量
显存带宽	决定GPU数据传输效率
最高TDP	表示GPU的功耗
互联技术	如NVLink、PCIe等，影响数据传输效率

GPU 的应用

• 深度学习：训练和推理任务，使用大量并行计算。
• 图形渲染：用于3D图形、视频编码/解码。
• CUDA编程模型：英伟达推出，广泛用于科学计算和AI开发。

GPU 架构演进

架构代号	发布时间	工艺制程	代表型号
Tesla	2008	90nm	G80
Fermi	2010	40/28nm	Quadro 7000
Kepler	2012	28nm	K80、K40M
Maxwell	2014	28nm	M5000、M4000
Pascal	2016	16nm	P100、GTX1080
Volta	2017	12nm	V100、Titan V
Turing	2018	12nm	T4、2080TI
Ampere	2020	7nm	A100、3090
Hopper	2022	5nm	H100
Blackwell	2024	5nm	B200、B100

GPU 与 AI 计算

• AI 计算与图形计算一样，需要大量并行运算。
• GPU 凭借其并行计算能力和高内存带宽，成为AI训练和推理的首选。
• 英伟达主流AI算卡参数对比

项目	A100	H100	L40S	H200
架构	Ampere	Hopper	AdaLovelace	Hopper
发布时间	2020	2022	2023	2024
FP16 TensorCore	312 TFLOP	756.5 TFLOPS	366.5 TFLOPS	1979 TFLOPS
INT8 TensorCore	624 TOPS	1513 TOPS	733 TOPS	3958 TOPS
FP32	19.5 TFLOPS	67 TFLOPS	91.6 TFLOPS	67 TFLOPS
GPU内存	80 GB HBM2e	80 GB	48 GB GDDR6	141 GB HBM3e
GPU内存带宽	2.039 Tbps	3.35 Tbps	0.864 Tbps	4.8 Tbps
最高TDP	400 W	700 W	350 W	700 W
互联技术	NVLink:600GB/s, PCIeGen4:64GB/s	NVLink:900GB/s, PCIeGen5:128GB/s	PCIeGen4x16:64GB/s bidirectional	NVLink:900GB/s, PCIe Gen5:128GB/s

GPU 与 AI 的关系

• GPU 是当前深度学习训练和推理的主要硬件平台。
• 英伟达的 GPU 集群被广泛用于 AI 训练，其性能远超 CPU。

---

ASIC 和 FPGA

ASIC 定义

• ASIC（Application Specific Integrated Circuit）是专用集成电路，专为特定任务设计。
• 优势：高性能、低功耗、高成本效益、高安全性。
• 缺点：研发周期长、成本高、技术风险大。

ASIC 的应用领域

• 消费电子产品：如智能手机基带处理器。
• 网络通信：如路由器、交换机芯片。
• 加密货币挖矿：如比特币挖矿机。
• 汽车电子：如ADAS、动力总成控制单元。
• 医疗设备：如超声波成像仪、心电图仪。
• AI 加速器：如Google的TPU。

TPU（Tensor Processing Unit）

• 专为加速TensorFlow框架中的张量运算而设计。
• TPU v1: 提升性能15~30倍，能效提升30~80倍。
• TPU v4: 采用7nm工艺，性能比A100强1.7倍。

其他 ASIC

• 英特尔 Gaudi 2：用于AI训练和推理。
• IBM AIU：用于AI计算。
• 三星 ASIC：用于矿机。
• 华为昇腾系列：包括昇腾910（训练）、昇腾310（推理）。

FPGA 定义

• FPGA（Field Programmable Gate Array）是现场可编程门阵列，属于半定制电路。
• 可重复编程，适合快速开发和迭代。
• 内部结构包括可编程逻辑块（CLB）、输入/输出模块（I/O）、可编程互连资源（PIR）和SRAM。

FPGA 的组成部分

• CLB：由查找表（LUT）、多路复用器（MUX）、触发器（Flip-Flop）组成。
• I/O模块：实现芯片与外部设备的通信。
• PIR：提供丰富的连线资源，用于构建逻辑电路。
• SRAM：存储编程数据，控制逻辑功能。

FPGA 的使用

• 用户通过硬件描述语言（Verilog、VHDL）进行编程。
• 烧写后，FPGA加载程序并进入工作状态。
• 功能强大，理论上可实现任意ASIC的逻辑功能。

FPGA 厂商

• 海外厂商：
  • Xilinx（被AMD收购）
  • Altera（被Intel收购）
  • Lattice
  • Microsemi
• 国内厂商：
  • 复旦微电、紫光国微、安路科技、东土科技、高云半导体、京微齐力、京微雅格、智多晶、邀格芯

FPGA 与 ASIC 的区别

特性	CPU	GPU	FPGA	ASIC
定制化程度	通用	半通用	半定制化	全定制化
灵活性	高	高	高	低
成本	较低	高	较高	低
功耗	较高	高	较高	低
主要优点	通用性最强	计算能力强	灵活性强	能效最高
主要缺点	并行算力弱	功耗大，编程难	峰值计算能力弱	研发周期长
应用场景	较少用于AI	云端训练和推理	云端推理、终端推理	云端训练和推理、终端推理

---

AI 芯片发展趋势

• ASIC 芯片加速崛起：市场占比提升，适用于特定AI任务。
• 摩尔定律接近极限：探索新计算范式，如量子计算、类脑计算。
• 异构计算普及：结合CPU、GPU、DSP、FPGA等，实现高效资源调配。
• 端侧推理 AI 芯片提速：用于移动设备、边缘计算。
• 高度定制化 AI 芯片需求增加：针对自动驾驶、医疗影像、智能家居等应用。

---

总结对比

项目	CPU	GPU	FPGA	ASIC
定制化程度	通用	半通用	半定制化	全定制化
灵活性	高	高	高	低
成本	低	高	较高	低
功耗	高	高	较高	低
主要优点	通用性最强	计算能力强，生态成熟	灵活性强	能效最高
主要缺点	并行算力弱	功耗大，编程难	峰值计算能力弱	研发周期长
应用场景	较少用于AI	云端训练和推理	云端推理、终端推理	云端训练和推理、终端推理

---

结论

• GPU 是目前AI计算的主要硬件平台，因其强大的并行计算能力和成熟的生态。
• ASIC 在特定任务中表现出更高的能效和性能，逐渐在AI领域占据一席之地。
• FPGA 适合快速开发和低产量场景，具有较高的灵活性。
• 随着技术的发展，AI芯片将朝着高度定制化和异构计算方向发展，以满足多样化的计算需求。