> **来源：[研报客](https://pc.yanbaoke.cn)** # RK182X 文档总结 ## 核心内容 RK182X 是瑞芯微推出的一款专为端侧大模型设计的 AI 推理芯片，标志着 AIoT 2.0 的到来。该芯片通过引入 3D 堆叠技术，将 DRAM 晶圆直接堆叠在 NPU 逻辑晶圆之上，从而大幅提升带宽和能效比，解决了传统 SoC 在处理大模型时的性能瓶颈。 ## 主要观点 - **AIoT 2.0 的愿景**：实现“听懂、看懂、思考”，使智能硬件具备更高级的感知、理解与决策能力。 - **端侧大模型部署**：通过 3D DRAM 技术实现高带宽、低功耗、高能效比，满足复杂模型在端侧的高效运行。 - **算力特性转变**：从计算密集型转向内存密集型，以适应 Transformer 架构与 Attention 机制的需求。 - **多模态与智能交互**：支持 ASR、TTS、视觉编码、OCR、多模态等模型，实现自然交互、意图理解与个性化服务。 - **应用场景拓展**：涵盖智能家居、智能办公、智能车载、智能机器人、工业检测、智慧交通等多个领域，推动人机交互从“遥控器”向“私人管家”升级。 ## 关键信息 ### 技术特点 - **3D DRAM**：内嵌 2.5GB、5GB DRAM，无需外挂 DDR，降低 BOM 成本。 - **超高带宽**：实测等效带宽可达数百 GB/s，远超传统 LPDDR4/5 的几十 GB/s。 - **能效比提升**：传输距离短，访存功耗低，单位比特能耗降低一个数量级。 - **NPU 设计**：支持 Transformer 架构与 Attention 机制，提供低比特量化方案（如 W4A16），提升模型精度与运行效率。 ### 性能表现 - **大模型推理性能**：Qwen 2.5-3B 模型在 RK182X 上实现 100+ TPS。 - **多模态模型支持**：如 FastVLM_1.5B、InternVL3.5-4B、Qwen2.5-VL-7B 等，支持图像理解、视频分析、自然语言处理等任务。 - **模型精度保持**：在 W4A16 量化下，保持较高的模型精度，如 Qwen3-4B 在 GSM8k 数据集上精度为 89.84%，YOLOv8s 在 COCO2017 上 AP@.5:.95 为 0.380。 ### 商业模式 - **主控 + 协处理器**：主控负责通用任务，协处理器负责 AI 算力与带宽，实现算力解耦，提升系统灵活性与性价比。 - **无缝升级**：通过外挂 M.2 模组，无需改动原有主板即可实现 AIoT 2.0 升级。 - **生态合作**：与多家模型厂商合作，支持主流模型，包括 Qwen、GLM Edge、Hunyuan-MT1.5、Youtu-LLM 等。 ### 产品需求与挑战 - **隐私安全**：端侧处理敏感数据，避免数据泄露，建立用户信任。 - **实时性**：支持毫秒级响应，满足工业控制与自然交互需求。 - **模型精度与生态**：通过量化方案支持模型精度，同时构建完善的模型生态。 - **功耗挑战**：降低 AI 算力与 DRAM 功耗，提升设备续航能力。 - **商业化性价比**：减少外挂 DDR 容量与成本，提高整体产品竞争力。 ## 产品与平台 - **典型应用**：支持 LLM、VLM、CNN、ViT 等模型，适用于视频分析、语音识别、图像分类、目标检测、深度估计等场景。 - **开发工具链**：提供 RKNN3 SDK，涵盖模型转换、精度仿真、板端验证与部署优化。 - **平台方案**：包括 NPU 加速卡、SO-DIMM 接口、M.2 接口等，适配多种设备形态。 ## 未来展望 RK182X 作为瑞芯微 AIoT 2.0 的关键组件，将推动智能硬件从“看清”到“看懂”的转变，实现更智能、更自然、更个性化的用户体验。同时，通过双轨研发策略，瑞芯微可快速迭代主控与协处理器，满足不同层级的市场需求。 ## 联系信息 - **地址**：中国福建福州鼓楼区铜盘路软件园 A 区 18 号楼 - **邮箱**：service@rock-chips.com - **邮编**：350003 - **电话**：86-591-83991906 - **传真**：86-591-83951833 - **社交媒体**：微信公众号、微信视频号、微博号等 ## 总结 RK182X 是 AIoT 2.0 的核心芯片，通过 3D DRAM 技术实现端侧大模型的高效运行，支持多种 AI 模型，提升智能硬件的感知、理解与决策能力。其灵活的架构与生态合作，为 AIoT 应用提供了强大的算力与性能保障，同时兼顾隐私、安全与功耗，是未来智能硬件发展的关键一步。