陈冠中：地瓜机器人RDK系列部署生成式AI模型-25页_4mb

地瓜机器人RDK系列部署生成式AI模型总结

1. RDK系列产品介绍

RDK是地瓜机器人开发套件的缩写，基于地瓜智能芯片设计，帮助开发者快速搭建机器人原型。嵌入式系统是一种专为特定任务设计的计算机系统，融入其他设备中，满足实时性、可靠性、低功耗和低成本要求。RDK系列产品包括RDKX3、RDKX3Module、RDKX5和RDKX5Module等。这些产品具有高性能计算能力、多种存储选项、4G/8G内存、丰富的接口如CANFD、双频Wi-Fi6+蓝牙5、Type-C供电和Debug功能，适用于机器人开发、AIoT等场景。RDKX3提供5Tops计算，RDKX5提供5Tops或更高，支持多种认证标准。

2. RDK上的模型部署

模型部署涉及人工智能的演变，重点是自然语言处理（NLP）和大语言模型（LLM）。AI历史显示LLM基于Transformers预训练，优于传统语言模型，适用于ChatGPT、文心一言等。地瓜工具链支持端到端流程：定义问题、准备数据、选择模型、训练调优、量化部署和系统对接。工具链包括模型Zoo，覆盖以图搜图、目标检测等任务。

3. RDK上LLM技术选型

LLM主要分为基于Transformers和RNN两类。Transformers依赖注意力机制处理序列数据；RNN通过时间步共享信息。RWKV模型结合两者优点，采用TimeMixing捕捉时间依赖性，ChannelMixing高效融合通道信息。其优势包括类似RNN的固定状态、高效训练（O(T)时间复杂度）和低空间复杂度（O(1)），适用于端侧部署。

4. RDK上LLM效果演示

演示展示了端侧和云端LLM应用效果，包括端侧RWKV-V5、Llama1B模型的推理性能，以及云端Qwen的多模态应用，突出在机器人平台的高效运行和实时交互能力。