【国泰君安】电子元器件行业系列四：加速端侧AI推广落地，Deepseek本地部署加速端侧AI推广落地

Deepseek 本地部署加速端侧 AI 推广落地总结

核心内容

Deepseek 作为一款开源大模型，其本地部署能力显著提升了端侧 AI 的灵活性与数据隐私保护，为个人和企业用户提供了更广泛的 AI 应用场景。通过模型蒸馏技术，Deepseek 可以生成性能优异的小模型，适用于不同硬件条件下的部署需求。此外，Deepseek 的本地部署需要借助 Ollama 工具，这为构建私有化的 AI 知识管理系统提供了技术支持。随着端侧 AI 的发展，SOC 芯片的算力和传输能力将成为关键因素，而端云协同升级将是未来技术发展的必然趋势。

主要观点

• 本地部署优势：Deepseek 的本地部署提供了更高的灵活性和隐私保护，适合对数据安全有较高要求的场景。
• 模型规模与性能：Deepseek 模型从 1.5B 到 671B 不等，其中 Deepseek-V3 拥有 6710 亿参数，通过混合专家架构等技术优化了计算效率。
• 硬件适配要求：不同模型对硬件资源的需求不同，从入门级的 1.5B 模型到需要多 GPU 支持的 671B 模型，硬件配置的选择至关重要。
• 开源模型推动生态发展：开源模型的兴起加速了人工智能生态的构建，如 Meta 的 Llama2 在 GitHub 社区有超过 4.2 万名贡献者，修复漏洞速度更快，且支持多种国产芯片。
• 私有化知识管理系统：利用 AnythingLLM 和 Ollama，用户可以构建自己的本地知识库，实现数据隐私保护和个性化定制。
• 端侧芯片需求增长：随着蒸馏模型能力的提升，端侧 SoC 将更加注重模型的本地部署和推理能力，推动 AI 向本地设备转移。

关键信息

• Deepseek 模型部署需求：

  • 1.5B-7B：适合对响应速度要求高、硬件资源有限的场景，如移动端的简单智能助手。
  • 8B-14B：适用于小型企业的日常文本处理和普通智能客服。
  • 32B-70B：适用于对准确性有较高要求的场景，如专业领域的知识问答系统和中等规模的内容创作平台。
  • 671B：适用于大型科研机构和大型企业，对算力和存储要求极高。

• 推荐标的：

  • 端侧 SOC：瑞芯微、恒玄科技、晶晨股份、中科蓝讯。
  • 存储：兆易创新。
  • 相关受益：乐鑫科技、全志科技、炬芯科技、中兴通讯。

• 投资建议：

  • 根据盈利预测和 PE 值，上述公司均被给予“增持”评级。

• 催化剂：

  • AI 模型成本持续下降。
  • AI 端侧落地加速。

• 风险提示：

  • 端侧模型落地进展不及预期。
  • AI 技术迭代不及预期。

技术趋势

• Scaling Law：模型参数越多，性能越强，因此端侧和云端都需要不断提升性能以适应模型规模的扩大。
• 端云协同：端侧设备需在有限资源下实现高效计算，云端则需提供更强的算力和存储支持。
• 专用硬件发展：NPU 等专用硬件加速器的发展将进一步提升端侧设备的 AI 处理能力。

本地知识库构建

• AnythingLLM：支持将本地文档或数据源整合进可检索、可对话的知识库，用户可上传 PDF、TXT、DOCX 等格式文档。
• 数据隐私保护：本地知识库将数据处理和存储保留在本地设备上，避免隐私泄露。
• 资源优化与成本控制：通过本地部署，用户可以根据自身需求进行定制化，降低云端依赖，提升资源利用效率。

投资建议比较标准

• 股票投资评级：以报告发布后 12 个月内的市场表现为基准，与沪深 300 指数进行对比。
  • 增持：相对沪深 300 指数涨幅 15% 以上。
  • 谨慎增持：相对沪深 300 指数涨幅介于 5%~15% 之间。
  • 中性：相对沪深 300 指数涨幅介于 -5%~5%。
  • 减持：相对沪深 300 指数下跌 5% 以上。
• 行业投资评级：以行业指数表现为基准，分为增持、中性、减持三种。

附录

• 文档评级：增持。
• 分析师：舒迪。
• 联系方式：021-38676666，shudi@gtjas.com。
• 研究助理：王美懿。
• 相关报告：多份关于 AI、算力、存储等领域的报告。

注：文档中提及的“2025年1月21日我花在吃东西上多少钱”为具体消费记录，根据上下文，该天花在吃东西上的金额为 30 元。