2025年DeepSeek模型优势_算力_成本角度解读报告-浙江大学(王则可)_23页_18mb
报告摘要
DeepSeek模型的分析中心思想:从算力、成本角度解读中国AI大模型的竞争力,尤其在面对美国技术封锁下的创新求生策略。以下是核心总结要点:
-
DeepSeek模型优势:通过Mixture-of-Experts(MoE)结构,实现高精度、低成本计算,单次训练成本较国际模型低数十倍,破解算力卡脖子问题。
-
性能与其他模型比较:在全球AI模型排名中表现突出,如在MMLU-Pro、Math等基准测试上接近或超越GPT-4和Claude-3.5。DeepSeek-V3参数规模达37B,推理性能提升显著,KV缓存占用减少93.3%。
-
算力与成本分析:AI大模型需要庞大算力,传统GPU如英伟达H800受限于美国出口禁令。单次预训练成本估算,DeepSeek-V3训练使用约5.6百万美元,相比Llama 3.1节省超97%成本。
-
AI扩展规律:遵循Scaling Law,参数和数据越大,模型效果越好,但成本指数级上升。资本驱动模式下,商业循环包括融资、采购硬件、训练模型、提供服务。
-
国内AI发展模式:受制于美国技术限制,中国依赖国产硬件如华为910B,并采用低成本策略如“战术穿插”(低成本快速迭代)。核心技术创新包括低秩注意力压缩和自研框架优化,通过绕开CUDA限制实现性能提升。
-
核心技术创新:DeepSeekMoE引入专家路由机制,使每个Token激活少部分参数,提升效率。同时利用自研DualPipe框架优化通信和计算重叠,增强推理速度。
-
宏观挑战与未来展望:面对算力卡脖子,DeepSeek代表国产模型的追赶,未来需突破工艺和工业化工转化。分析师认为中国AI以产业化优势应对资本主导市场,形成独特的竞争力路径。
总体,DeepSeek模型通过算法创新降低了AI门槛,展示了中国AI在受限制环境下的韧性与创新力。
试读结束,高清完整版pdf/doc/ppt,请点下载