2025年Chatting_or_Acting?-DeepSeek的突破边界与浙大先生的未来图景报告_43页_14mb
报告摘要
DeepSeek突破边界与浙大先生的未来图景总结
核心内容
DeepSeek是由浙江大学研发的高性能、低成本的国产开源大模型,其在多个方面实现了突破。DeepSeek-R1已发布并开源,性能可与OpenAI的o1正式版相媲美。在大模型主流榜单中,DeepSeek-V3在开源模型中位列第一,与最先进闭源模型不相上下。DeepSeek的广泛应用已使其在140多个国家的应用商店中下载排行首位,展现了其强大的市场竞争力。
主要观点
- 模型架构创新:DeepSeek采用了MoE架构并解决了路由崩溃的问题,同时引入了MLA多头潜在注意力机制,显著降低了成本并提升了效率。
- 工程优化:通过DualPipe流水线并行技术,DeepSeek的GPU利用率提升了30%以上。通信和内存管理优化进一步降低了跨节点通信开销和显存占用。
- 预训练数据与策略:DeepSeek的预训练数据包括14.8万亿Token的多样化语料,特别加强了数学与编程数据的比例。使用通多Token预测(MTP)技术,训练效率提升了1.8倍,推理速度显著加快。
- 低精度训练与成本控制:DeepSeek采用FP8混合精度训练,显存占用减少了40%。选择性保留关键模块的高精度计算,实现了效率与精度的平衡。
- 训练方法创新:引入冷启动数据构建和多阶段强化学习设计,通过R1-Zero的创新训练方式提升了模型的推理能力和任务执行效率。
关键信息
- 推理能力蒸馏与开源生态:DeepSeek的推理能力通过蒸馏技术迁移至Qwen/Llama系列,显著提升了其在特定领域的表现。开源6个蒸馏模型,覆盖1.5B至70B参数范围,API定价仅为OpenAI的3%。
- 国产算力适配:DeepSeek支持多种国产算力平台,如华为昇腾、沐曦、天数智芯等,展现了其广泛的适配性和兼容性。
- 国内云平台支持:阿里云、腾讯云、百度智能云、天翼云、移动云、联通云等云平台均接入DeepSeek,进一步推动其在各行业的应用。
- 智能体(Agent)的必要性:尽管大模型在自然语言交互方面表现突出,但智能体具备目标导向、任务执行、多模态交互、自主决策和个性化服务等优势,是AI应用交互进化的必然之路。
- 智能体开发与应用:智能体开发平台支持多模态能力,使得智能体的交互体验与APP相媲美。通过“工作流”的定义,多个智能体可协同完成复杂任务,如公安政务助手、深航销帮、智慧养殖专家等。
- 教育应用:DeepSeek被应用于浙江大学的教育系统,如“学在浙大”和“ETalk口语对话平台”,实现了课堂互动、个性化学习、智能批改等功能,有效提升了教学效率和学生学习体验。
- AI联盟与教育发展:浙江大学通过AI联盟和CARSI平台,将教育资源与AI技术结合,推动教育的智能化和普惠化发展。
DeepSeek多场景全面接入
- DeepSeek已接入三大基础运营商、超过15家芯片厂家、200多家企业及多个地方政府政务系统。
- 与微软、英伟达、亚马逊等世界级云计算巨头合作,进一步扩大其影响力。
智能体开发时代的到来
- 智能体由Instruction、Knowledge、Action、Memory等多个模块组成,能够自主规划、执行任务。
- 智能体开发平台支持嵌入功能交互、组件化输出、场景感知等,实现与AI助理的无缝协作。
- 通过“工作流”定义,实现多智能体协同作业,提升复杂任务处理能力。
应用升级与AI赋能
- 学在浙大:结合DeepSeek,提供课前预习、课中互动、课后反馈的全流程支持,帮助教师高效备课,学生精准预习。
- ETalk口语对话平台:基于多模态大模型技术,为学生提供个性化的口语学习指导,支持主题对话、脚本练习、语句润色等场景。
- 智能学伴:通过DeepSeek R1的深度思考能力,提供即时答疑和个性化学习陪伴,激发学生的学习兴趣和思维能力。
AI技术成熟度与发展趋势
- 2025年AI技术进入算法创新阶段,大模型参数量出现拐点,为本地化部署提供了可能。
- AI技术创新围绕核心三要素(数据、算力、算法)动态循环,当前阶段再次聚焦于算法创新。
DeepSeek的启示
- AI已从成长期转向产业化阶段,算力效率成为关键因素。
- 数据量的增加为AI模型的本地化部署和应用提供了新的可能性。
- AI与教育的深度融合,推动了教学方式的变革和学习效率的提升。
微信接入DeepSeek R1
- 微信于2025年2月15日开始灰度测试接入DeepSeek R1,部分用户已体验其功能。
- 该功能支持深度思考回答,整合微信公众号文章和网页信息源,提升用户体验。
未来展望
- DeepSeek的持续发展将推动AI在更多领域的应用,包括教育、金融、政务等。
- 通过智能体的开发和应用,AI将实现更高效、更智能的交互和任务执行。
- AI技术的普及将进入“人人都是AI创作者”的时代,促进AI在各行业的创新和应用。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载