【浙江大学】2025年Chatting_or_Acting-DeepSeek的突破边界与“浙大先生”的未来图景_84页_9mb
报告摘要
文档内容总结
核心内容
- DeepSeek 是一款高性能、低成本的国产、开源大模型,具有显著的技术优势和广泛的应用场景。
- DeepSeek-V3 在开源模型中位列榜首,与最先进闭源模型不相上下,显示其强大的技术实力。
- DeepSeek 通过创新的 MLA(多头潜在注意力)机制和 MoE 架构优化,降低了训练和推理成本,提升了模型效率。
- DeepSeek 已被多个行业和领域采用,包括三大基础运营商、超过15家芯片厂家、200多家企业、多个手机厂商和车企,以及地方政府政务系统等。
主要观点
- 大模型与智能体的协同:大模型(LLM)提供认知基础,而智能体(Agent)具备自主性、任务执行能力和多模态交互能力,二者结合是 AI 应用的必然趋势。
- 智能体的优势:智能体可以主动执行任务,具有推理和规划能力,支持多模态交互,能够实现个性化服务和长期交互,具备系统整合与协作能力。
- AI 技术发展周期:AI 技术正从成长期向产业化阶段转变,2025年标志着大模型和智能体技术的全面发展,进入创新与市场潜力全面扩张的阶段。
关键信息
DeepSeek 技术亮点
- MLA 多头潜在注意力机制:通过多头注意力机制优化模型性能,降低成本,提高效率。
- MoE 架构:采用专家混合模型(MoE),解决路由崩溃问题,提升模型性能。
- DualPipe 流水线并行:双向流水线设计,显著减少流水线气泡,提升 GPU 利用率。
- 低精度训练与成本控制:使用 FP8 混合精度训练,显存占用减少40%,关键模块保留 BF16/FP32 计算以平衡效率与精度。
- 模型蒸馏与微调:通过模型蒸馏和微调技术,将大模型能力迁移到小模型,提升在特定场景下的表现。
智能体开发
- 智能体的构成:由 Instruction、Knowledge、Action、Memory 等模块组成,具备自主推理和执行能力。
- 智能体应用场景:包括教育、政务、金融、物流、医疗等,如“浙大先生”智能体服务门户和“校园百事通”等。
- 智能体开发平台:浙江大学提供了多个智能体开发平台和工具,如“大先生”、“智创工坊”、“教学实训”等,支持开发者创建和部署智能体应用。
AI 教育与智能体
- AI 教育生态:浙江大学通过“浙大先生”等智能体项目,推动 AI 在教育领域的应用,如智能问答、个性化学习、教学辅助等。
- 教育技术发展:AI 技术正与教育深度融合,推动高校数字化转型,提升教育质量和效率。
活动策划与 AI 应用
- AI 活动策划:利用智能体进行活动策划,如“钉钉AI助理”等,提升活动的创意性和执行效率。
- 智能体功能示例:包括校园服务查询、新生服务指引、AI 教育辅助、AI 创作工具等。
AI 技术发展趋势
- 算力效率提升:DeepSeek 的出现标志着算力效率拐点的到来,提升了 AI 模型的使用效率。
- 数据规模与质量:AI 基础大模型的参数量和数据量正迎来拐点,为本地化部署提供了可能性。
- AI 技术成熟度:AI 技术正在从简单推理向深度思考发展,逐步实现从“开发”到“创作”的转变。
深度思考与未来发展
- AI 与 AGI:随着大模型和智能体技术的不断进步,人类正逐步迈向 AGI(通用人工智能)时代。
- AI 创作者时代:人人都是 AI 创作者,AI 技术正在改变工作方式,提升效率和创造力。
- 智能体生态:智能体生态正在形成,支持多模态交互、自主决策和系统协作,为各行各业带来变革。
附录与资源
- DeepSeek 案例集:包含多个实际应用案例,展示 DeepSeek 在不同场景下的效果和优势。
- 教育联盟与资源共享:浙江大学通过 CARSI 联盟,推动教育资源共享与协同发展。
- AI 应用门户:提供多个 AI 应用门户,如“大先生”、“智汇任务台”等,支持用户创建和使用智能体应用。
总结
DeepSeek 作为一款高性能、低成本的国产、开源大模型,正在推动 AI 技术从成长期向产业化阶段转变。通过 MLA 多头潜在注意力机制、MoE 架构优化、低精度训练等技术手段,DeepSeek 在多个领域展现出强大的应用潜力。智能体(Agent)作为 AI 应用的新形态,具备自主性、任务执行能力和多模态交互能力,与大模型形成螺旋共生关系,共同推动 AI 技术的发展和应用。浙江大学通过“浙大先生”等项目,构建了 AI 教育生态,为 AI 技术在教育领域的应用提供了有力支持。随着 AI 技术的不断进步,未来将实现从“开发”到“创作”的转变,人人都是 AI 创作者的时代即将到来。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载