【浙江大学(朱朝阳)】2025年DeepSeek之火可以燎原报告_56页_8mb
报告摘要
DeepSeek之火 可以燎原 - 总结
核心内容
本文围绕DeepSeek大模型展开,探讨其成功之道、技术争议、未来发展以及私有化应用方法。文章结合中华文化的哲学思想,分析DeepSeek在技术、伦理、应用等方面的表现,并提出相应的解决方案。
主要观点
-
中华文化基因与DeepSeek成功之道
DeepSeek的成功与中华文化中的“开放、包容、共享”理念密切相关。汉字的演变史体现了中华文化的延续性和包容性,而DeepSeek在语料处理上也体现了对中文文化的尊重和利用,如通过“千字文”式分词算法增强对成语和典故的理解。 -
DeepSeek的争议
- 知识蒸馏是抄袭还是创新:知识蒸馏是一种模型压缩技术,用于提升模型性能并降低资源消耗。文章认为,虽然该技术在英文模型中较为常见,但DeepSeek将其应用于中文语境中,体现了创新。
- 人工智能是资源黑洞还是效率革命:文章指出,DeepSeek通过算力优化、算法革新和架构创新,证明了人工智能可以成为效率革命的工具,而非资源黑洞。
-
人工智能的未来发展
- 中文与英文的对比:DeepSeek的中文语料比例远高于ChatGPT,说明中文在AI训练中的潜力。
- 阴阳气和:人工智能的发展应追求“智”与“能”的平衡,结合伦理安全,实现真正意义上的智能。
- AI与伦理安全:文章强调了AI在伦理和道德方面的挑战,如算法偏见、隐私保护、教育公平等,提出了需要多层认证和访问控制等解决方案。
-
DeepSeek的私有化应用
- 本地部署与RAG技术:通过RAG(检索增强生成)技术,DeepSeek可以实现本地部署,增强模型的时效性和可解释性。
- 微调技术:LoRA和Backbone是两种轻量级的微调方法,适用于资源有限的环境,能够有效提升模型在特定任务上的表现。
关键信息
语料规模对比
- DeepSeek:总语料规模13万亿token,其中英文语料占比约92.6%,中文语料约0.1%。
- ChatGPT:总语料规模14.8万亿token,其中英文语料占比约87%,中文语料仅约3%。
汉字的高效与传承
- 汉字起源于象形文字,历经多次演变,成为中华文化的重要载体。
- 中文词汇量庞大,包括通用词汇、专业词汇、生僻字等,具有丰富的文化内涵。
DeepSeek的技术创新
- 算力优化:打破CUDA标准库壁垒,为非英伟达芯片提供机会。
- 算法革新:采用思维链技术,提升模型的逻辑性能和顿悟能力。
- 架构创新:知识蒸馏+MOE(混合专家模型),证明小规模高质量数据优于大规模低质量数据。
本地部署与微调方法
RAG部署流程
- 下载并安装Ollama:https://ollama.com/download
- 下载并安装Cherry Studio:https://cherry-ai.com/download
- 下载基座模型:
Ollama pull deepseek-r1:7b - 下载嵌入模型:
Ollama pull bge-m3:latest - 配置Cherry Studio连接Ollama API
- 管理Ollama模型和知识库
- 知识库向量化处理
- 实现对答功能
LoRA微调方法
-
安装LLaMA-Factory:
git clone https://github.com/hiyouga/LLaMA-Factory.git pip3 install --upgrade pip pip3 install bitsandbytes >= 0.39.0 cd LLaMA-Factory pip3 install -e ".[torch,metrics]" -
训练模板配置:
修改deepseek_lora.yaml文件,设置训练参数如model_name_or_path、lora_rank、learning_rate等。 -
数据集准备:
将训练数据集拷贝到data目录,并修改dataset_info.json文件以增加数据索引。 -
训练命令:
llamafactory-cli train deepseek_lora.yaml
Backbone微调方法
- 训练流程:冻结基础模型参数,仅训练骨架模型,适用于不同专业场景任务。
AI的道与术
- 道:代表规律、道理和本源,是AI发展的根本。
- 术:代表具体方法和技巧,是实现道的手段。
- 智能的阴阳平衡:智(算法)与能(应用)的结合,加上伦理安全,才是真正的人工智能。
未来发展展望
- 走一条属于中国的AI之路:结合中华文化基因,发展具有中国特色的AI技术。
- AI与传统文化的融合:如中医、周易等,AI可能在未来帮助揭示这些传统文化的奥秘。
- AI的伦理与安全:需建立完善的伦理框架和安全机制,确保AI的健康发展。
感谢与致谢
文章最后表达了对听众的感谢,并邀请批评指正,体现了开放与包容的文化精神。
结语
DeepSeek的探索不仅是技术上的突破,更是文化与伦理的融合。通过本地部署、RAG、LoRA等技术,DeepSeek实现了高效、可解释和安全的AI应用。未来,AI的发展应立足于中华文化的根基,走一条具有中国特色的智能之路。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载