浙江大学2025语言解码双生花人类经验与AI算法的镜像之旅_42页_8mb

人类经验与AI语言理解的镜像之旅

语言的重要性

语言是人类区别于动物的关键能力，具有创造、组织思维、促进合作的核心作用。人类通过经验积累建立词语间的神经连接，理解语言需依赖语境信息和上下文关联。研究指出，通用人工智能的实现需掌握人类语言的非精确性及歧义消解能力。

AI语言理解路径

AI语言处理经历了从符号系统到深度学习的演进过程。早期模型通过词向量技术（如欧式距离、余弦相似度）量化词语关系，但无法处理多义词的上下文差异。DeepSeek-R1等推理模型通过Transformer架构引入注意力机制，动态生成上下文相关词向量，实现语义关联的精准建模。

大语言模型构建

DeepSeek-V3采用三种参数规模（16B、236B、671B）的大模型架构。其训练过程包含三个阶段：

1. 预训练：基于万亿级文本数据（如互联网、学术文献等）进行自监督学习，模拟"完形填空"任务，通过预测缺失单词优化参数。例如，148万亿词元的训练库相当于47万年持续阅读或45个北京水立方的沙粒量。
2. 指令微调：利用<提示词,理想输出>对进行有监督优化，如回答浙江大学发展历史问题。
3. 强化学习：通过奖励模型（基于人类反馈）调整生成策略，提升输出质量。

推理模型的训练

DeepSeek-R1-Zero通过纯强化学习训练，自然学习延长思考时间以解决推理任务。但存在可读性差、语言混淆等缺陷。改进版DeepSeek-R1结合监督微调与强化学习，通过多步骤推理生成结构化回答，如计算Joy阅读时间的分步解题。

教育应用创新

AI智能体（如InfiAgent）正在重塑教育模式：

• 苏格拉底式教学：通过问题引导而非直接灌输知识，培养批判性思维。
• 能力本位教育：构建包含解题步骤拆解、逻辑推理等功能的智能教与学平台。
• 多模态应用：结合DeepSeek与Kimi生成PPT，与即梦AI生成图片，拓展教学场景。

技术原理说明

大模型通过参数学习捕捉数据分布规律，其训练依赖：

1. 海量数据：包括书籍、代码库等多源文本
2. 分布式算力：使用数千块GPU进行并行训练
3. 概率机制：基于奖励函数优化生成策略，如通过人类反馈调整输出格式和准确性。

关键突破

DeepSeek系列实现了从基础语言模型到推理模型的跨越：

• 通过注意力机制消除多义词歧义
• 采用参数蒸馏技术提升小模型性能
• 建立覆盖知识问答、逻辑推理的完整训练体系
• 推动教育从知识传授向能力培养转型

（全文共计998字）