科技行业动态点评-OpenAI+o1：大模型范式的转折点-240922-华泰证券-11页_771kb

OpenAI o1：大模型训练范式的转折点

核心内容

OpenAI于2024年9月12日发布了新一代模型o1，标志着大模型训练范式向推理侧转移。该模型通过强化学习（RL）和更长的内部思维链（CoT）显著提升了在物理、化学、数学等强逻辑领域的推理能力。

主要观点

1. 训练范式转变
   o1的发布表明，大模型的Scaling Law重心已从预训练阶段向后训练和推理阶段转移。通过在后训练中引入RL，并在推理中采用更长的CoT，模型的性能得到显著提升。

2. 算力需求增加
   新范式下，后训练和推理阶段对算力的需求显著上升。后训练阶段因RL的搜索过程需要更多算力，而推理阶段因CoT的增加导致token数量上升，进一步提升算力消耗。

3. 领域优势与泛化潜力
   当前，o1在数学、代码、科学等强逻辑推理领域表现突出，但其泛化能力仍有限。随着RL+CoT的持续迭代，模型有望实现“涌现”现象，泛化到更广泛的通用问题领域，从而推动复杂AI应用的发展。

关键信息

• o1性能提升：在AIME考试中，o1准确率平均达74%，比GPT-4提升62%；在GPQA diamond测试中，o1表现超过PhD-Level人类专家。
• 技术特点：采用RL训练和长CoT推理，提升了模型的推理能力。
• 投资建议：建议关注算力相关公司、果链公司以及核心AI应用公司，包括沪电股份、工业富联、立讯精密、鹏鼎控股、水晶光电、歌尔股份、蓝思科技、东山精密、长电科技、金山办公、泛微网络、萤石网络、博通、微软、奥多比等。

相关标的与投资评级

风险提示

• 宏观经济波动：可能影响AI产业的投入和新技术的落地。
• AI技术进步不及预期：可能影响相关行业的应用进展和增长。

结论

o1的发布标志着大模型训练范式的重大转变，从预训练向后训练和推理侧转移。该模型通过强化学习和长思维链显著提升了在强逻辑领域的推理能力，为未来模型的泛化能力奠定了基础。投资者应关注算力链、果链及核心AI应用公司的投资机会，同时需注意宏观经济和AI技术发展的不确定性。