计算机行业：Sora对算力需求影响几何_10页_1mb

Sora对算力需求影响分析总结

核心内容概述

Sora是OpenAI于2024年2月16日发布的首个文生视频大模型，能够通过自然语言指令生成长达60秒的高清流畅视频，在视频长度、清晰度、连贯性、多镜头切换等方面显著优于现有文生视频模型。Sora基于DiT（Diffusion Transformer）架构，将Transformer应用于扩散模型，实现视频数据的高效处理与生成，标志着文生视频技术进入新阶段。

主要观点

• 算力需求激增：Sora的算力需求预计为GPT-3 175B的8.2倍，随着模型迭代和数据集扩展，算力需求将呈指数级增长。
• 技术架构创新：Sora采用DiT架构，结合Transformer与Diffusion方法，将视频降维为时空Patch，类似大语言模型中的token处理方式，提升计算效率。
• 能力突破：Sora在视频生成能力、物理运动模拟、多镜头切换、输入类型兼容性等方面实现跨越式提升，推动文生视频技术进入新纪元。
• 投资机遇：Sora的发布标志着AGI时代加速到来，算力基础设施及相关产业链公司迎来发展机遇。

关键信息

1. Sora模型特点

• 视频生成能力：支持生成60秒高清视频（1080P），实现物理运动规律模拟与复杂镜头切换。
• 输入类型支持：支持文本、图片、视频等多种格式输入，具备视频扩展与拼接能力。
• 技术架构：基于DiT（Diffusion Transformer）模型，将视频分解为时空Patch，采用Transformer进行处理，提升模型的可扩展性与效率。

2. 算力需求测算

• 训练数据集规模：假设Sora训练数据集为60亿张图片和3500万段视频，每段视频平均时长30秒，分辨率1980×1024，帧率60FPS。
• Patch规模计算：
  • 图片类数据：$3.65 \times 10^{16}$
  • 视频类数据：$1.89 \times 10^{11}$
  • 总Patch数：$3.65 \times 10^{16}$
• 模型参数规模：假设为30B（待确认）。
• 算力需求公式：
  $$
  \text{训练算力} = \text{参数量} \times \text{token数量} \times 3 \times 2
  $$
• 测算结果：Sora单次训练算力需求约为 $2.6 \times 10^{24}$ Flops，相当于GPT-3 175B的8.2倍。
• 训练时间估算：在10,000张A100 GPU上训练，约需154天。

3. 算力需求增长趋势

• 短期增长：随着模型迭代和训练数据集扩大，训练端算力需求将快速上升。
• 长期增长：随着Sora技术成熟，下游AI应用将爆发，推理端算力需求也将随之增长。

投资建议

• 重点关注领域：
  • 多模态大模型：科大讯飞、海康威视、大华股份
  • 算力基础设施：工业富联、中科曙光、软通动力、神州数码、华勤技术、曙光数创、润泽科技、拓维信息
  • AI应用端：万兴科技、金山办公、超图软件、彩讯股份、拓尔思、卫宁健康、嘉和美康

风险提示

• 技术研发进度不及预期
• 供应链风险
• 政策推进不及预期
• 消费需求不及预期
• 行业竞争加剧

结构分析

• 行业评级：维持评级
• 分析师信息：
  • 吴砚靖：TMT/科创板研究负责人，北京大学软件项目管理硕士，10年证券分析经验
  • 研究助理：胡天昊

图表与数据来源

• 图1：Sora对同类产品对比
• 图2：DiT模块架构
• 图3：ViT模型架构
• 图4：将视频解码降维成Patch
• 图5：给定输入噪声，Sora预测原始Patch
• 图6：Transformer语义分割方法
• 图7：不同模型训练一轮所需算力需求
• 表1：Sora与其他文生视频大模型能力对比

联系信息

• 中国银河证券研究院
  • 深圳：深圳市福田区金田路3088号中洲大厦20层
  • 上海：上海市浦东新区富城路99号震旦大厦31层
  • 北京：北京市丰台区西营街8号院1号楼青海金融大厦
  • 公司网址：www.chinastock.com.cn

免责声明

本报告仅供客户参考，不构成投资建议。银河证券不对因使用本报告而产生的任何损失承担责任。报告内容基于公开资料，仅供参考，不保证其准确性或完整性。