20250408-华鑫证券-计算机行业周报_Llama4多版本参数亮眼_DeepSeek公布推理时Scaling新论文_15页_954kb
报告摘要
Llama 4 多版本参数亮眼,DeepSeek 公布推理时 Scaling 新论文
核心内容
本报告聚焦于AI领域近期的动态发展,包括算力、模型技术、AI应用及融资动向等方面。Meta开源了Llama 4系列模型,包括Llama4 Scout和Llama4 Maverick,两者在参数规模、支持语言和上下文长度方面均有显著提升。DeepSeek则发布了一篇关于推理时Scaling的新论文,提出了一种新的学习方法——自我原则批评调整(SPCT),旨在提升奖励模型(RM)的性能和扩展性。此外,AI初创公司星海图在2025年实现了“小步快跑”式的融资,估值已翻倍。
主要观点
算力动态
- 算力租赁价格平稳:本周算力租赁价格保持稳定,不同配置的GPU价格在28.64元至34.74元之间,无明显波动。
- Llama 4多版本参数亮眼:
- Llama4 Scout:1090亿参数,17B活跃参数,16个专家,支持1000万上下文,相当于处理20+小时视频,仅需单个H100 GPU即可运行。
- Llama4 Maverick:4000亿参数,17B活跃参数,128个专家,支持100万上下文,性能超越Gemma 3、Gemini 2.0 Flash-Lite和Mistral 3.1。
- Llama 4首次采用MoE架构,计算效率高,且在相同训练FLOPs预算下能生成更高质量结果。
- Llama 4是原生多模态模型,采用早期融合技术,支持文本和视觉token的统一处理,利用无标签数据进行预训练。
- MetaP训练方法优化了模型超参数设置,支持200种语言,其中超过10亿token的语言有100多种,整体多语言token量比Llama 3多10倍。
AI应用动态
- Gemini搜索访问量增长:Gemini搜索访问量环比增长9.62%,成为AI相关网站中访问量增长最快的。
- DeepSeek 推理时Scaling新论文:
- 通过逐点生成奖励模型(GRM)和自我原则批评调整(SPCT)方法,提升奖励模型在推理时的扩展性。
- SPCT包含两个阶段:拒绝式微调和基于规则的在线强化学习,使GRM在推理阶段能自适应生成原则和批评。
- DeepSeek-GRM-27B基于Gemma-2-27B,使用SPCT进行后训练,通过并行采样生成多个原则和批评,再通过投票选出最终奖励,提升奖励精度。
- 元RM的引入进一步提升了GRM的性能,使其在多个RM基准测试中优于现有方法,且无严重领域偏差。
AI融资动向
- 星海图融资进展显著:4月3日完成A2、A3轮系列融资,累计融资额近1亿美元,估值已翻倍至超50亿元。
- 融资结构:凯辉基金领投,联想创投、海尔资本等产业资本参投,老股东持续加注,显示市场对其全栈能力的认可。
- 公司优势:星海图具备端到端AI算法能力、全链路正向研发制造能力及商业化验证能力,成为国内具身智能领域的领先企业之一。
关键信息
- Llama 4:多模态、支持12种语言、MoE架构、多语言token量提升10倍。
- DeepSeek-GRM-27B:基于Gemma-2-27B,使用SPCT进行后训练,提升奖励模型在推理时的扩展性和准确性。
- 星海图估值:预计估值超过50亿元,成为第二梯队的“排头兵”。
- AI应用趋势:Gemini搜索访问量增长显著,AI应用有望在2025年出现现象级产品。
投资建议
- 重点关注公司:
- 亿道信息(001314.SZ):与多家AI眼镜厂商合作,估值40.79倍,投资评级为买入。
- 科大讯飞(002230.SZ):以AI为核心,估值77.48倍,投资评级为买入。
- 唯科科技(301196.SZ):新能源业务高增,估值20.59倍,投资评级为买入。
- 泓淋电力(301439.SZ):高速铜缆业务受益于GB200放量,估值18.59倍,投资评级为买入。
- 嘉和美康(688246.SH):临床AI产品成功落地,估值36.09倍,投资评级为买入。
- 寒武纪-U(688256.SH):芯片技术有望创新突破,估值-1130.32倍,投资评级为买入。
- 鼎通科技(688668.SH):受益于GB200放量,估值25.11倍,投资评级为买入。
- 迈信林(688685.SH):算力业务扩张,估值32.75倍,投资评级为买入。
风险提示
- AI底层技术迭代速度不及预期。
- 政策监管及版权风险。
- AI应用落地效果不及预期。
- 推荐公司业绩不及预期风险。
图表目录
- 图表1:本周算力租赁情况
- 图表2:Llama4 Maverick和Scout的指令微调基准
- 图表3:2025.3.31-2025.4.4 AI相关网站流量
- 图表4:SPCT的两个阶段
- 图表5:不同方法和模型在奖励模型基准测试上的整体结果
- 图表6:本周AI初创公司融资动态
- 图表7:本周指数日涨跌幅
- 图表8:本周AI算力指数内部涨跌幅度排名
- 图表9:本周AI应用指数内部涨跌幅度排名
- 图表10:重点关注公司及盈利预测
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载