20240610-财通证券-计算机行业投资策略周报_大模型推理成本降低_AI应用落地可期_14页_2mb
报告摘要
计算机/行业投资策略周报总结
一、本周核心观点
-
API价格大幅下降
大模型推理成本显著降低,API价格进入市场化竞争阶段。幻方DeepSeek-V2推出创新MLA架构,将输入输出价格分别降至1元/百万token和2元/百万token。国内主要厂商如字节豆包、阿里、百度等迅速跟进,推动API价格下降,利好应用生态繁荣和AI原生应用落地。 -
Attention机制优化
标准注意力机制计算复杂度随序列长度指数级上升,业界探索简化多头注意力(如MQA、GQA、MLA)或替代方案(如Mamba、RWKV)。MLA架构实现低内存占用与高效计算,幻方DeepSeek-V2显著优化推理性能。 -
MoE架构提升扩展效率
MoE混合专家模型通过稀疏激活实现参数高效扩展,示例包括DeepSeek-V2、Snowflake Arctic、PyramidResidualMoE架构。该技术使模型能力呈现动态分配,提升计算效率,未来将成为主流模型架构。
二、投资建议
- AI算力硬件领域:关注国产AI服务器厂商(海光信息、寒武纪、浪潮信息)及液冷技术提供商(英维克、曙光数创)。
- 边缘端AI硬件:关注硬件创新公司(石头科技、传音控股等)及与芯片深度合作的软件赋能企业(虹软科技、中科创达)。
三、风险提示
- 技术迭代延迟
- 商业化进程滞后
- 政策支持力度不足
- 全球宏观经济不确定性
四、图表概览
- 图1:国内外主流模型API价格对比
- 图2:高效Transformer架构技术路线
- 图3:Attention机制原理解析
- 图4:Transformer架构结构图解
- 图5:简化注意力机制原理对照图
- 图6:Mamba-2架构关系示意图
- 图7:MoE原理及架构演进图
- 图8:动态计算分配优化效果图
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载