人工智能行业专题(19)_从Nebius看新兴云与开源模型Token优化_36页_1mb
报告摘要
人工智能行业专题(19):从Nebius看新兴云与开源模型Token优化
核心内容
Nebius 是一家新兴的 AI 原生云基础设施公司,总部位于荷兰阿姆斯特丹。公司脱胎于 Yandex,继承了其 20 年的分布式基础设施能力,形成“裸金属算力→多租户云→Token Factory 托管推理→智能代理层”的四层产品架构。Nebius 代表了一种“全栈垂直整合”的新兴 AI 云范式,通过硬件自研、编排自控、模型自优化的三层能力叠加,将开源模型的推理成本最高降低 70%,推动 AI 推理从“闭源模型依赖”向“开源模型替代”的结构性迁移。
主要观点
- 全栈自研:Nebius 从硅片到 API 全栈自建,形成完整的 AI 云平台。
- 成本优势:相比 AWS,Nebius 的 GPU 租赁成本低 43%~81%,推理成本低 112%。
- 性能优化:采用裸金属服务器、InfiniBand 网络、自研液冷方案等,显著提升性能与能效。
- Token Factory:通过收购 Eigen AI,实现开源模型的高效推理,提升单卡 Token 产出至 2~3 倍。
- 业务案例:Revolut、Cosine、Shopify、Coinbase 等企业已成功使用 Nebius 的 Token Factory,实现成本降低、效率提升与性能优化。
- 毛利率提升:2026 年 Nebius 毛利率提升至 74%,主要得益于算力利用率提升、自有算力占比增加及高附加值软件产品。
关键信息
产品架构
- 裸金属基础设施:按兆瓦计费,服务微软/Meta 等超大客户。
- 多租户 AI 云:按 GPU 小时计费,面向研究团队。
- Token Factory 托管推理平台:按 Token 计费,支持 60+ 开源模型。
- 智能代理层:按任务计费,实现任务自动决策与模型调用路径优化。
技术优势
- 硬件优化:使用定制 ODM 机箱,节省 10-15% OEM 溢价,自研液冷方案降低功耗约 20%。
- 网络通信:采用 InfiniBand 网络,相比传统云的 RoCE 网络,提供更高带宽、更低延迟。
- 调度优化:K8s + SLURM 双栈调度,提升算力利用率。
- 推理优化:Eigen AI 提供 AWQ 4-bit 量化、SpAtten 稀疏注意力等技术,提升 Token 产出 2~3 倍。
成本与性能对比
- GPU 租赁成本:Nebius 比 AWS 便宜 43%~81%,其中 H100 80GB 实例价格为 $2.95/GPU-hr。
- Token 推理成本:Nebius 通过 Token Factory 将开源模型推理成本降低最高 70%。
- 性能提升:Nebius 的 Token 产出比裸金属高 2~3 倍,如 Prosus 部署 Llama-3.3-70B,单 GPU 日收入提升 60%。
案例分析
- Revolut:将闭源模型迁移至 Token Factory 上的 Kimi 2.5,实现成本控制。
- Cosine:通过 Token Factory 优化 Llama 3.3 70B,达到 OpenAI o3 水平。
- Shopify:微调 Qwen3-32B 模型,推理速度提升 2.2 倍,成本下降 68%。
- Coinbase:使用 GLM-5.2、Kimi 2.7 等开源模型,AI 支出接近减半。
财务与市场表现
- 收入与 ARR:2026 年 Q1 营收达 3.99 亿美元,ARR 突破 12.5 亿美元。
- 毛利率:2026 年 Q1 毛利率达 74%,同比提升 12pct。
- 客户合作:与微软、Meta 签订超长期合同,总规模达 174 亿至 270 亿美元,预计占 2026 年收入约 50%。
- 资本开支:2026 年资本开支指引为 200-250 亿美元,其中 60% 由自筹资金覆盖。
风险提示
- 宏观经济波动:可能影响公司业务及行业增长。
- 下游需求不及预期:可能影响 AI 研发投入及行业增长。
- 核心技术升级不及预期:可能影响产品竞争力。
- 竞争加剧:AI 快速迭代和普及可能影响云业务利润率。
总结
Nebius 作为新兴 AI 云基础设施厂商,凭借全栈自研能力、成本优化与性能提升,正在推动 AI 推理向开源模型迁移。其通过裸金属、InfiniBand 网络、自研液冷方案、双栈调度与 Token Factory 等技术手段,显著降低客户部署成本与提高算力利用率。公司与微软、Meta 等大客户合作,收入增长迅速,毛利率提升显著。未来,随着 Token Factory 与 Eigen AI 的整合,Nebius 将进一步强化其在 AI 云领域的竞争力。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载