人工智能行业专题-从Nebius看新兴云与开源模型Token优化_36页_1mb
报告摘要
人工智能行业专题(19) 从Nebius看新兴云与开源模型Token优化总结
核心内容
Nebius 是一家全栈自研 AI 原生云基础设施公司,其产品架构涵盖从裸金属算力到智能代理层的四个层级,致力于降低 AI 推理成本,提升算力利用率,并推动开源模型替代闭源模型的趋势。
主要观点
- 全栈垂直整合:Nebius 通过自研硬件、自控编排、模型优化三层能力,形成独特的“全栈AI云”模式,将开源模型的推理成本最高降低70%。
- 成本优势显著:相比 AWS,Nebius 的 GPU 租赁成本低 43% 至 81.8%,推理成本低 112%。其定制 ODM 机箱、自研液冷方案、弹性打包技术及双栈调度系统共同构建成本壁垒。
- Token Factory 推理平台:通过 Eigen AI 收购,Nebius 建立了“模型工厂”模式,将 60+ 开源模型优化至接近闭源模型的水平,提升单卡 Token 产出至 2-3 倍。
- 技术优化能力:Nebius 采用 AWQ 4-bit 量化、SpAtten 稀疏注意力、推测解码及自研 CUDA Kernel 等技术,实现推理性能与成本的双重提升。
- 客户案例验证:Revolut、Cosine、Shopify、Coinbase 等客户案例表明,Nebius 的 Token 优化和成本控制能力已在实际业务中产生显著效果。
- 高毛利与扩张潜力:Nebius 的毛利率从 52% 提升至 74%,2026 年营收指引为 30-34 亿美元,ARR 目标为 70-90 亿美元,显示出强劲增长潜力。
- 战略合作与投资:Nebius 与微软、Meta 签订超长期合同,获得英伟达 20 亿美元战略投资,推动其向全栈 AI 云平台升级。
- 行业挑战:面临宏观经济波动、下游需求不及预期、技术升级不及预期及竞争加剧等风险。
关键信息
产品架构
- 裸金属基础设施:面向微软、Meta 等超大客户,按兆瓦计费。
- 多租户 AI 云:面向研究团队,按 GPU 小时计费。
- Token Factory 托管推理平台:支持 60+ 开源模型,按 Token 计费,成本降低最高 70%。
- 智能代理层(规划中):按任务计费,自动化模型调用路径,减少人工干预。
成本与性能优势
- 裸金属去虚拟化:去除 Hypervisor,减少性能损耗(10-25%)。
- InfiniBand 网络:提供超大带宽、零丢包、超低延迟,提升训练与推理效率。
- 弹性打包与双栈调度:回收约 5-15% 闲置算力,提升 GPU 利用率。
- 自研液冷方案:将服务器功耗降低约 20%,节省能源成本。
技术优化层
- Eigen AI 收购:2026 年 5 月以 6.43 亿美元收购,获得核心推理优化技术。
- AWQ 4-bit 量化:模型体积缩小至 1/4,显存释放后可提升 batch size。
- SpAtten 稀疏注意力:剪枝冗余注意力头/FFN 路径,减少计算负载。
- 推测解码:利用轻量 Draft 模型预测多个 token,主模型批量验证,提升吞吐量。
- 自研 CUDA Kernel:算子融合与显存访问优化,提升计算效率。
客户案例
- Revolut:从闭源模型迁移至 Kimi 2.5,成本大幅降低。
- Cosine:使用 Token Factory 优化 Llama 3.3 70B,达到 OpenAI o3 水平。
- Shopify:微调 Qwen3-32B,推理速度提升 2.2 倍,成本下降 68%。
- Coinbase:形成“开源模型+闭源模型”分层架构,AI 支出接近减半。
财务表现
- 2026Q1 营收:同比飙升 684% 至 3.99 亿美元。
- ARR:2025 年底突破 12.5 亿美元,2026 年目标 70-90 亿美元。
- 毛利率:从 52% 提升至 74%,主要得益于算力利用率提升与软件产品附加值。
- 资本开支:2026 年预计 200-250 亿美元,主要依靠自筹资金与外部融资。
合作与市场布局
- 大客户合作:微软(174 亿美元)、Meta(270 亿美元)等超长期合同。
- 数据中心建设:芬兰 75 MW、新泽西 300 MW、美国 1.2 GW 超级基地(2027-2028 年投产)。
- 全球布局:覆盖欧美、中东、北美等地,计划逐步扩展至全球。
风险提示
- 宏观经济波动:影响公司业务及行业增长。
- 下游需求不及预期:影响 AI 投资与研发。
- 技术升级不及预期:影响模型性能与竞争力。
- 竞争加剧:AI 快速迭代与平权化可能影响云业务利润率。
结论
Nebius 作为新兴 AI 云厂商,凭借全栈自研能力、成本优化与开源模型推理能力,正在重塑 AI 基础设施市场。其 Token Factory 平台通过多层技术优化,有效降低了客户部署成本,提高了算力利用率与模型性能,成为推动开源模型替代闭源模型的重要力量。未来随着更多大客户合作落地与技术优化的持续推进,Nebius 的市场地位有望进一步巩固。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载