> **来源:[研报客](https://pc.yanbaoke.cn)** # NVIDIA GTC 2026 总结 ## 核心内容 NVIDIA GTC 2026 是一个聚焦人工智能(AI)和计算技术的全球性大会,旨在展示 NVIDIA 在 AI 领域的最新进展和技术突破。大会围绕 AI 的核心组成部分:**结构化数据** 和 **非结构化数据** 展开讨论,强调了它们在 AI 发展中的不同作用。结构化数据是 AI 的“基础事实”,而非结构化数据则是 AI 的“上下文”。NVIDIA 通过其 AI 平台和相关技术,推动了 AI 在各个行业和区域的广泛应用。 ## 主要观点 1. **AI 与数据处理**: - 结构化数据构成了企业 AI 生态系统的基石,拥有 1200 亿的数据量。 - 非结构化数据每年以数百 Zettabytes 的速度增长,成为 AI 上下文的重要来源。 - 通过 NVIDIA 和 IBM 的合作,企业可以在几分钟内刷新全球运营数据,降低成本,提升效率。 2. **AI 优化基础设施**: - NVIDIA 推出了多种 AI 优化的基础设施解决方案,如 NVIDIA Hopper、NVIDIA RTX PRO Blackwell Server Edition 和 NVIDIA Blackwell。 - 这些硬件和软件结合,提升了 AI 推理的性能和效率,显著降低了单位成本。 3. **AI 推理的性能突破**: - NVIDIA Vera Rubin 与 Groq 3 LPU 联合推出,提供高达 315 PFLOPS 的 AI 推理计算能力。 - 通过提升 SRAM 容量和内存带宽,实现 55 倍的性能效率提升。 4. **AI 与企业合作**: - 多个知名企业,如 Nestlé、NTT DATA、Snap、Dell、Microsoft Azure、Oracle Cloud、IBM、AWS 等,展示了 NVIDIA AI 平台在各自业务中的应用。 - 这些合作案例表明 NVIDIA AI 平台能够为不同行业提供可扩展的解决方案,推动 AI 技术的商业化落地。 5. **AI 的未来趋势**: - AI 推理能力的提升将推动 AI 工厂的发展,成为 AI 时代的工业基础设施。 - 推理是 AI 的主要工作负载,而 token 成为新的计算商品,计算能力直接转化为企业收入。 ## 关键信息 - **NVIDIA AI 平台**: - 包括 cuDNN、Magnum IO、cuOpt、cuVS、cuDF、Omniverse、TRT-LLM、Dynamo、NeMo、PhysicsNeMo、Cosmos、Nemotron 等组件。 - 这些工具和框架支持 AI 的开发、训练和推理,帮助企业在 AI 领域实现高效、可扩展的解决方案。 - **NVIDIA 黑石(Blackwell)**: - 作为新一代 AI 推理硬件,Blackwell 提供了强大的计算能力和高内存带宽,支持大规模 AI 推理任务。 - NVIDIA RTX PRO Blackwell Server Edition 是专为数据中心设计的高性能推理平台。 - **NVIDIA 瑞宾(Rubin)**: - 专注于 AI 推理的高性能计算,Rubin GPU 提供了 50 PFLOPs 的计算能力。 - 与 Groq 3 LPU 联合,NVIDIA Vera Rubin NVL72 实现了 55 倍的性能效率提升。 - **AI 推理性能与企业收益**: - 高性能的 AI 推理能力直接提升了企业的运营效率和收入。 - 通过优化 token 成本,企业可以更快地进行 AI 实验和部署。 - **合作伙伴与生态系统**: - NVIDIA 与多个行业领先企业合作,共同推动 AI 技术的发展和应用。 - 合作案例包括 Nestlé、NTT DATA、Snap、Dell、Microsoft Azure、Oracle Cloud、IBM、AWS 等。 ## 技术亮点 - **NVIDIA Hopper**: - 提供了强大的 AI 计算能力,支持大规模 AI 模型的训练和推理。 - 与 NVIDIA Blackwell 和 Rubin GPU 一起,构成了 NVIDIA 的全栈 AI 解决方案。 - **NVIDIA Quantum IB, Spectrum-X Networking**: - 提供了高性能的网络解决方案,支持 AI 推理的高带宽需求。 - 通过液冷技术,进一步提升了数据中心的能效和性能。 - **AI 推理性能指标**: - **Output Speed**:衡量 AI 推理的速度,单位为 tokens per second。 - **Memory Bandwidth**:衡量 AI 系统的数据传输能力,单位为 TB/s。 - **Scale-Out Radix**:衡量 AI 系统的扩展能力,单位为 131,072。 ## 行业应用 - **制造业与仓储**:通过 NVIDIA 的 AI 解决方案,企业可以实现更高效的运营和更低的成本。 - **客户服务**:Snap 等企业利用 NVIDIA 和 Google Cloud 的 AI 平台,为全球用户提供更高效的 AI 体验。 - **金融与投资**:BlackRock 等企业通过 AI 技术优化投资决策和风险管理。 - **医疗与健康**:AI 被用于药物发现、基因组学和医疗影像分析等领域,提升医疗服务质量。 ## 总结 NVIDIA GTC 2026 展示了 AI 技术的最新进展和应用,强调了结构化和非结构化数据在 AI 发展中的重要性。通过其全栈 AI 解决方案,NVIDIA 不仅提升了 AI 推理的性能和效率,还推动了 AI 在各个行业的商业化落地。与多家企业的合作进一步证明了 NVIDIA AI 平台的广泛应用和影响力。