NVL72

7 月 21 日 NVIDIA 宣布 Vera Rubin NVL72 量产全面加速，CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud 的机架已经上线运行；供应链覆盖 30 个国家 350 多家工厂。10 月初 SpaceXAI 又宣布把优化版 Vera Rubin NVL72 搬上第一代 Starmind 卫星。这颗继任者的规格表里，最值得技术人记住的不是 3.6 EFLOPS FP4，而是那 20.7TB 的 HBM4。 规格表读错的方式 官方数据：Vera Rubin NVL72 整机架 20.7TB HBM4、约 1.6PB/s 内存带宽、3600 PFLOPS NVFP4 算力；单颗 Rubin GPU 配 288GB HBM4、19.2TB/s；超芯片（Superchip）配 576GB HBM4、38.5TB/s；NVLink 进入第六代。Micron 的 HBM4 36GB 12-Hi 已在 3 月量产，单栈带宽超过 2.8TB/s。 外行看 FLOPS，内行看容量。原因在于 Agent 负载的瓶颈已经转移。 为什么容量墙先到 过去两年的推理优化，主线是「让每 HBM 字节动得更快」——KV cache 量化、分页注意力、前缀缓存。但当模型越做越大（MoE 总参数逼近万亿）、上下文越拉越长（十万、百万 token）、并发越来越高（一个 Agent 同时挂着十几个工具会话），单卡显存装不下权重加 KV，才是硬约束。 ...

10 月初的几条消息拼出一张图：NVIDIA Vera Rubin NVL72 量产正在加速，CoreWeave、Google Cloud、Azure、Oracle、Mistral 等相继宣布部署计划；与之配套的 Vera CPU 拿下 SpaceXAI 大单。作为对照，上一代 GB300 NVL72 已把智能体低延迟推理成本压到约每百万 token 0.123 美元。把这些放在一起，能看到一个清晰的前沿趋势——AI 算力基建的重心，正在从「训练大模型的工厂」转向「常年跑智能体的电厂」。 训练是脉冲，推理是常驻 过去几年的 AI 基建叙事是训练：建超大集群、跑数月、烧巨资，产出一个模型就关炉。这是脉冲式的、一次性的。 智能体时代的负载完全不同。一个通用工作智能体要 7×24 小时挂着，随时等用户一句话，然后调工具、跑代码、连业务系统。它不是训练完就走，而是常年在线、持续吞吐 token。这更像电厂——稳定供电，而不是开矿式的一次性开采。 基建形态随之改变 这种负载变化，正在重塑基建的几个维度： 单位成本优先：谁能把每百万 token 压得更低，谁就赢得常驻负载。GB300 比 Hopper 低约 35 倍成本，正是冲着这个来的。 CPU-GPU 协同：智能体的关键路径上，CPU 负责工具调用与编排，GPU 负责模型推理。Vera CPU 的出现，就是把这条链路补上。 多云铺开：CoreWeave、Google、Azure、Oracle 同时部署，说明常驻算力要贴近用户、贴近业务系统，不能集中在一两个超算中心。 判断 未来衡量一家算力公司的指标，不会是它训练过多大的模型，而是它能以多低的成本、多稳的在线率，养活多少个常年值守的智能体。智能体电厂这个词，会取代「训练巨兽」，成为下一代 AI 基建的主角。 再展开一层：这种从脉冲到常驻的迁移，还会改变算力的采购与结算方式。训练负载是项目制的——立项、烧钱、结项；常驻负载是订阅制的——像交电费一样按月为在线率付费。当 CoreWeave、Google、Azure、Oracle 同时铺开 Vera Rubin，它们卖的已经不是「一批卡」，而是「一份全年无休的智能体运力」。这种生意模式的切换，比任何单一硬件参数都更能说明：智能体时代的算力，到底长成了什么样子。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：智能体算力基建

10 月初，产业链传出的关键进展是：新一代 Vera Rubin NVL72 不再是 roadmap 上的参数，而是真的进了生产环境。CoreWeave 已把 NVL72 送进生产部署，编码智能体公司 Cognition 成为首个跑生产负载的客户。与此同时，Google Cloud、Azure、Oracle、Mistral 等都在列部署名单。据现场数据，在 SWE-2 这类智能体负载上，NVL72 的总 Token 吞吐较 GB200 NVL72 提升约 4.8 倍，强化学习每 GPU 输出提升约 3.8 倍。 成本数字是怎么往下走的 英伟达官方口径很有说服力：GB300 NVL72 在单用户交互 116 TPS 场景下，借助 Dynamo 与 TensorRT-LLM 把推理成本做到每百万 token 约 0.123 美元（SemiAnalysis 2026 年 4 月基准），比 HGX H200 低约 35 倍。而 Vera Rubin NVL72 更狠——每百万 token 成本约为 GB200 NVL72 的十分之一，每兆瓦 Token 产出最高约 10 倍；按 SemiAnalysis 的 AgentX 数据，相较 GB300 NVL72 每百万 token 成本还能再降约 45 倍。 ...