HBM4

7 月 21 日 NVIDIA 宣布 Vera Rubin NVL72 量产全面加速，CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud 的机架已经上线运行；供应链覆盖 30 个国家 350 多家工厂。10 月初 SpaceXAI 又宣布把优化版 Vera Rubin NVL72 搬上第一代 Starmind 卫星。这颗继任者的规格表里，最值得技术人记住的不是 3.6 EFLOPS FP4，而是那 20.7TB 的 HBM4。 规格表读错的方式 官方数据：Vera Rubin NVL72 整机架 20.7TB HBM4、约 1.6PB/s 内存带宽、3600 PFLOPS NVFP4 算力；单颗 Rubin GPU 配 288GB HBM4、19.2TB/s；超芯片（Superchip）配 576GB HBM4、38.5TB/s；NVLink 进入第六代。Micron 的 HBM4 36GB 12-Hi 已在 3 月量产，单栈带宽超过 2.8TB/s。 外行看 FLOPS，内行看容量。原因在于 Agent 负载的瓶颈已经转移。 为什么容量墙先到 过去两年的推理优化，主线是「让每 HBM 字节动得更快」——KV cache 量化、分页注意力、前缀缓存。但当模型越做越大（MoE 总参数逼近万亿）、上下文越拉越长（十万、百万 token）、并发越来越高（一个 Agent 同时挂着十几个工具会话），单卡显存装不下权重加 KV，才是硬约束。 ...

引子：把算力堆成一座山 如果说2026年的AI芯片圈有一个绕不开的名字，那就是NVIDIA Vera Rubin。这家公司在"堆算力"这件事上，从来没让人失望过——而Vera Rubin，是它迄今为止最凶猛的一次堆料。 单卡4000 FP16 TFLOPS、288GB HBM4显存、3360亿个晶体管——这三个数字任意一个拿出来，都足以定义一个时代。而当NVIDIA把72颗这样的卡塞进一个整柜，它跑出的是3.6 EFLOPS的整柜算力。这已经不是"芯片"的概念了，这是一座专门为AI建造的算力山。 单卡参数：为什么4000 TFLOPS是个里程碑 先把Vera Rubin的核心规格摆出来。 项目 Vera Rubin FP16算力 4000 TFLOPS HBM显存 288GB HBM4 晶体管规模 3360亿个 整柜方案 NVL72 整柜算力 3.6 EFLOPS 4000 FP16 TFLOPS这个数字，标志着单卡浮点性能再次跳上一个数量级台阶。要理解它的意义，得知道AI训练的瓶颈从来不是"算力不够"那么简单——它是算力、显存、互联三者的三角平衡。Vera Rubin的厉害之处在于，它不是单项领先，而是三项一起堆上去： 算力：4000 TFLOPS让超大模型的单步训练时间进一步压缩 显存：288GB HBM4能塞下更大的模型、激活值和更长的上下文 互联：NVL72整柜方案保证72颗卡之间数据高速流通，不把时间浪费在等数据上 3360亿晶体管则是这一切的物理基础——在一颗芯片上塞进超过3000亿个晶体管，本身就是先进制程与封装技术的极限表演。 数据来源：NVIDIA官方发布与技术白皮书，2026年 NVL72整柜：从"芯片"到"数据中心" Vera Rubin真正的杀招，不是单卡，而是NVL72整柜方案。这反映出NVIDIA思路的根本转变：竞争单位不再是单颗芯片，而是整个整柜。 层级 规格 单卡 4000 TFLOPS / 288GB HBM4 整柜（NVL72） 72颗卡互联 整柜总算力 3.6 EFLOPS 3.6 EFLOPS是什么概念？1 EFLOPS等于每秒百亿亿次浮点运算。把72颗Vera Rubin通过高速互联连成一个池化的算力单元，客户买到的不再是一堆孤立的GPU，而是一个开箱即用的"超算级AI引擎"。 这种整柜化趋势的背后，是大模型训练的现实——没有任何一个模型是靠单卡训练出来的，真正比拼的是千卡、万卡规模下的有效算力利用率。NVIDIA把互联、供电、散热、软件全部打包进整柜，客户买回去插上电就能跑最大模型，这正是它锁定超大规模客户的护城河。 成本与现实：巨兽不是人人养得起 算力巨兽的另一面，是惊人的成本。 Vera Rubin级别的整柜，单机柜造价、功耗、散热要求都达到了新高度。4000 TFLOPS很诱人，但只有超大规模云厂商、国家级算力中心、顶尖大模型公司才养得起这种配置。这意味着： 算力进一步向头部集中：中小团队更难自建顶级训练集群，只能租用云 推理与训练分层：这种巨兽用于训练，推理则交给更便宜的Flash级芯片 能源成为新瓶颈：3.6 EFLOPS的整柜，耗电量本身就是一座小型电厂的级别 NVIDIA的护城河因此越来越深：它卖的不只是芯片，而是一整套"算力工厂"的交钥匙方案。客户一旦进入NVL72的生态，迁移成本极高。 ...