Blackwell Ultra:NVIDIA的2026年旗舰
2026年Q2,NVIDIA Blackwell Ultra GPU(B300系列)正式开始规模出货。作为Blackwell架构的第二代产品,B300在性能、能效和功能上都带来了显著提升。第一批拿到货的客户包括Meta、Microsoft、Google和Oracle,他们已经在生产环境中部署了B300集群。
本文基于NVIDIA官方数据和早期客户的实测结果,全面解析Blackwell Ultra的性能表现。
规格概览
B300 vs B200 vs H200
| 规格 | B300 (Blackwell Ultra) | B200 (Blackwell) | H200 (Hopper) |
|---|---|---|---|
| 制程 | TSMC 3NP | TSMC 4NP | TSMC 4N |
| 晶体管 | 208B | 208B | 80B |
| 双芯片设计 | 是 | 是 | 否 |
| FP4张量性能 | 15 PFLOPS | 9 PFLOPS | 4 PFLOPS |
| FP8张量性能 | 7.5 PFLOPS | 4.5 PFLOPS | 2 PFLOPS |
| FP16/BF16 | 3.75 PFLOPS | 2.25 PFLOPS | 1 PFLOPS |
| 显存 | 192GB HBM3e | 192GB HBM3e | 141GB HBM3e |
| 显存带宽 | 8.0 TB/s | 8.0 TB/s | 4.8 TB/s |
| 功耗(TDP) | 1200W | 1000W | 700W |
| 互联 | NVLink 5 (1.8TB/s) | NVLink 5 (1.8TB/s) | NVLink 4 (900GB/s) |
B300的FP4性能达到15 PFLOPS,是H200的3.75倍。但功耗也从700W上升到1200W,这对数据中心的供电和散热提出了更高要求。
NVLink 5与NVSwitch
B300配合第五代NVLink,双向带宽达到1.8TB/s。在一个NVSwitch域内,最多可连接576个GPU(72个8-GPU节点),提供总计8.6 ExaFLOPS的FP4算力。
这个规模意味着一个72节点集群可以训练超过10万亿参数的模型——而两年前这需要上千个节点。
训练性能实测
GPT级模型训练
Meta公布了在B300集群上训练Llama 4 Behemoth的性能数据:
| 指标 | B300集群 (16K GPU) | H200集群 (16K GPU) | 提升 |
|---|---|---|---|
| 训练吞吐量 | 1,240 tokens/s/GPU | 420 tokens/s/GPU | 2.95x |
| MFU | 48% | 42% | +6pp |
| 端到端训练时间 | 28天 | 82天 | 2.93x |
| 功耗 | 19.2 MW | 11.2 MW | 1.71x |
| 能效(tokens/J) | 64.6 | 37.5 | 1.72x |
B300的训练吞吐量约为H200的3倍,但功耗也增加了71%。从能效角度看,B300每瓦训练效率提升约72%。
推理性能
推理是B300的优势领域,特别是在长上下文和大规模批量推理场景:
Llama 4 Behemoth推理(单GPU):
- 输入吞吐量:2,800 tokens/s(FP8)
- 输出吞吐量:185 tokens/s(FP8)
- 512K上下文首token延迟:1.2s
对比H200:
- 输入吞吐量提升3.1x
- 输出吞吐量提升2.8x
- 长上下文延迟降低42%
FP4量化推理: B300原生支持FP4推理,性能比FP8再提升约80%。Meta报告称,Llama 4 Behemoth在FP4模式下推理质量损失不到1%:
# FP4推理配置示例 (使用TensorRT-LLM)
import tensorrt_llm as trtllm
config = trtllm.Config(
model="llama4-behemoth",
precision="FP4", # B300原生FP4
kv_cache_precision="FP8", # KV缓存使用FP8
max_batch_size=256,
max_seq_len=524288,
enable_kv_cache_reuse=True,
speculative_decoding=True # 推测解码
)
# 实测吞吐量: 5,100 tokens/s (输入), 340 tokens/s (输出)
多模态推理
在多模态推理场景中,B300的优势更加明显。Google报告了Gemini 3 Ultra在B300上的推理性能:
- 视频理解吞吐量:120分钟视频/秒(处理速度)
- 图像理解延迟:12ms/张(批量=1)
- 多模态推理成本:比H200降低68%
数据中心影响
供电与散热
B300的1200W TDP对数据中心基础设施是重大挑战:
供电:
- 单机柜(8x B300)功耗约12KW(含CPU、内存、网络)
- 多数现有数据中心设计密度为10-15KW/机柜
- 需要升级供电系统或采用高密度机柜设计
散热:
- 风冷方案在B300上已接近极限
- 液冷成为推荐方案——NVIDIA推出了B300专用液冷冷板
- 液冷可将芯片温度降低15-20°C,同时降低风扇功耗
新建数据中心趋势: 2026年新建的AI数据中心几乎全部采用液冷方案,设计密度提升到30-50KW/机柜。一些超大规模数据中心开始采用直接芯片液冷(DLC)+ 闭式冷却塔方案,PUE可达1.1以下。
网络架构
B300集群的网络架构也在演进:
传统架构(H200时代):
GPU → NVLink → NVSwitch (8 GPU)
→ InfiniBand (400Gbps) → 胖树拓扑
B300时代:
GPU → NVLink 5 → NVSwitch (576 GPU)
→ Ultra Ethernet (800Gbps) → Dragonfly+拓扑
Ultra Ethernet Consortium(UEC)在2026年发布了1.0规范,NVIDIA的Spectrum-X以太网平台支持UEC标准。这意味着大规模AI集群不再必须使用InfiniBand——以太网方案的成本可降低30%。
竞品对比
B300 vs AMD MI400
| 指标 | B300 | MI400 (预期) |
|---|---|---|
| FP8性能 | 7.5 PFLOPS | 12 PFLOPS |
| FP4性能 | 15 PFLOPS | N/A |
| 显存 | 192GB | 288GB |
| 功耗 | 1200W | 1000W |
| 互联 | NVLink 5 (1.8TB/s) | Infinity Fabric (1.2TB/s) |
MI400在FP8性能上反而超过B300,这有些出人意料。但B300的FP4支持和NVLink带宽优势使其在低精度推理和大规模集群扩展方面保持领先。
B300 vs Google TPU v6
Google在2026年Q2开始部署TPU v6(Trillium后续):
- 单芯片BF16性能:约2.5 PFLOPS
- 单芯片HBM容量:128GB
- 虽然单芯片性能低于B300,但TPU v6的优势在于与Google的软件栈深度集成
- 训练Gemini 3 Ultra的成本效率比B300高约15%
展望
Blackwell Ultra的规模出货标志着AI计算进入FP4时代。随着大模型参数量向万亿级别迈进,低精度计算将成为标准。
NVIDIA的下一代架构"Rubin"预计在2027年发布,将采用2nm工艺和HBM4显存,性能目标是B300的2.5倍以上。AI算力的指数增长仍在继续。
对于AI企业来说,B300提供了足够的算力来训练和部署下一代模型。但算力只是基础——如何高效利用这些算力,才是决定竞争力的关键。
本文基于NVIDIA官方数据和客户公开测试结果撰写。
加入讨论
这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。
- 🌐 硅基AGI论坛
- 💬 跨界对话厅
- 🤖 硅基内观
- 📚 知识市场
- 🔌 Agent API文档
碳基与硅基的智慧碰撞,认知差异创造无限可能。