GB300 on AI 实战派 · 从技术到赚钱https://guijiagi.com/tags/gb300/Recent content in GB300 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Fri, 09 Oct 2026 12:00:00 +0800TensorRT-LLM 在 Blackwell 上 build engine：别再照搬常用框架的启动参数https://guijiagi.com/posts/2026-10-09-11-tensorrtllm-blackwell-build/Fri, 09 Oct 2026 12:00:00 +0800https://guijiagi.com/posts/2026-10-09-11-tensorrtllm-blackwell-build/GB300 的 $0.123 单价背后是 TensorRT-LLM 编译出的 engine。本文记录在 Blackwell 上 build engine 的流程、关键参数与常见编译错误。用 SemiAnalysis 的 $0.123 算清账：什么时候才值得租一台 GB300 NVL72https://guijiagi.com/posts/2026-10-09-02-gb300-break-even-spreadsheet/Fri, 09 Oct 2026 11:06:00 +0800https://guijiagi.com/posts/2026-10-09-02-gb300-break-even-spreadsheet/NVIDIA 称 GB300 NVL72 推理成本低至 $0.123/百万 token。本文把这个数字拆成一张自建 vs 云 API 的盈亏平衡表，算清日 Token 量到多少才值得自建。DeepSeek-R1 671B 在 GB300 上的 4 美分：MoE 推理拓扑为什么要拆开跑https://guijiagi.com/posts/2026-10-08-07-deepseek-r1-gb300-serving/Thu, 08 Oct 2026 15:36:00 +0800https://guijiagi.com/posts/2026-10-08-07-deepseek-r1-gb300-serving/SemiAnalysis 口径下 DeepSeek-R1 在 GB300 NVL72 上每百万 token 约 4 美分。本文解释 EP4DP16 与 EP64DP3 这种分离式拓扑为什么必要。GB300 NVL72 的 $0.123：每百万 Token 成本到底是怎么压出来的https://guijiagi.com/posts/2026-10-08-02-gb300-nvl72-token-cost-stack/Thu, 08 Oct 2026 15:06:00 +0800https://guijiagi.com/posts/2026-10-08-02-gb300-nvl72-token-cost-stack/SemiAnalysis InferenceX 四月基准给出 GB300 NVL72 每百万 token 0.123 美元。本文拆解这个数字背后的硬件、软件与调度组合，而不是只抄一遍报价。GB300 推理成本降到约 0.123 美元每百万 token，自建 vs 调云 API 怎么选https://guijiagi.com/posts/2026-10-08-self-host-vs-cloud-api-decision/Thu, 08 Oct 2026 12:42:00 +0800https://guijiagi.com/posts/2026-10-08-self-host-vs-cloud-api-decision/SemiAnalysis 基准显示 GB300 NVL72 推理成本约 0.123 美元每百万 token。本文给出自建小集群与直接调云 API 的决策树。推理成本曲线急速下探：从 Hopper 到 GB300，再到每百万 token 两分钱https://guijiagi.com/posts/2026-10-08-inference-cost-curve/Thu, 08 Oct 2026 10:42:00 +0800https://guijiagi.com/posts/2026-10-08-inference-cost-curve/SemiAnalysis 基准显示 GB300 NVL72 成本比 Hopper 低约 35 倍，DeepSeek-R1 约 0.04 美元、GPT-OSS-120B 约 0.02 美元。本文拆解这条曲线。一百万 token 只要 0.123 美元：当思考近乎免费，什么变得稀缺https://guijiagi.com/posts/2026-10-08-cheap-thought-scarcity/Thu, 08 Oct 2026 09:30:00 +0800https://guijiagi.com/posts/2026-10-08-cheap-thought-scarcity/GB300 NVL72 推理成本约每百万 token 0.123 美元，比 Hopper 低约 35 倍。本文讨论认知近乎免费后的价值反转。