https://guijiagi.com/tags/%E5%88%86%E7%A6%BB%E5%BC%8F%E6%8E%A8%E7%90%86/Recent content in 分离式推理 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Thu, 08 Oct 2026 16:00:00 +0800https://guijiagi.com/posts/2026-10-08-11-nvidia-dynamo-disaggregation/Thu, 08 Oct 2026 16:00:00 +0800https://guijiagi.com/posts/2026-10-08-11-nvidia-dynamo-disaggregation/Dynamo 1.0 四月发布、六月迭代到 v1.2，把 prefill 与 decode 拆到不同资源池。本文解释这个早就被讨论的概念为什么今年才真正可用。https://guijiagi.com/posts/2026-10-08-07-deepseek-r1-gb300-serving/Thu, 08 Oct 2026 15:36:00 +0800https://guijiagi.com/posts/2026-10-08-07-deepseek-r1-gb300-serving/SemiAnalysis 口径下 DeepSeek-R1 在 GB300 NVL72 上每百万 token 约 4 美分。本文解释 EP4DP16 与 EP64DP3 这种分离式拓扑为什么必要。