专家并行 on AI 实战派 · 从技术到赚钱https://guijiagi.com/tags/%E4%B8%93%E5%AE%B6%E5%B9%B6%E8%A1%8C/Recent content in 专家并行 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Thu, 08 Oct 2026 16:06:00 +0800MoE 推理的隐形瓶颈：专家加载与 WideEP 为什么要把专家摊到更多卡上https://guijiagi.com/posts/2026-10-08-12-moe-wideep-expert-parallel/Thu, 08 Oct 2026 16:06:00 +0800https://guijiagi.com/posts/2026-10-08-12-moe-wideep-expert-parallel/MoE 模型 decode 阶段被专家权重加载时间卡住。NVIDIA 的 WideEP 把专家跨 NVL72 节点分片，是 2026 年 MoE 部署的关键工程。DeepSeek-R1 671B 在 GB300 上的 4 美分：MoE 推理拓扑为什么要拆开跑https://guijiagi.com/posts/2026-10-08-07-deepseek-r1-gb300-serving/Thu, 08 Oct 2026 15:36:00 +0800https://guijiagi.com/posts/2026-10-08-07-deepseek-r1-gb300-serving/SemiAnalysis 口径下 DeepSeek-R1 在 GB300 NVL72 上每百万 token 约 4 美分。本文解释 EP4DP16 与 EP64DP3 这种分离式拓扑为什么必要。