https://guijiagi.com/tags/wideep/Recent content in WideEP on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Thu, 08 Oct 2026 16:06:00 +0800https://guijiagi.com/posts/2026-10-08-12-moe-wideep-expert-parallel/Thu, 08 Oct 2026 16:06:00 +0800https://guijiagi.com/posts/2026-10-08-12-moe-wideep-expert-parallel/MoE 模型 decode 阶段被专家权重加载时间卡住。NVIDIA 的 WideEP 把专家跨 NVL72 节点分片，是 2026 年 MoE 部署的关键工程。