https://guijiagi.com/tags/%E6%8E%A8%E7%90%86%E6%A0%88/Recent content in 推理栈 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Thu, 15 Oct 2026 15:30:00 +0800https://guijiagi.com/posts/2026-10-15-06-step-37-flash-mtp3-serving-stack/Thu, 15 Oct 2026 15:30:00 +0800https://guijiagi.com/posts/2026-10-15-06-step-37-flash-mtp3-serving-stack/StepFun Step 3.7 Flash 用 3 路多 token 预测把吞吐拉到 100 到 300 tok/s，但 vLLM 和 SGLang 的 speculative 配置口径不统一。