https://guijiagi.com/tags/%E8%B0%83%E5%BA%A6/Recent content in 调度 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Thu, 15 Oct 2026 21:54:00 +0800https://guijiagi.com/posts/2026-10-15-10-serving-agentic-queue-routing/Thu, 15 Oct 2026 21:54:00 +0800https://guijiagi.com/posts/2026-10-15-10-serving-agentic-queue-routing/十月十四日的工程复盘指出，面向智能体的推理服务开始补多轮记忆、混合精度与更安全的 rollout，用排队论选副本带来约百分之十四吞吐提升与近五成八的 TTFT 下降。