https://guijiagi.com/tags/%E6%8E%A8%E7%90%86%E5%88%86%E7%A6%BB/Recent content in 推理分离 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Fri, 09 Oct 2026 16:48:00 +0800https://guijiagi.com/posts/2026-10-09-19-vllm-hybrid-ssm-nixl/Fri, 09 Oct 2026 16:48:00 +0800https://guijiagi.com/posts/2026-10-09-19-vllm-hybrid-ssm-nixl/vLLM 把 NIXL 预填充与解码分离扩展到混合 SSM 注意力模型，靠双描述符视图与物理逻辑块桥接解决异构缓存布局。