https://guijiagi.com/tags/%E5%BC%80%E6%BA%90%E9%A1%B9%E7%9B%AE/Recent content in 开源项目 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Wed, 07 Oct 2026 17:00:00 +0800https://guijiagi.com/posts/2026-10-07-llama-cpp-inference-engine/Wed, 07 Oct 2026 17:00:00 +0800https://guijiagi.com/posts/2026-10-07-llama-cpp-inference-engine/从 GGUF 量化到 MTP 投机解码，llama.cpp v0.6.0 把 320B MoE 拉进了消费级显存。拆解它的工程内核与适用边界。