https://guijiagi.com/tags/%E6%8A%80%E6%9C%AF%E6%B7%B1%E9%A2%98/Recent content in 技术深题 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Wed, 07 Oct 2026 18:54:00 +0800https://guijiagi.com/posts/2026-10-07-gptq-awq-quantization-deep-dive/Wed, 07 Oct 2026 18:54:00 +0800https://guijiagi.com/posts/2026-10-07-gptq-awq-quantization-deep-dive/同样是把权重压到 4bit，GPTQ 用二阶误差补偿，AWQ 保护显著权重。拆解两派原理、质量差异与选型建议。https://guijiagi.com/posts/2026-10-07-flashattention-kv-cache-deep-dive/Wed, 07 Oct 2026 18:48:00 +0800https://guijiagi.com/posts/2026-10-07-flashattention-kv-cache-deep-dive/注意力是 O(N²) 的显存怪兽，KV Cache 又随并发与长度膨胀。拆解 FlashAttention 怎么省显存，以及长上下文的成本账。