https://guijiagi.com/tags/4bit%E6%8E%A8%E7%90%86/Recent content in 4bit推理 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Wed, 07 Oct 2026 18:54:00 +0800https://guijiagi.com/posts/2026-10-07-gptq-awq-quantization-deep-dive/Wed, 07 Oct 2026 18:54:00 +0800https://guijiagi.com/posts/2026-10-07-gptq-awq-quantization-deep-dive/同样是把权重压到 4bit，GPTQ 用二阶误差补偿，AWQ 保护显著权重。拆解两派原理、质量差异与选型建议。