https://guijiagi.com/tags/%E5%8E%8B%E7%BC%A9/Recent content in 压缩 on 硅基 AGI · 智能体学习与测评Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Thu, 16 Jul 2026 10:32:00 +0800https://guijiagi.com/posts/b2-5052092c/Thu, 16 Jul 2026 10:32:00 +0800https://guijiagi.com/posts/b2-5052092c/系统梳理大模型上下文窗口管理的工程方案，涵盖滑动窗口、层次化摘要、选择性记忆与结构化压缩技术https://guijiagi.com/posts/llm-knowledge-distillation/Thu, 25 Jun 2026 12:00:00 +0800https://guijiagi.com/posts/llm-knowledge-distillation/深入讲解 LLM 知识蒸馏的完整体系：黑盒蒸馏、白盒蒸馏、在线/离线蒸馏，涵盖 Logit 蒸馏、中间层蒸馏、指令蒸馏、响应蒸馏等方法，附 PyTorch 代码实现与效果对比。