LLM 可解释性研究：我们能看到模型在想什么吗
为什么可解释性至关重要 大语言模型是黑箱——我们知道输入和输出，但中间发生了什么？这个问题在 2026 年变得更加紧迫：模型参数突破万亿级，能力远超人类评估者的验证范围，如果我们无法理解模型的推理过程，就无法信任其输出。 可解释性研究的两个维度： 维度 目标 方法 事后解释（Post-hoc） 解释已有模型的行为 探针、归因、可视化 机制解释（Mechanistic） 理解模型内部的计算机制 Circuit 分析、Superposition 解构 事后解释回答"模型关注了什么"，机制解释回答"模型如何计算"。 机制解释性（Mechanistic Interpretability） 机制解释性的核心主张：逆向工程神经网络，像理解电路一样理解模型。 与传统机器学习可解释性不同，机制解释性不满足于"哪些特征重要"，而是要找到具体的计算电路（Circuit）——哪些神经元如何连接、如何执行特定计算。 Circuit 分析 Anthropic 在 20221 年的开创性工作发现：Transformer 中存在可识别的功能电路。 **Induction Heads（归纳头）**是经典案例。研究者发现，Transformer 的某些注意力头执行一种特定的"前缀匹配"操作： 输入: "The cat sat. The cat slept." Induction Head 行为: 1. 在 "The cat" 出现时记住这个 pattern 2. 下次看到 "The" 时，预测 "cat" 会再次出现 3. 从而实现 in-context learning 这一发现解释了 Transformer 为什么能做 few-shot learning——不是魔法，是特定的注意力头在做模式匹配。 Circuit 分析的进展 电路类型 功能 发现时间 Induction Heads 上下文学习 2022 Successor Heads 序列推理（A→B, B→C） 2023 Duplicate Token Heads 重复检测 2023 Backup Heads 冗余注意力 2024 Function Vectors 任务函数编码 2024 In-Context Learning Circuits 完整 ICL 链路 2025 Superposition 假说 问题：神经元不够用 一个 7B 参数的模型约有 4096 个隐藏维度，但模型需要表示的概念远超 4096——语言、逻辑、事实、技能。模型如何用有限维度表示几乎无限的概念？ ...