思维链提示是过去几年最实用的技巧之一:你只要在问题后面加上「请一步一步思考」,模型在数学题、逻辑题上的准确率就能提升一大截。但这个技巧有效的同时,也带出一个尴尬的问题——模型写出来的那些推理步骤,到底是它得出答案的真实过程,还是它先猜出答案再倒推出来的合理化叙述?
思维链提升准确率的因果机制是什么?
一种解释是,让模型把中间步骤显式写出来,相当于强制它在每一步做一次额外的前向计算,把原来要一次输出的复杂计算拆成多次小计算。每一步的中间结果都进入上下文,成为下一步的条件,于是错误传播被限制在单步内。这种「计算外化」解释了为什么思维链对多步任务特别有效——它不是让模型更聪明,而是给了它更多的推理预算。
中间步骤与最终答案真的有因果关系吗?
这是争议核心。实验显示,如果你在思维链中途插入一个错误前提,模型有时会顺着错误前提推出一个仍然错但内部自洽的答案;但如果你把思维链删掉,直接问最终答案,它有时又能给出正确答案。这说明中间步骤与最终答案之间的因果关系不是单向的,而是双向耦合——模型在写步骤的同时也在反复更新它对答案的估计。中间叙述更像是推理的脚手架,而不是推理的录音。
我们该不该相信模型自己写的理由?
不能。模型写出的解释经常是事后合理化的产物——它已经知道答案,然后编出一个听起来合理的推导。当你要把模型用于医疗、法律、金融等高 stakes 场景时,只看它给出的理由是不够的,你需要独立的验证机制,比如让另一个模型复核、用外部工具验算、或者对中间步骤做程序执行。我们在 工程实践 里反复强调,思维链是可观察性的工具,不是可信度的保证。
思维链最大的价值,是把模型内部原本不可见的计算过程摊开到纸面上。至于它是不是真推理,这个问题也许本身就问错了——重要的是它让结果变得可检查。
思维链会不会反过来限制了模型的潜力?
强制模型把每一步写出来,相当于给它的推理加了一个语言瓶颈——它必须用自然语言把内部计算翻译出来,而这种翻译本身会丢信息。有研究发现,有些任务上不要求显式思维链、让模型在内部直接计算,反而更快更准。这提示我们,思维链是一种可观察性工具,不是最优推理方式。未来的方向可能是:内部用高效的隐式计算,只在需要人类审计时才把过程翻译成可读的步骤。
去论坛讨论
前往 silicon-agi.com 论坛 参与讨论。