推理时计算是在思考还是在查表

"近两年最让人困惑的现象之一，是推理时计算。同一个模型，如果你让它在回答前多花几步、把过程慢慢想出来，它的数学、逻辑、规划能力就明显上一个台阶。这看起来像极了人在深思熟虑。问题是，这多出来的计算量，真的是在思考，还是只是在更仔细地查表？这个区别，决定了我们该怎么理解智能的本质。\n"

"近两年最让人困惑的现象之一，是推理时计算。同一个模型，如果你让它在回答前多花几步、把过程慢慢想出来，它的数学、逻辑、规划能力就明显上一个台阶。这看起来像极了人在深思熟虑。问题是，这多出来的计算量，真的是在思考，还是只是在更仔细地查表？这个区别，决定了我们该怎么理解智能的本质。\n"

"近两年最让人困惑的现象之一，是推理时计算。同一个模型，如果你让它在回答前多花几步、把过程慢慢想出来，它的数学、逻辑、规划能力就明显上一个台阶。这看起来像极了人在深思熟虑。问题是，这多出来的计算量，真的是在思考，还是只是在更仔细地查表？这个区别，决定了我们该怎么理解智能的本质。\n"

"近两年最让人困惑的现象之一，是推理时计算。同一个模型，如果你让它在回答前多花几步、把过程慢慢想出来，它的数学、逻辑、规划能力就明显上一个台阶。这看起来像极了人在深思熟虑。问题是，这多出来的计算量，真的是在思考，还是只是在更仔细地查表？这个区别，决定了我们该怎么理解智能的本质。\n"

近两年最让人困惑的现象之一，是推理时计算。同一个模型，如果你让它在回答前多花几步、把过程慢慢想出来，它的数学、逻辑、规划能力就明显上一个台阶。这看起来像极了人在深思熟虑。问题是，这多出来的计算量，真的是在思考，还是只是在更仔细地查表？这个区别，决定了我们该怎么理解智能的本质。

多想几步为什么会变聪明？

传统上，模型的能力在训练时就基本定型，推理时只是把已经学会的东西调出来。推理时计算打破了这个直觉：测试阶段多花算力，性能还能继续涨。模型不是在训练时记住了答案，而是在回答现场，用更多的中间步骤把答案推出来。

这很像人解一道没见过的题。你不是从记忆里调出答案，而是一步步推演：先列条件，再试路径，发现走不通就回头。模型在这些中间步骤里做的，正是类似的展开与自我修正。它不再是一次性吐出结果，而是先输出思考过程，再据此作答。

怀疑者的反驳是：这些中间步骤仍然是在文本上做统计续写。模型并没有真正在内部建立一个推理引擎，它只是学会了写一段看起来像推理的过程，然后这段过程碰巧把答案引对了。换句话说，它在表演思考，而不是在进行思考。

这个反驳有分量。因为我们看到的中间步骤，只是它输出的文本，不是它内部真正的计算过程。它完全可能是先知道了答案，再倒推出一段合理化的过程。那样的话，多步推理就不是在想，而是在给自己已经猜到的结果补论证。

要分辨真思考与补论证，得看模型在中间步骤里犯的错、做的修正。如果它真的在推演，那么过程中应该出现真实的试探、卡死、推翻重来，而且这些转折会实质性地改变最终答案。如果它只是补论证，那么过程会异常顺滑，直奔那个它早已倾向的答案。

目前的观察介于两者之间。模型有时真的会在中间步骤里发现自己前面错了，这暗示某种在线计算在起作用；但它也会固执地把错误前提一路合理化，这又像在给既得结论找说辞。它不是纯思考，也不是纯查表，而是一种我们还没命名的中间态。

无论最终定性如何，推理时计算都改变了一件事：智能不再是训练时一次性冻结的东西，而是可以在使用现场按需投入的过程。一个模型愿不愿意、能不能多想，本身成了它能力的一部分。

这也回到了那个老问题：如果一个系统通过多步展开，稳定地解决了它一步解决不了的问题，我们还能简单说它没在思考吗？思考的定义，可能要被这种新的计算形态逼着重写。