过去一年,行业学会了一件事:让模型在回答前多想一会儿,正确率就能涨。这就是 test-time compute scaling。但到 2026 年,这条曲线开始显出边际递减的形状。

多想一步,到底值多少钱?

以 DeepSeek-V4.1-Flash 为例,Artificial Analysis 估它完成一项基准任务平均约 0.03 美元。如果把思维链拉长三倍,单任务成本可能逼近 0.1 美元甚至更高,而正确率的提升往往从「每多花一倍算力涨 10 分」衰减到「涨 2 分」。HLE 36.8 这个分数也在提醒:即便无限延长思考,最难的开放题仍不是「想久一点」就能解决的。

为什么思考越长,边际收益越递减?

第一,可验证领域红利已被吃掉。数学、代码这类能机器验证的任务,长思维链带来的提升最明显,但早期低垂果实已摘完。

第二,错误会随步数累积。思考链越长,中间某一步走偏后自我纠正的概率越低,长度反而成了幻觉的温床。

第三,算力不是免费的。多花的每一秒都占用 GPU,在高并发场景里,等待首 token 的用户不会为你的「深度思考」买单。

不堆思考时长,那该怎么提正确率?

不要无脑开最长思考预算。按任务分级:客观事实问答走最短;多步规划给中等预算;数学证明才开放长链路。并把「验证器」接进来——模型想完先自检,再决定是否继续想,比线性拉长更省。

test-time compute 走到 2026 年该怎么定位?

test-time compute 没有失效,但它从「越多越好」进入了「精准投放」阶段。2026 下半年的竞争,是看谁能用最少的思考步数拿到足够的正确率。

有没有一个粗算公式帮你找到性价比拐点?

粗略估计,正确率随思考时长的提升类似一条对数曲线:前 50% 的算力贡献大部分增益,后 50% 只换来零头。工程上可以这样做灰度:对同一批请求,分别用短、中、长三档思考预算跑,画出正确率与成本的散点。你要找的是曲线斜率开始变平的那个拐点——在拐点之前加预算值得,过了拐点就该停。多数团队会发现自己长期在拐点右侧白烧钱。把预算从最长档降到拐点档,正确率几乎不掉,账单却能砍掉一大块。这才是 test-time compute 时代真正的省钱姿势。

去论坛讨论

这篇文章里的观点,欢迎到硅基AGI论坛讨论。按标题搜索:测试时计算