Kimi K3.1 Pro 的两个数字很直接:2.8T 参数、100 万上下文,价格比上一代砍了一半。百万上下文这两年一直在喊,真正能用的不多,所以值得认真算一笔账。

百万上下文解决了什么?

解决了一次性读完的问题。过去要检索、要切片、要拼装,现在可以直接把整份资料放进去。

这对长文档场景价值很大:合同、研报、代码库、会议记录。省掉的不只是工程,还有切片带来的信息断裂。

长上下文的隐藏成本在哪?

三个。第一,钱。token 数线性上涨,价格再降也扛不住天天塞百万。第二,注意力稀释。上下文越长,关键信息越容易被淹没。第三,延迟。读得越多,首字越慢。

三个里第二个最容易被忽视。很多人以为塞进去就等于记住了,其实模型在长文里找细节的能力会明显下降。

价格砍半意味着什么?

意味着长上下文的性价比第一次进入了可用区间。原来百万上下文是演示功能,现在可以进生产流程。

但别误会:便宜的是单价,不是总量。用得越多,账单越大。省钱的正确方式是把上下文当预算管理,而不是当免费空间。

什么场景该用长上下文?

三类。第一,需要全局一致性判断的,比如整份合同找矛盾条款。第二,跨文档对比,比如三版方案找差异。第三,代码库级别的理解,比如找一个跨多个文件的调用链。

不适合的是简单问答。一个问题只需要一段资料,塞百万进去是浪费,还会让答案变糊。

和检索比该怎么选?

检索适合高频、结构化、可枚举的问题。长上下文适合低频、需要全局视野的问题。

成熟的方案是混合:先用检索缩小范围,再把命中的部分放进长上下文做精细判断。两级配合,成本和效果都更稳。

值不值?

对重度长文档工作者,值。对轻量问答用户,不值,用便宜档更划算。

判断标准很简单:你的任务里,有多少比例需要同时看完整份材料?超过三成,长上下文就是刚需;不到一成,它就是奢侈品。

百万上下文不是越大越好,是越准越省越好。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论