十一月的模型市场,最直观的变化是价格。旗舰模型输入价被压到每百万词元一点五美元这个量级,轻量模型更低。宣传口径都在说便宜,实际选型要看的是单位任务成本,不是单位词元价格。

这两个数经常不同向。

为什么词元单价不等于任务成本?

一个任务要花多少词元,取决于模型啰嗦不啰嗦、要不要多轮、要不要重试。便宜的模型如果答不对,重试三次,成本立刻翻三倍。贵的模型一次答对,反而更省。

还有一层隐性成本是输出长度。有些模型习惯把话说满,输出词元是输入的三四倍,输出单价通常高于输入,账单一算就超预期。

该怎么算单位任务成本?

三步。第一步,取一批自己真实的任务样本,二十到五十条即可。第二步,同一套提示分别跑不同模型,记录输入词元、输出词元、重试次数、人工复核时间。第三步,把词元费用加上人工时间折算成钱,得到每条任务的完全成本。

多数人只算第一步的费用,忽略人工复核,结论会严重偏向便宜但不可靠的模型。

价格战会打到什么位置?

观察到的下限是接近推理的边际成本。再低就是补贴换份额,不可持续。已经看到一些厂商用限时免费额度争取开发者,这类活动适合试水,不适合长期依赖。

另一个方向是按结果计价。客户不为词元付费,为完成的任务付费。这个模式把模型效率的风险转给了供应方,也把定价权从算力转向交付质量。

选型该怎么落?

按任务分层。高频、低风险、格式固定的任务用最便宜的模型,错了重试无妨。低频、高风险、需要判断的任务用贵模型,一次做对更重要。中间地带用中等模型加人工抽检。

再补一条:把模型的可替换性设计进去。提示和工具调用尽量标准化,避免绑定某家的特殊格式。价格战还会继续,能换的人才有议价权。

便宜是不是好事?

对买方是,对行业未必。持续的价格战会压缩研发投入,最后剩下的玩家会减少。真正健康的降价来自效率提升,不是来自烧钱。

判断一次降价属于哪种,看两点:降价同时有没有提升能力指标,降价之后有没有继续迭代。两条都有,是效率;只有降价,是补贴。

买方该做的,是在补贴期把该试的都试了,把该迁的都迁了,同时保留随时换回的能力。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论