第一回合的价格战打的是单价,各家轮番降价,把每百万 token 的价格压到很低。第二回合打的不是单价,是总成本。
这个区别很关键。单价看得见,总成本看不见,而后者才是真正决定项目能不能跑起来的。
总成本包含什么?
四块。调用费、重试费、人工复核成本、系统改造成本。
调用费最好算,单价乘用量。重试费容易被忽略:一个模型如果输出格式不稳定,需要多次重试才能拿到可用结果,实际成本是标价的两到三倍。
人工复核成本取决于错误率。错误率高一个百分点,复核人力可能翻倍。系统改造成本指接入、适配、切换的工程投入。
为什么单价低不等于便宜?
因为不同模型的可用输出率不一样。有的模型一次就能给出符合格式的结果,有的要三次。按有效输出算单价,差距可能超过五倍。
这就是为什么很多团队换了便宜模型之后,账单反而涨了。他们只比了单价,没比有效成本。
怎么算才准?
做一次真实测算。拿两百条真实请求,跑三个候选模型,记录:首次成功率、平均重试次数、人工介入比例、端到端时延。
然后用这个公式:有效成本等于总调用费除以可用结果数,再加上人工成本分摊。这个数字才有比较意义。
第二回合的价格战会怎么打?
会打捆绑。模型加工具加存储加推理优化,打包成一个方案报价。单看模型单价可能不便宜,但整体方案的总成本更低。
这对中小团队其实是好事,因为省去了自己拼装的工作量。风险是绑定,一旦进了某个生态,迁移成本会很高。
该不该趁价格战囤量?
不该。预付费套餐在价格快速下行期是负资产。今天买的额度,三个月后可能比市场价贵一倍。
合理做法是按需付费,或者买短周期的小额套餐。价格战期间,灵活性比折扣更值钱。
有什么省钱的实操办法?
三个。第一,按任务分级,简单任务用小模型,复杂任务才用大模型。第二,做缓存,相同或相似请求复用结果,客服和知识库场景命中率很高。第三,压缩提示词,把系统提示从三千字压到一千字,成本直接降三成。
这三件事都不需要换供应商,做完就能省钱。很多团队跳过这三步直接去比价,是本末倒置。
最后一条判断是什么?
价格战打到最后,模型会变成接近成本价的商品。真正的成本差异会来自你怎么用它,而不是你买了谁。
所以采购决策的重点应该从找最便宜的,转向设计最省的使用方式。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论