GPT-6.2 的发布说明里反复出现一个说法:用更少的输出 token 取得更好的结果。这句话听起来像营销,但它其实指出了过去两年一个被忽视的浪费:模型说得太多。
输出太长为什么是问题?
输出 token 通常是输入价格的两到四倍,而且长输出会带来两个连带成本:一是下游解析变慢,二是人工阅读时间变长。一段本该三句话说完的结论,被写成三段铺垫,读者要花三倍时间才能拿到重点。
更麻烦的是,长输出会掩盖不确定性。模型用大量修饰语把没有把握的判断包起来,人读着顺,实际信息量为零。
怎么让模型少说但说清?
第一,在提示词里给出硬性结构:结论在前,理由三条以内,不确定的地方显式标注。第二,给出长度上限,并要求超限时优先删例子而不是删结论。第三,用评分而不是感觉验收:同一条任务,比较两版输出的信息密度。
一个可操作的做法是让模型先输出一句话结论,再输出支撑要点,最后单独列出它没把握的部分。这三段分开,人能快速判断要不要继续读。
少输出会不会牺牲质量?
在事实性任务上,压缩通常提升质量,因为废话少了,错误也少了藏身之处。在创意任务上,过度压缩会让文本干瘪,需要放宽长度但保留结构。
判断标准很简单:删掉一段后,结论是否还成立。成立就删,不成立就留。把这个动作交给模型自己做,往往比人工删更彻底。
对成本的实际影响有多大?
如果输出从八百 token 降到四百,账单可能下降三成以上,因为输出单价更高。对高频调用场景,这比等一次 API 降价更可控,也更持久。真正该优化的,是自己的提问方式和验收标准。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论