Google 上线 Gemini Decisions API,底层是 Gemini Decision 1,定价每百万 token 0.10 美元,单次调用可以返回 1000 个 yes/no 的校准概率。

0.10 美元每百万是什么概念?

比主流生成模型便宜两到三个数量级。这意味着可以拿它做过去不敢做的批量判断:每条数据都问一遍,而不是抽样。

成本结构一变,方法就会变。原来靠抽样估算的场景,现在可以全量标注。

1000 个 yes/no 一次返回意味着什么?

意味着批处理被做进了接口。一次调用,1000 个独立判断,每个都带概率。

这对打标、审核、筛选类任务是直接利好。原来要循环一千次,现在一次搞定,延迟和成本都降一个量级。

校准概率为什么重要?

因为未校准的概率没法用。模型说 0.8,实际可能只有 0.5。校准之后,0.8 就真的接近八成。

有了校准,才能设阈值。阈值一设,系统就有了可控的取舍:宁可漏还是宁可错,由业务定。

适合哪些场景?

四类。第一,内容审核,判断是否违规。第二,意图识别,判断用户想干什么。第三,数据清洗,判断字段是否有效。第四,A/B 分流,判断样本属于哪一组。

共同点是:判断简单、量大、允许一定误差。

不适合哪些场景?

需要解释的场景。它只给概率,不给理由。用户问为什么被判违规,它答不上来。

还有需要多步推理的场景。分类器做不了链条推理,硬用会出错。

对企业的实际影响是什么?

影响是很多过去靠人海做的活,现在可以机器做。审核、打标、初筛,这些岗位的大量工作会被这类便宜的分类能力吃掉。

但要注意,它吃掉的是判断,不是处置。判断完之后的动作、申诉、复核,还是要人。

该怎么起步?

先找一个量大、判断简单、误差可接受的环节,做全量试点。跑一周,比对人工结果,看校准曲线是否可信。

可信就扩大,不可信就调阈值。别一上来就全业务铺开,校准没验证过,铺开就是灾难。

便宜的分类能力会改变很多流程的设计前提。原来因为贵而做的抽样,现在可以不做。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论