电商场景用 AI,成本结构和办公场景不一样:调用量大、对时效要求高、还要和后台系统打通。钱主要花在三处,搞清楚比例,才不会被账单吓到。
钱花在哪三处?
三处。模型调用,按 Token 或按次计费,是变动成本;系统与接口,服务器、数据库、带宽,是固定成本;人力,包括运营、审核、维护,是半固定成本。三处里,第一处随业务量线性增长,后两处在一定范围内不变。
哪一处最容易被低估?
人力。很多人算成本只算模型调用费,忽略了审核和运营。电商内容量大,审核占用的时间往往超过生产时间。一个日更几百条素材的店铺,审核至少需要半个人。这笔账不算进去,会误以为 AI 很便宜。
怎么把变动成本压下来?
四条。第一,缓存,相同或相似请求复用结果;第二,分级,简单任务用便宜模型,复杂任务用贵的;第三,批处理,把零散请求合并;第四,限制上下文长度,不要每次都塞全量资料。四条里,第一条和第二条效果最明显。
固定成本怎么优化?
三条。第一,按峰值配置还是按均值配置,要算清楚,多数场景按均值加弹性扩容更省;第二,把不常用的服务下线,很多成本来自「买了没用」;第三,把存储分层,热数据用贵存储,冷数据归档。
怎么算单位经济模型?
算「每单的 AI 成本」。把月度总成本除以处理订单数,得到一个数,和每单毛利对比。这个数超过毛利的几个百分点,就要重新设计流程。单位模型算不清,规模越大亏得越多。
什么时候该停?
三种信号。单位成本持续高于收益;调用量涨但转化没涨;维护人力持续增加。三种信号出现一个,就该停下来复盘,而不是继续加投入。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论