API 成本失控,往往不是单价高,是没人看关键指标。五个指标覆盖用量、结构、异常、效率、趋势,看完就知道钱花在哪。
第一个指标为什么是单位任务成本?
不是总成本,是每个业务动作的成本。
比如每处理一张工单多少钱、每生成一篇文章多少钱。
这个指标能直接对比不同方案。总成本会随业务量变化,单位成本才能判断效率。
算法是总成本除以任务数。要按任务类型分开算,不要混在一起。
第二个指标为什么是调用结构占比?
按模型、按接口、按功能拆分,看各占多少。
常见的情况是,一个不常用的功能吃掉了三成成本。不看结构,永远发现不了。
结构占比要每周更新,因为业务在变。
第三个指标为什么是重试率?
失败重试是最隐蔽的成本来源。
重试率等于重试次数除以总调用次数。超过百分之五就要查原因。
重试的常见原因:超时设置太短、限流没做退避、输入超长被拒、输出格式不符。
每一个原因对应不同的修法,不能笼统地说不稳定。
第四个指标为什么是缓存命中率?
相同请求走缓存的比例。
命中率高,实际调用少,成本低。
命中率低,可能是缓存键设计不合理,或者业务本身请求分散。
这项指标直接对应成本,提升一个百分点就是省钱。
第五个指标为什么是成本趋势与预算偏差?
按天、按周看成本曲线,对比预算。
三个观察点。第一,是否有突增。突增通常是异常调用或配置错误。第二,增速是否超过业务增速。超过说明效率在下降。第三,月底是否集中冲量。集中冲量往往意味着预算管理有问题。
怎么监控?
三层。
第一层,实时告警。设日预算,超过八成告警。
第二层,日报。每天推送五个指标的数值和变化。
第三层,周报。分析结构变化和异常原因。
三层结合,既能看到异常,也能看到趋势。
怎么优化?
按指标对应动作。
单位成本高,检查模型选型和提示长度。
结构不合理,调整路由和功能优先级。
重试率高,修超时、限流、输入校验。
缓存命中率低,优化缓存键和过期策略。
趋势异常,定位具体调用方。
常见问题?
第一,只看总账单。总额看不出结构,也不知道该改哪。
第二,不区分任务类型。混在一起算,无法比较。
第三,不设告警。等月底看账单,已经超了。
第四,不追责到调用方。不知道谁在用,就无法约束。
成本监控的目的不是省钱,是让每一分钱都对应明确的价值。看清了,才敢投入。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论