批量任务的可观测性,和单次调用完全不同。单次调用出问题,你能看到报错;批量跑一千条,中间失败三十条,你可能根本不知道,直到用户投诉。

可观测性要看哪几个层面?

四层。任务层,整体进度与成功率;条目层,每条的状态与耗时;调用层,每次模型或工具调用的参数与结果;资源层,CPU、内存、并发占用。四层里,条目层最容易被忽略,也最能定位问题。

怎么记录条目状态?

三条。第一,每条有唯一 ID,从入队到完成全程可追;第二,状态机明确,排队、执行中、成功、失败、重试中;第三,失败要记原因,不能只记「失败」。三条里,第三条最基础,原因不明就无法归因。

失败了怎么批量处理?

三个做法。第一,失败条目单独入队,不影响整体;第二,支持按条件重跑,比如只重跑某类错误;第三,重跑前检查幂等,避免重复写入。三个做法里,第三个最关键,批量重跑最容易造成数据重复。

怎么发现「静默失败」?

两种情况。第一种,任务返回成功但结果是空的;第二种,任务卡住不动,既不成功也不失败。检测方法:设心跳与超时,超时未更新状态就标记异常;对成功结果做非空校验。两个方法里,第二个最有效,因为空结果最容易被当成成功。

怎么展示进度?

三个要素。总数与已完成数、预计剩余时间、当前失败率。三个里,第二个最影响体验,因为人最想知道「还要等多久」。估算要基于实际速率,不要用固定值。

怎么复盘?

每次批量跑完,出一份小结:成功率、失败分布、耗时分布、典型失败案例。四样里,失败分布最有价值,它能告诉你问题集中在哪一类任务,下一次可以提前规避。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论