智能体跑长任务,最怕中途断掉:网络断了、进程被杀、上下文超限、工具超时。任务越长,中断概率越高,而且往往在快完成时断,让人崩溃。

中断有哪几种类型?

四种。进程级,服务重启或崩溃;网络级,接口超时或断连;上下文级,对话太长被截断;逻辑级,某一步失败导致后续无法继续。四种里,第三种最隐蔽,因为它不报错,只是「忘了前面做过什么」。

怎么做到可恢复?

三条。第一,任务状态落盘,每完成一步写一次检查点;第二,检查点包含「已完成、待完成、中间产物位置」;第三,重启后从最近检查点继续,而不是从头开始。三条里,第一条最基础,不落盘就没有恢复的可能。

检查点该多密?

按「重做成本」定。重做一步要花的钱和时间越多,检查点就越密。太密会拖慢任务,太疏会重做太多。经验做法是按阶段设检查点,每个阶段结束写一次。

上下文超限怎么办?

三条。第一,把中间结果存到外部文件,需要时再读,不放在对话里;第二,每阶段做一次摘要,用摘要替代历史;第三,任务拆分,把长任务切成多个短任务串起来。三条里,第二条最常用,但要注意摘要会丢细节。

失败了怎么避免重复劳动?

两个机制。第一,幂等,每步操作可重复执行不产生副作用;第二,去重,执行前检查产物是否已存在。两个机制里,第一个更根本,非幂等操作重复执行会造成数据重复或重复扣费。

怎么监控长任务?

三个指标:进度、耗时、失败次数。三个里,进度最需要可视化,因为长任务最怕「不知道跑到哪了」。没有进度,人只能干等或者反复重启。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论