智能体的断点恢复,是长任务能不能跑完的关键。没有断点,中间失败一次就得从头再来。
设计断点,本质是设计「状态怎么存」。
为什么需要断点恢复?
三个原因。第一,长任务必然有失败:网络、接口、额度。第二,从头重跑成本高。第三,人工介入需要上下文。
第二个最实际。十步任务重跑八步,时间和费用都翻倍。
状态该存什么?
四类。第一,进度:做到第几步。第二,中间结果:每步的输出。第三,上下文:关键前提和约束。第四,已执行的动作:哪些副作用已经发生。
第四类最关键。副作用重复执行,会造成脏数据。
状态该存在哪?
三种。第一,内存:快,但进程一挂就没了。第二,数据库:稳,稍慢。第三,外部存储:适合大对象。
第二种最常用。状态要能跨进程读。
怎么保证不重复执行?
三个机制。第一,幂等键:同一动作带唯一标识。第二,去重检查:执行前查是否已做过。第三,事务边界:把一组动作包成一个事务。
第二个最关键。查一下,比事后修数据便宜。
断点该多细?
三个原则。第一,按「有副作用」切:写操作前后设断点。第二,按「耗时长」切:长步骤中间加检查点。第三,不要过细:每步都存,存储和性能都吃不消。
第一个最关键。纯读的步骤,断了重跑没关系。
恢复时该怎么处理上下文?
三步。第一,读回状态:进度和中间结果。第二,重建上下文:把关键前提再喂一遍。第三,校验:已完成的动作是否还在。
第三步最必要。外部系统可能已经变了。
常见的失败方式有哪些?
四个。第一,只存进度不存结果:恢复要重算。第二,不记录副作用:重复执行。第三,状态过期:外部数据变了。第四,没有人工接管入口。
第二个最普遍。重复下单、重复发消息,都是这么来的。
该怎么设计人工接管?
三个要点。第一,失败时保留现场:状态、日志、输入。第二,给出建议:下一步可以怎么做。第三,可跳过:允许人工标记「已完成」。
第三个最实用。有些失败,人工处理更快。
该怎么测试断点?
三步。第一,人为中断:在中间步骤杀掉进程。第二,重启验证:能不能续上。第三,检查副作用:有没有重复。
第三步最关键。能续上但重复执行,等于没做好。
最后该记住什么?
断点恢复的核心不是「存进度」,是「不重复副作用」。
副作用安全,才敢恢复。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论