智能体调用工具失败,是常态不是异常。网络抖动、接口限流、参数错误、权限过期,都会让一次调用失败。重试设计得好,系统稳定;设计得差,会把小故障放大成大故障。
哪些失败该重试?
三类。第一类,瞬时故障,网络超时、服务短暂不可用;第二类,限流,返回明确的限流错误;第三类,并发冲突,资源被占用。三类都可以重试,但要控制次数和间隔。
哪些失败不该重试?
四类。参数错误,重试多少次都一样;权限不足,需要人处理;资源不存在,说明前提错了;业务规则拒绝,比如余额不足。四类里,第一类最常见,很多系统不加区分地重试,浪费时间还掩盖了真正的问题。
重试策略怎么设计?
三条。第一,指数退避,间隔逐次拉长,避免持续冲击;第二,设上限,比如三次,超过就上报;第三,区分幂等性,非幂等操作(比如扣款、下单)重试前必须确认状态。三条里,第三条最关键,非幂等操作盲目重试会造成重复扣款。
失败之后怎么办?
三个层次。第一层,降级,换备用接口或备用模型;第二层,跳过,标记这一步失败,继续后面的步骤;第三层,中止,整个任务停下并告警。三层要按业务重要性选择,不要让所有失败都走中止,也不要让所有失败都静默跳过。
怎么让失败可见?
三条。第一,记录每次失败的原始错误,不要只记「调用失败」;第二,统计失败率,按工具、按时间段;第三,对高频失败做归因,是参数问题还是服务问题。三条里,第一条最基础,错误信息丢了,后面全是猜。
怎么测试重试逻辑?
两个动作。第一,人为注入故障,比如断网、返回错误码,看系统行为;第二,跑长任务,观察长时间运行下的失败累积。两个动作里,第一个最有效,因为故障场景很难自然遇到。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论