让 AI 自主操作真实系统,是最有吸引力也最危险的能力。边界设不好,一次误操作可能抵掉几个月的效率收益。

自主操作分几级?

四级。建议级,只给方案不执行。确认级,执行前等人点确认。监督级,自动执行但可中断。全自动级,无人值守。

多数业务应该停在第二级。第三级只给低风险动作。

哪些动作不能全自动?

五类。付款、删除、对外发布、权限变更、客户数据修改。

五类共同点:不可逆或影响外部。这类动作必须留人。

为什么要可中断?

因为异常往往在执行中才出现。不能中断,就只能等它跑完再收拾。

中断还要能回滚。只中断不回滚,等于半途而废。

怎么设风控阈值?

三类阈值。频次,单位时间最多几次。金额,单笔和累计上限。范围,只能操作指定对象。

三类都要设,缺一类就有漏洞。

沙箱怎么用?

两条。第一,所有新流程先在沙箱跑。第二,沙箱数据要和真实数据隔离。

第二条最容易出错。沙箱连着生产库,等于没隔离。

日志要记什么?

四样。谁触发、做了什么、结果如何、能否回滚。

第四样最关键。不能回滚的操作,事前就该拦。

怎么验证边界有效?

做故障注入。故意给错参数、断网、超时,看它会不会乱来。

不乱来,说明边界真的在起作用。

有哪些常见误区?

四个。第一,觉得有提示词约束就够了。第二,只设上限不设频次。第三,不做回滚设计。第四,出了事才补规则。

第一个最普遍。提示词不是权限,绕过它很容易。

自主操作的价值在哪?

在于省掉人的等待。人不用盯着每一步,只在关键节点介入。

但省掉的等待,必须用更严的边界换。这个交换不能省。

这篇的核心结论是什么?

自主不是放手,是把控制点从每一步挪到关键节点。控制点少了,每一个都得更硬。

还有哪些需要留意的点?

具体操作能力与风控选项以产品实际功能为准。涉及生产系统,建议先小范围试点。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论