让 AI 自主操作真实系统,是最有吸引力也最危险的能力。边界设不好,一次误操作可能抵掉几个月的效率收益。
自主操作分几级?
四级。建议级,只给方案不执行。确认级,执行前等人点确认。监督级,自动执行但可中断。全自动级,无人值守。
多数业务应该停在第二级。第三级只给低风险动作。
哪些动作不能全自动?
五类。付款、删除、对外发布、权限变更、客户数据修改。
五类共同点:不可逆或影响外部。这类动作必须留人。
为什么要可中断?
因为异常往往在执行中才出现。不能中断,就只能等它跑完再收拾。
中断还要能回滚。只中断不回滚,等于半途而废。
怎么设风控阈值?
三类阈值。频次,单位时间最多几次。金额,单笔和累计上限。范围,只能操作指定对象。
三类都要设,缺一类就有漏洞。
沙箱怎么用?
两条。第一,所有新流程先在沙箱跑。第二,沙箱数据要和真实数据隔离。
第二条最容易出错。沙箱连着生产库,等于没隔离。
日志要记什么?
四样。谁触发、做了什么、结果如何、能否回滚。
第四样最关键。不能回滚的操作,事前就该拦。
怎么验证边界有效?
做故障注入。故意给错参数、断网、超时,看它会不会乱来。
不乱来,说明边界真的在起作用。
有哪些常见误区?
四个。第一,觉得有提示词约束就够了。第二,只设上限不设频次。第三,不做回滚设计。第四,出了事才补规则。
第一个最普遍。提示词不是权限,绕过它很容易。
自主操作的价值在哪?
在于省掉人的等待。人不用盯着每一步,只在关键节点介入。
但省掉的等待,必须用更严的边界换。这个交换不能省。
这篇的核心结论是什么?
自主不是放手,是把控制点从每一步挪到关键节点。控制点少了,每一个都得更硬。
还有哪些需要留意的点?
具体操作能力与风控选项以产品实际功能为准。涉及生产系统,建议先小范围试点。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论