智能体流程里的人机协同,设计得好是效率工具,设计得差是打卡机器。差别在于人介入的位置。

人该在哪些位置介入?

第一是目标确认。任务开始前,人确认要做什么、验收标准是什么。这一步错了,后面全错。

第二是高风险动作前。对外发送、支付、删除、改权限,这四类必须人工确认。

第三是异常时。模型不确定、工具失败、结果矛盾,这些情况交给人判断。

第四是最终验收。产出是否符合业务要求,只有人能判断。

人不该在哪些位置介入?

不该逐步审核。每一步都要人点确认,等于人变成了机器的外设,效率还不如手工。

不该做格式检查。这类工作交给程序,人做是浪费。

不该重复确认同一件事。确认过一次的低风险批量操作,不必逐条再确认。

怎么设计确认界面?

给上下文,不给裸参数。人要知道这个操作会影响什么,才能判断。

给差异,不给全文。改动前后对比,比让人自己找变化快得多。

给默认值,但不隐藏风险。默认通过是效率,但高风险项要显式标红。

怎么避免人变成橡皮图章?

控制确认频率。一天确认几十次,人就会闭眼点通过。频率要压到人能认真看的程度。

抽样复核。对已确认的操作做抽查,发现漏判要复盘流程,而不是只怪人。

记录确认人与时间。责任清晰,人会更认真。

怎么衡量协同效果?

看三个数:人工介入次数、介入后的修改率、整体处理时长。

介入次数多但修改率低,说明介入点设错了,在做无用确认。介入次数少但修改率高,说明确认太粗,人在盲目通过。

边界在哪?

涉及法律、医疗、财务承诺的环节,不能用自动化替代人的判断。这不是效率问题。

涉及个人隐私的数据处理,要有明确的授权与留痕。

最后一句:人机协同的目标是让人做只有人能做的事,而不是让人给机器打下手。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论