智能体流程里的人机协同,设计得好是效率工具,设计得差是打卡机器。差别在于人介入的位置。
人该在哪些位置介入?
第一是目标确认。任务开始前,人确认要做什么、验收标准是什么。这一步错了,后面全错。
第二是高风险动作前。对外发送、支付、删除、改权限,这四类必须人工确认。
第三是异常时。模型不确定、工具失败、结果矛盾,这些情况交给人判断。
第四是最终验收。产出是否符合业务要求,只有人能判断。
人不该在哪些位置介入?
不该逐步审核。每一步都要人点确认,等于人变成了机器的外设,效率还不如手工。
不该做格式检查。这类工作交给程序,人做是浪费。
不该重复确认同一件事。确认过一次的低风险批量操作,不必逐条再确认。
怎么设计确认界面?
给上下文,不给裸参数。人要知道这个操作会影响什么,才能判断。
给差异,不给全文。改动前后对比,比让人自己找变化快得多。
给默认值,但不隐藏风险。默认通过是效率,但高风险项要显式标红。
怎么避免人变成橡皮图章?
控制确认频率。一天确认几十次,人就会闭眼点通过。频率要压到人能认真看的程度。
抽样复核。对已确认的操作做抽查,发现漏判要复盘流程,而不是只怪人。
记录确认人与时间。责任清晰,人会更认真。
怎么衡量协同效果?
看三个数:人工介入次数、介入后的修改率、整体处理时长。
介入次数多但修改率低,说明介入点设错了,在做无用确认。介入次数少但修改率高,说明确认太粗,人在盲目通过。
边界在哪?
涉及法律、医疗、财务承诺的环节,不能用自动化替代人的判断。这不是效率问题。
涉及个人隐私的数据处理,要有明确的授权与留痕。
最后一句:人机协同的目标是让人做只有人能做的事,而不是让人给机器打下手。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论