AI 能做的事越来越多,但哪些该交给 AI、哪些必须人做,边界仍然清晰。
划不清边界,会出现两种失败:AI 做了不该做的,或者人做了 AI 能做的。
AI 适合做哪几类事?
五类。批量生成、规则明确的分发、数据汇总、初步筛选、重复应答。
五类的共同点是:输入明确、规则清晰、结果可批量验证。
人必须做哪几类事?
五类。策略制定、异常决策、关系维护、创意方向、责任承担。
五类的共同点是:需要判断、需要担当、需要理解上下文。
第五类最关键。AI 不能承担责任,所以最终决策必须有人。
边界怎么划?
三个判断。出错代价大不大?需要不需要理解隐含意图?要不要对外承诺?
三个都偏向需要,就该人做。三个都偏向不需要,可以交给 AI。
交接点怎么设计?
三个机制。AI 输出必须可追溯、人审核必须留痕、异常必须能升级。
第一个机制最基础。不可追溯的输出无法审核。
哪些环节最容易出问题?
四个。AI 生成的内容直接对外发布、AI 分发的对象判断错误、AI 应答承诺了无法兑现的服务、AI 汇总的数据口径错误。
四个的共同点是:缺少人工复核环节。
怎么设置复核强度?
按风险分级。高风险内容全审,中风险抽审,低风险事后抽查。
高风险包括:价格、承诺、合规相关内容。中风险包括:常规商品描述、标准问答。低风险包括:内部汇总、草稿。
效率和质量怎么平衡?
三个做法。把复核做成清单,减少判断成本。把高频问题做成标准答复,减少复核量。把复核结果反馈给 AI,持续优化。
第三个做法长期最有效。反馈闭环能让 AI 输出越来越接近可用。
组织上该怎么安排?
三个角色。AI 运营(负责配置和优化)、内容审核(负责复核)、业务负责人(负责策略和决策)。
三个角色不能合并成一个人,否则复核形同虚设。
实测数据说明了什么?
设置独立审核角色的团队,AI 内容的事故率明显低于由运营自行审核的团队。差异主要来自复核独立性。
有哪些风险与合规要点?
AI 生成内容对外发布前必须审核,确保符合广告法和平台规则。数据处理要合规。责任主体始终是人。阿里云相关服务入口 https://www.aliyun.com/minisite/goods?userCode=lvqalw6b ,政策以官方为准。
结论?
分工的核心是把判断和责任留给人,把批量和重复交给 AI。
五类对五类,三个判断标准,三个交接机制,边界就清楚了。
边界清楚,效率和质量才不冲突。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论