企业内部智能体的权限设计,是最容易被忽略、也最容易出事的环节。
智能体一旦接入业务系统,它就成了一个「有权限的操作者」。
权限设计的核心问题是什么?
三个。第一,它能看什么数据。第二,它能改什么数据。第三,它出错了谁负责。
第三个最容易被跳过,也最关键。没有责任人,权限就没人管。
权限该怎么分级?
四级。第一级只读:查询、汇总、生成报告。第二级建议:给出操作建议,由人执行。第三级代执行:在限定范围内自动执行。第四级全权:全流程自动。
多数场景应该停在第二级。第三级要严格限定范围。
为什么不能直接给全权?
三个原因。第一,模型会犯错:幻觉、误判、越界。第二,错误会放大:自动执行意味着没有人工拦截。第三,责任不清:出了问题找不到人。
第二个最危险。自动化的错误,传播速度比人工快得多。
权限该怎么落到系统?
三层。第一层账号隔离:智能体用独立账号,不用员工账号。第二层接口白名单:只能调指定接口。第三层数据范围:按角色限定可见数据。
第一层最关键。共用账号,出了事查不到是谁。
审计该怎么做?
三个要素。第一,全量日志:每次调用记下输入、输出、时间。第二,可回溯:能重放某次操作。第三,定期审:每月抽查异常调用。
第二个最基础。不能重放,就无法定位问题。
敏感操作该怎么管?
三类。第一,对外发送:邮件、消息、公告。第二,资金相关:付款、退款、开票。第三,数据导出:批量下载、外发。
三类都必须人工确认。智能体可以准备,不能直接执行。
常见的权限事故有哪些?
四个。第一,用管理员账号跑智能体。第二,接口没有白名单,能调所有接口。第三,数据范围没限定,能看到全公司数据。第四,日志缺失,出事查不到。
第一个最普遍。图省事,用管理员账号,风险最大。
该怎么设计降级机制?
三个。第一,超时降级:调用失败转人工。第二,异常熔断:连续失败自动停。第三,权限回收:发现异常立即停用。
第二个最关键。没有熔断,一个 bug 会持续造成损失。
该怎么和合规对接?
三步。第一,写清数据流向:数据从哪来到哪去。第二,写清存储位置:是否出境、是否加密。第三,写清保留期限:日志存多久。
第一步是企业客户必问的。说不清,项目就过不了合规。
最后该记住什么?
智能体的权限,应该按「一个新员工」来设计:给最小必要权限,全程留痕,重要操作要审批。
给它方便,就是给自己风险。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论