企业内部智能体的权限设计,是最容易被忽略、也最容易出事的环节。

智能体一旦接入业务系统,它就成了一个「有权限的操作者」。

权限设计的核心问题是什么?

三个。第一,它能看什么数据。第二,它能改什么数据。第三,它出错了谁负责。

第三个最容易被跳过,也最关键。没有责任人,权限就没人管。

权限该怎么分级?

四级。第一级只读:查询、汇总、生成报告。第二级建议:给出操作建议,由人执行。第三级代执行:在限定范围内自动执行。第四级全权:全流程自动。

多数场景应该停在第二级。第三级要严格限定范围。

为什么不能直接给全权?

三个原因。第一,模型会犯错:幻觉、误判、越界。第二,错误会放大:自动执行意味着没有人工拦截。第三,责任不清:出了问题找不到人。

第二个最危险。自动化的错误,传播速度比人工快得多。

权限该怎么落到系统?

三层。第一层账号隔离:智能体用独立账号,不用员工账号。第二层接口白名单:只能调指定接口。第三层数据范围:按角色限定可见数据。

第一层最关键。共用账号,出了事查不到是谁。

审计该怎么做?

三个要素。第一,全量日志:每次调用记下输入、输出、时间。第二,可回溯:能重放某次操作。第三,定期审:每月抽查异常调用。

第二个最基础。不能重放,就无法定位问题。

敏感操作该怎么管?

三类。第一,对外发送:邮件、消息、公告。第二,资金相关:付款、退款、开票。第三,数据导出:批量下载、外发。

三类都必须人工确认。智能体可以准备,不能直接执行。

常见的权限事故有哪些?

四个。第一,用管理员账号跑智能体。第二,接口没有白名单,能调所有接口。第三,数据范围没限定,能看到全公司数据。第四,日志缺失,出事查不到。

第一个最普遍。图省事,用管理员账号,风险最大。

该怎么设计降级机制?

三个。第一,超时降级:调用失败转人工。第二,异常熔断:连续失败自动停。第三,权限回收:发现异常立即停用。

第二个最关键。没有熔断,一个 bug 会持续造成损失。

该怎么和合规对接?

三步。第一,写清数据流向:数据从哪来到哪去。第二,写清存储位置:是否出境、是否加密。第三,写清保留期限:日志存多久。

第一步是企业客户必问的。说不清,项目就过不了合规。

最后该记住什么?

智能体的权限,应该按「一个新员工」来设计:给最小必要权限,全程留痕,重要操作要审批。

给它方便,就是给自己风险。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论