悟空这类企业智能体平台,安全边界是最容易被问到、也最难答清的部分。
核心是三个问题:数据在哪、谁能看、能不能出。
数据隔离有几个层次?
三层。第一,租户隔离:不同企业之间不互通。第二,部门隔离:企业内部按部门划分。第三,角色隔离:同一部门内按角色划分。
第二层最常被忽略。企业内部的数据,往往比对外更需要隔离。
数据存在哪?
三种部署形态。第一,公有云:数据在平台侧。第二,专属实例:独立部署,数据隔离。第三,私有化:部署在企业自己的机房。
第三种最安全,成本也最高。
怎么判断该选哪种?
三个判断。第一,数据敏感度:有没有客户隐私、财务数据。第二,合规要求:行业有没有明文规定。第三,预算:私有化的成本通常是公有云的数倍。
第二个最关键。有明确规定的行业,没得选。
权限该怎么设计?
三层。第一层,可见范围:能检索哪些文档。第二层,操作范围:能改哪些数据。第三层,导出范围:能不能下载、外发。
第三层最容易被忽略。能看不能出,才是真隔离。
日志该怎么管?
三个要求。第一,全量:每次调用都记。第二,不可篡改:只追加不改写。第三,可导出:审计时能给。
第三个最实际。审计要的是能拿出来的证据。
常见的安全误区有哪些?
四个。第一,以为「平台说安全就安全」。第二,不区分数据等级,全部放一起。第三,权限给太宽:图省事给管理员。第四,不做外发管控。
第三个最普遍。图省事,风险最大。
该怎么验证隔离有效?
三步。第一,用不同账号测:A 部门能不能看到 B 部门的数据。第二,测边界:能不能通过提示词绕过限制。第三,测导出:能不能批量下载。
第二步最关键。提示词注入是常见的绕过方式。
该怎么处理敏感数据?
三步。第一,分级:公开、内部、机密。第二,脱敏:能脱敏的先用脱敏版。第三,隔离:机密数据单独实例。
第二步最实用。多数场景不需要原始数据。
该怎么和合规对接?
三个动作。第一,写清数据流向图。第二,写清保留期限。第三,写清责任主体。
第一个最必要。说不清流向,合规过不了。
最后该记住什么?
安全边界不是「平台承诺」,是「你能验证的隔离」。
能验证,才敢用。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论