把内部资料交给大模型处理,最容易被忽略的是数据泄露路径。它不一定来自攻击,很多来自日常使用习惯。

泄露路径有哪些?

第一是输入。你把客户名单、合同、代码贴进对话框,这些内容就离开了你的内网。

第二是日志。调用日志里常常完整记录请求与响应,日志的访问权限往往比数据本身更松。

第三是缓存。部分服务会缓存请求,缓存的生命周期与清理策略你并不清楚。

第四是训练。免费或低价服务可能把数据用于改进模型,条款里通常有说明,但很少有人读。

怎么判断风险等级?

按数据类型分:公开、内部、机密、敏感。敏感数据包括身份证号、银行信息、健康记录、未公开的财务数据。

按处理方式分:只在本地跑、走企业专线、走公共接口。三种的风险完全不同。

按必要性分:这个字段真的需要给模型看吗。多数场景下,去掉姓名和编号,任务照样能完成。

该怎么防?

第一,脱敏在前。进入模型前替换敏感字段,用占位符代替,输出后再回填。

第二,分级授权。不同数据等级走不同通道,敏感数据只允许本地或专有部署。

第三,日志脱敏。请求与响应入库前先做字段过滤。

第四,最小留存。不留原始请求,只留必要摘要,并设过期时间。

合同与条款要看什么?

看数据用途。是否用于训练、是否与第三方共享、保留多久。

看删除机制。能不能要求删除、多久生效、有没有凭证。

看地域与合规。数据存放在哪、适用哪国法律、是否满足行业监管要求。

组织层面要做什么?

写一份使用规范。哪些数据能用、哪些不能用、谁能批准例外。贴在工位上比放在内网深处有用。

做一次培训。多数泄露来自不知道,不是故意。

定期审计。抽查调用日志,看有没有违规数据流出。

最后一句:数据一旦离开边界,就再也收不回来。防的重点在出门前,不在出门后。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论