所有做知识库的人都会撞上同一个问题:记得越多,答得越差。这不是容量不够,是缺少遗忘。
为什么记得多反而变差?
因为检索被稀释。库里有十条相似但过时的记录,模型取到哪条全看运气。旧记录没有失效标记,就会持续污染答案。
人脑靠遗忘解决这个问题。不常用的记忆会被弱化,常用的被强化。弱化不是删除,是降低权重。
遗忘和删除有什么区别?
删除是不可逆的清零,遗忘是可逆的降权。降权之后仍可被特定线索唤起,只是不会主动冒出来。
这个区别对系统设计很关键。很多团队一上来就做删除,结果把有用的边缘知识也清掉了。
模型需要哪几种遗忘?
三种。第一种是时效遗忘,旧版本的政策、旧价格该降权。第二种是纠错遗忘,被证伪的说法该压下去。第三种是隐私遗忘,用户要求删除的必须真删。
前两种是权重问题,第三种是合规问题,不能用同一套机制。
遗忘会不会损失能力?
会损失覆盖率,不损失判断力。把长尾细节忘掉,换来的是主干更清晰。人就是这样,记不住所有细节,但知道该找谁。
系统也一样。忘掉细节,但保留索引,需要时再回源。
怎么判断该忘什么?
三个信号。第一,长期未被检索。第二,被新记录反复覆盖。第三,检索后未被采用。
第三个信号最准。取出来了但没用上,说明它和当前任务不匹配。这类记录应该降权而不是保留。
遗忘需要审计吗?
需要。降权要有记录:谁降的、为什么降、能不能恢复。没有审计的遗忘,等于悄悄改历史。
这一点在企业场景尤其重要。知识库的回答要能追责,遗忘也要能追责。
怎么落地?
先做分层:热库、温库、冷库。热库只放高置信、近期、常用的;温库放待验证的;冷库放归档的。检索先热后温,冷库只在明确需要时查。
再做衰减:按检索命中率和使用率给权重,定期下调整体权重,不删数据。
最后做回源:任何降权的记录都保留原文位置,需要时可查。
会忘的系统才活得像活的。什么都记得的系统,最后会被自己的历史压死。
同簇还有哪几篇值得一起看?
想就这个话题接着到论坛聊吗?
前往 ziyuanagi.com 论坛 参与讨论