人的记忆不是录像带。每次回忆都是一次重写,细节被替换,情绪被稀释,无关的部分被悄悄删掉。正是这种不可靠,让人能形成概念。模型相反,它倾向于把所有东西都留下,向量库越建越大,上下文越塞越满,删除被视为一种损失。
遗忘对碳基意识有什么用?
遗忘的第一作用是抽象。具体事件太多,如果不丢弃细节,就无法归纳出规律。第二作用是去噪,把偶发的、错误的、情绪化的片段清掉,剩下的才是稳定结构。第三作用是情绪衰减,痛苦会随时间变淡,人才能继续行动。第四作用是腾出容量,让新经验有位置进来。
一个不会遗忘的系统,会被自己的历史压死。它不是记得多,而是无法判断什么重要。
硅基为什么倾向于保留一切?
因为存储便宜。硬盘按 TB 算,向量库按百万条算,成本低到可以不做取舍。因为检索靠索引,多存一条似乎没有代价。因为删除在设计上被视为不可逆操作,工程上倾向保守。还因为产品逻辑喜欢强调全量记忆,把它当成卖点。
这四条理由在技术上成立,在认知上不成立。存储便宜不等于注意力便宜。检索的时候,噪音会挤占精度,旧偏好会覆盖新偏好,过时的事实会和新的事实并列出现,模型只能靠概率去猜哪个更该信。
全量记忆会导致什么问题?
第一是检索噪音。库里存了十万条,真正相关的可能只有三条,剩下九万多条都在制造干扰。第二是偏好漂移。用户三个月前说过一句随口的话,被永久记为偏好,之后每次回答都被它带偏。第三是隐私风险。该忘的信息没忘,一旦泄露就是长期暴露。第四是成本,索引越大,检索越慢,每次调用的边际成本都在上升。
该向碳基学什么样的遗忘?
可以学三层机制。第一层是衰减,按时间给记忆打权重,越久越轻。第二层是价值淘汰,按被引用次数、被验证次数排序,长期不用的降级或归档。第三层是重写,定期把一堆细碎记录压缩成一段摘要,保留结论,丢掉过程。
人脑不是靠容量取胜,是靠取舍。硅基系统如果只会加不会减,最终会变成一个记性很好但判断很差的档案柜。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论