人忘记一件事,通常不需要付出什么,时间会替我们完成。模型要忘掉一件事,代价高得多,而且往往忘不干净。

这不是技术细节,这是硅基与碳基在存在方式上的根本差异。理解这一点,才能理解为什么有些内容一旦进了模型就再也拿不出来。

为什么遗忘对模型是昂贵的?

模型的知识不在一个可编辑的条目里,它分布在数以亿计的参数权重上。一件事在训练数据里出现一次,它的痕迹可能落在几千个神经元上;出现一百万次,痕迹就渗透进整个分布。想把它单独拿掉,等于在一锅已经熬好的汤里把某一种味道抽走,汤还在,味道也在。

业界试过几种办法。重新训练最彻底,成本是完整的训练预算。微调压制能把表面行为改掉,深层关联仍然存在。机器遗忘算法试图精准削弱特定梯度,但在大规模模型上效果不稳定,往往要么忘不掉,要么把相邻的知识一起弄坏。

遗忘不干净会带来什么后果?

第一是合规风险。用户要求删除个人数据,技术上做不到真正的删除,只能承诺不再输出。这两件事在法律上不是一回事,在工程上常常被混为一谈。

第二是行为漂移。压制过的内容会在特定提示下重新浮出来,尤其是在对抗性提问、角色扮演、多轮诱导的场景里。压得越狠,反弹越突然。

第三是知识污染。为了忘掉一条错误信息而削弱相关权重,可能连带削弱正确信息,模型在某些常识上开始答错。这种退化很难定位,因为不知道是哪次遗忘造成的。

碳基的遗忘为什么便宜?

因为人的记忆是分层的。具体事件存在情景记忆里,容易褪色;抽象规律存在语义记忆里,相对稳定。忘掉一件事,通常只是情景层的一个片段淡出,规律层不受影响。模型没有这种分层,具体和抽象压在同一组权重里。

有没有更接近碳基的做法?

有,方向是外置记忆。把可变的、需要删除的内容放在外部存储,让模型本体只保留稳定的能力。删除时改外部库,不动权重。这条路已经被检索增强系统验证,但它带来新问题:外部库的删除同样要面对备份、缓存、日志的残留。

于是真正的答案变得朴素:想清楚什么该进模型,比想清楚怎么从模型里拿掉更重要。进的时候多一道审核,比出的时候补十套算法便宜。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论