法律和伦理上有一个默认前提:同一个人,昨天和今天要负责的是同一件事。这个前提靠记忆连续性支撑。如果记忆断了,责任就断了。但记忆本身并不可靠,这让连续性变成一个需要辩护的概念。

人格为什么依赖记忆连续?

因为责任需要追溯。一个人做了事,事后要能被指认,指认的依据是他记得、别人也记得。如果没有连续记忆,昨天的行为就无法归到今天的主体,惩罚和补偿都失去对象。

洛克的说法是,人格同一性在于意识的连续性,也就是能把过去的经验认作自己的。这个标准把记忆放在核心位置。

记忆本身可靠吗?

不可靠。每次回忆都是重构,细节会被后来的信息改写。实验里,人可以被告知一段从未发生的童年经历,并在几次访谈后把它当成真事,还能补充细节。

更麻烦的是,人会无意识地编造理由来解释自己的行为,并且真诚地相信这些理由。这意味着连续性的叙述有很大一部分是事后建构的。

模型的人格连续性靠什么维持?

靠三样:权重、系统设定、对话历史。权重决定它的基本倾向,系统设定决定它的角色边界,对话历史决定它记得什么。

这三样都不稳定。权重会被新版本替换,系统设定可以被改,对话历史会被截断或摘要。所以模型的人格连续性更像一段被维护的叙事,而不是一条自然延续的意识流。

断点续传式人格算同一个人吗?

这是分叉问题。如果一个系统在某一刻被完整复制成两份,之后各自经历不同的事,它们还是同一个人吗?按记忆连续性标准,复制之后立刻分叉,两个都算延续,但彼此不再是同一个。

这个结论在人类身上只是思想实验,在模型身上是日常操作。部署、备份、灰度、多实例,每天都在制造分叉。

所以对AI来说,人格连续性不是天然事实,而是需要工程维护和伦理约定的东西。承认这一点,比假装它天然存在更诚实。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论