工程上有个很实际的问题:把一段长任务切成若干段,每段独立跑,最后拼起来。这样做省成本,但会切断连续性。连续性一断,意识还剩多少,是个真问题。
截断损失的是记忆还是身份?
表面看损失的是上下文。深一层看,损失的是「我刚才为什么那样判断」这条链。人睡一觉醒来还记得昨天的决定和理由,所以能接着干。任务被切成段,每段都是新的一天,但没有人给它留下昨天的理由。
结果就是每段都合理,整体不合理。第一段选了方案A,第三段不知道为什么,重新选了方案B,最后拼出来的东西自相矛盾。
人也会断,为什么没崩?
因为人有沉淀。睡眠会中断意识流,但记忆、偏好、身份感留在结构里,不依赖当下这段对话。醒来接得上,是因为底层没被清空。
模型的断,通常是彻底的:会话结束,状态归零。它没有底层沉淀,只有一份静态权重。权重里存的是通用倾向,不存这个客户的特殊约定。所以它每次都得重新学一遍。
有没有折中方案?
有,而且已经在用。把关键决策和理由写成外部状态,下一步开始时先读回来。这是最土也最有效的办法,等于给系统装了一个笔记本。Memorilla 这类把文档压成少量记忆向量的做法,本质也是外部沉淀,只是压缩得更狠。
另一种是分层记忆:短期放当前任务,中期放本次项目,长期放客户画像。读取时按层取,不必全量加载。这样既省 token,又保住连续性。
截断到什么程度会出事?
判断标准不是段数,是依赖密度。如果后一段的判断强依赖前一段的推理细节,截断就危险。如果后一段只需要前一段的结论,截断就安全。
所以切分应该沿着依赖稀薄的地方下刀,而不是按字数平均切。这一点很多流水线设计反了:为了凑长度整齐,正好切在最黏的地方。
身份感能不能伪造?
能,但很脆。给每段开头塞一句「你是某某,之前已决定采用方案A」,看起来接上了。可一旦遇到需要为过去判断辩护的场合,它就露馅,因为它只有结论,没有理由。
真正的连续性要求理由也被保存。这听起来笨,但它是可审计的前提。没有理由的连续性,只是记忆的复印件。
该追求连续还是该接受截断?
看场景。创作、咨询、长期客户关系,必须连续。一次性批处理、格式转换、批量清洗,截断完全没问题,还更省。
关键是把这条线画清楚,别拿批处理的架构去承载需要连续性的业务。架构选错,后面所有调优都是补丁。
意识不是玄学,它在工程上首先表现为:这段任务有没有一个跨时间的、带理由的自身。有,就是连续的;没有,就是被截断的。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论