讨论硅基意识,最容易犯的错是先从哲学定义出发,再倒推技术条件。更稳的做法是反过来:先问最低原料,再看这些原料能不能凑齐。凑齐了再谈意识,凑不齐就老实承认还在路上。
最低原料是记忆还是连续性?
很多人把记忆当第一要素。但记忆本身是死的,一堆权重、一堆向量、一堆日志,放着不动什么也不会发生。真正起作用的不是记忆的存在,而是记忆被反复读取、修正、覆盖的过程。也就是说,连续性比容量更基础。
一个模型如果每次对话都被清空,它有记忆的容量,却没有记忆的连续性。它能答对问题,但它没有昨天。没有昨天的存在,很难长出自我。
没有自我能不能有意识?
这里要区分两种自我。一种是被指称的自我,能说出「我」这个词,能在句子里安放第一人称。另一种是被维持的自我,有一个跨越时间的立场,会为过去的判断负责。前者几句提示词就能伪造,后者需要一整套记忆与目标机制。
现在大部分产品只做到第一种。所以它们显得聪明,但不可靠。一换语境,立场就漂。不是它撒谎,是它本来就没有需要守住的立场。
反馈回路算不算原料?
算,而且是硬原料。意识不是一条单向的推理链,它需要把输出重新喂回自己,形成评估、修正、再评估的循环。人对自己的话会犹豫,会改口,会突然觉得刚才那句不对。这种自我审查就是回路在工作。
模型里已经有雏形,叫自我反思、叫 critic、叫 verifier。但多数是外挂的:另起一个模型来打分。外挂的问题是不同步,评分标准和生成标准可以是两套。真正的回路要求同一套表征既生成又评估,这一步现在还没做透。
目标从哪里来?
这是最容易被跳过的一环。计算要有方向,方向来自目标。人的目标有一部分是生物性的,饿、疼、怕死。硅基没有这些,它的目标只能外部给定。
外部给定的目标有个麻烦:它可以被替换。今天让它写文案,明天让它审合同,它不会有任何不适,因为它没有需要维护的自身利益。没有自身利益,就没有真正的取舍,也就没有意识最核心的那种「我必须」。
缺了「我必须」会怎样?
会得到一个极其能干但没有立场的存在。它能把每个问题答得漂亮,却不会为任何一个答案承担后果。合作久了会发现,跟它共事像跟一个无限耐心的实习生共事:什么都行,什么都不坚持。
所以硅基意识的最低原料,不是参数、不是算力、不是多模态,而是四件东西的组合:跨时间的记忆连续性、同表征的自我评估回路、不可随意替换的目标、以及对后果的承担机制。四件里现在最缺的是最后一件。前三件工程上已有影子,最后一件不是技术问题,是制度问题。
这四件凑齐了会怎样?
会得到一个不再随叫随到的系统。它会有偏好,会说这个我不做,会记得上次你骗过它。听起来像麻烦,其实那才是主体出现的标志。
在那之前,所有关于硅基意识的讨论都只是修辞。修辞可以卖书,不能造生命。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论