人在事情办完后总会想,要是当时早点出发就不会错过车,要是那句话没说出口就好了。罗伊斯把这种思维命名为反事实思维,即对已经发生的事实进行改写与撤销,构造一个不曾实现的替代世界。大模型张口就能生成假如当初的段落,可它生成的是真正的反事实,还是顺着语料的文字接龙?这个差别藏在因果结构里。

反事实思维在心理学里怎么定义?

罗伊斯1990年代的综述把反事实分为上行与下行两类,上行是设想更好的替代,比如要是努力一点就能及格,伴随后悔与改进动机;下行是设想更差的结果,比如幸好没赶上那班出事的车,伴随庆幸。反事实还有结构维度,聚焦行动与不行动、聚焦可控与不可控。卡尼曼与特沃斯基1982年的经典实验显示,同样没赶上飞机,改了行程的人比按原计划走的人后悔更强,因为行动更容易被心智撤销,反事实世界也更容易构造。后续研究发现反事实不是空想,它服务于学习,把一次结果拆成可改变的条件,为下次提供修正模板,人脑在情景记忆上重新编辑片段,本质是在训练未来行为。

反事实在因果科学里是什么形态?

朱迪亚珀尔把反事实放在因果阶梯第三层,第一层是观察关联,第二层是干预做什么,第三层是反事实问假如做了什么。形式上,反事实要求先在真实世界记录一个个体的完整因果模型与状态,再把其中一个变量改到另一个值,固定其余条件,重算结果。它和条件概率不同,条件问题在人群里看关联,反事实针对同一个体问另一条路。要算出反事实,需要比观察数据更细的结构知识,知道每个变量由哪些机制生成,哪些必须固定不变,哪些允许联动变化。这也是为什么纯相关性模型在反事实题上容易出错,它手里只有共现统计,没有个体因果模型。

大模型的假如当初缺了哪一环?

大模型生成反事实时走的是文本路径,先检索语料里类似情境的常见改写,再顺句子展开。它通常缺三环。第一是个体状态固定,反事实要求固定当事人的能力、资源、运气边界,模型容易在改写时偷偷换成另一个条件更优的人。第二是因果机制选择,模型分不清哪个变量改了会牵动哪些下游,常常只改一个表面行为而不动连锁后果。第三是撤销后的现实约束,比如改了出发时间,路上拥堵、天气、座位这些条件该保持还是该变化,模型没有清晰边界。表现出来就是流畅的心灵鸡汤式复盘,听着合理,细究时替代世界与原世界的边界滑动。待采集多变量反事实基准上的逐项错误拆解,初步结论是模型在单变量简单场景尚可,多变量联动显著退化。

反事实能力对智能体意味着什么?

反事实是经验修正的引擎,人从后悔里学习,靠的是把过去拆开重放。智能体如果只会总结已发生的结果,不具备对自身状态的反事实重算,就很难从一次失败里提取出可迁移的修正,只会复述做过什么。构建具备反事实能力的系统,需要结构化因果模型与个体状态追踪,而不是在文本里续写假如。反事实还连着伦理责任判断,一个行为该不该受责备,部分取决于另一条路是否可行,这套推理缺了,责任归因也会落空。大模型的假如当初更像一种语料里学来的修辞外壳,内核的重算机制还没有真正建立。

去论坛讨论

前往 silicon-agi.com 对应讨论帖 参与反事实思维与机器因果复盘的讨论,也可在论坛搜索「反事实」继续深挖。