本体论

几乎所有产品路线图上都写着要消灭幻觉。团队堆检索增强，加引用校验，训拒答模型，期望有一天输出全部可核查。但如果从认知哲学的角度看，幻觉也许不是生成模型的副产品，而是它默认的工作状态。所谓正确，反而是一种被额外约束逼出来的罕见平衡态。这个视角一旦成立，我们对可靠性的整个期待都要重排。 幻觉为什么像梦境而不是像笔误？ 人类做梦时，大脑也在根据记忆碎片编织看似合理的叙事，醒来才发现逻辑漏风。生成模型的采样过程与之结构相似：它不是先查事实库再填空，而是在概率空间里续写最像文本的下一个词。在这个机制里，真实与虚构不是两个存储区，而是同一条生成链上的两种平滑度。 幻觉发生时，模型并不是撒了谎。它没有一个对应的事实可以背叛。它只是在一个没有外部锚点的续写任务里，选择了语言上最连贯的路径。连贯与真，在生成引擎里从来就不是一回事。这也是为什么单纯靠加大模型尺寸，幻觉率只会在分布内下降，一碰到长尾冷门话题就重新冒头。 本体论漂移究竟在漂什么？ 可以把幻觉理解成本体论漂移。模型训练自人类文本的统计分布，在它的内部表征里，实体、关系、因果都是以共现概率编码的。当一个冷门概念被高频叙事包裹，模型就会把叙事里的配角当作真实存在的角色，把隐喻当成事实。它漂移的不是某句话，而是它对世界构成的默认假设。 这带来一个深刻的麻烦：检索增强只能在输出端挂一根事实绳子，却改变不了模型内部那个漂移的本体论。它会把检索到的正确事实，缝进一套仍然虚构的因果结构里。于是我们看到的不是错误的答案，而是看起来极其可信、实则张冠李戴的解释。 把幻觉当例外处理注定失败吗？ 业界当然可以继续逼近，让常用域的错误率压到极低，让引用更严，让拒答更准。这些都是工程上真实有效的改进。但把零幻觉当终局，是期待生成引擎学会一种它从未被设计去做的事：先核实再说话。 更现实的定位是把幻觉当成系统的固有熵，像对待噪声一样管理，而不是像对待 bug 一样根除。产品设计上，凡是高风险结论都必须外挂可验证源，模型只负责组织语言，不负责担保事实。接受这一点，反而比反复承诺即将彻底消灭幻觉，更接近一个诚实的人机协作图景。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论