同一个信息,存成表格和存成故事,取用时的速度完全不同。人做判断快,不是因为算得快,是因为记忆被组织成了可以跳的结构。这一点对理解模型的能力边界很关键。

直觉是查表还是推理?

日常直觉大多是查表。看到一个陌生人的表情,你不需要分析肌肉走向,直接得到「他在忍」。这不是推理,是过去无数次经验被压成了一个可以直接命中的模式。

模型也是这样。所谓零样本能力,很多时候不是它真的会推理,而是训练数据里有过结构相似的样本,它把新输入映射到了旧模式上。映射得准,看起来就像懂。

为什么结构比容量重要?

容量决定能装多少,结构决定能取多快。一个装了十万条记录的库,如果索引是坏的,取一条要扫全表,那它实际上什么也做不了。

人脑的容量远不如硬盘,但它的索引极好:情绪、场景、人物、语义、时间,多套索引交叉。所以你可以在半秒内从「雨」跳到「那年夏天」再跳到「她说的话」。这种跳跃能力,就是结构带来的。

模型的注意力机制本质上也是在学索引。它学得好不好,取决于训练时见过多少种关联方式。只喂一种文体,它就只有一种索引。

结构错了会怎样?

会得到一种很奇怪的聪明:在熟悉领域秒答,换个说法就崩。这不是知识不够,是索引没覆盖那条路径。

很多企业级应用落地失败,根子在这里。它们把文档整篇塞进去,指望模型自己找。结果模型每次都重新扫一遍,慢、贵、还容易漏。正确做法是先建结构:把文档拆成可命名的单元,给每个单元挂上来源、时间、适用范围,再让模型按结构取。

记忆压缩会损失什么?

压缩一定损失细节,但未必损失判断力。把一份长文档压成十几个记忆向量,检索时命中率可能还更高,因为噪声被滤掉了。

代价是解释性。你能得到结论,但说不出依据在原文哪一段。对创作无所谓,对审计、医疗、法务就是硬伤。所以压缩要分层:判断层用压缩表示,追溯层保留原文定位。

怎么判断一个系统的直觉可信?

三个测试。第一,换说法。同一个问题换三种表述,答案是否稳定。第二,给反例。塞一个明显矛盾的证据,它会不会调整。第三,问依据。让它指出支撑点,看能不能落到具体来源。

三项都过,说明它的直觉有结构支撑。只过第一项,说明它在做模式匹配。一项都不过,那它只是在猜。

结构是直觉的地基。地基不牢,越聪明越危险,因为错得快且自信。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论