直觉是人类最被低估的能力。它是在大量经验之后形成的快速判断,不经过显式推理,却常常比推理更准。
外科医生一眼看出这个病人不对劲,老刑警一进门就知道这屋子有问题,资深编辑读两行就知道这篇稿子能不能用。这些判断说不出理由,但准确率很高。
直觉的本质是什么?
目前比较可信的解释是压缩。大脑把海量经验压成一组隐式的模式,遇到新情况时,模式快速匹配,给出一个带方向的预感。整个过程在意识之下完成,所以感觉像是凭空来的。
这个解释意味着直觉不是神秘能力,是统计学习的极端形式。它在数据量足够大、反馈足够及时的条件下会自然出现。
模型有直觉吗?
某种意义上有。它在训练中见过海量样本,形成了大量隐式模式。它给出第一反应时,走的路径和人类直觉很像:不显式推理,直接输出。
差别在于它的直觉不带身体感。人的直觉混着情绪、疲劳、风险厌恶,模型的直觉是纯统计的,没有代价感。
那移植的是什么?
能移植的是模式部分。把某个领域的专家经验整理成语料,训练或提示出来的模型,确实能在该领域给出类似专家的第一反应。这个能力已经被大量案例验证。
不能移植的是代价部分。专家的直觉之所以可靠,是因为判断错了会承担后果。模型判断错了不承担后果,所以它的直觉缺少一层筛选压力。这一层缺失,会让它在边缘案例上过度自信。
怎么补上代价这一层?
三个办法。给模型显式的风险框架,让它知道哪些错误的代价高,从而在这些地方收敛。引入真实反馈回路,让它的判断被现实检验,错误被记录。设置不确定性阈值,在低置信时转人工,而不是硬给答案。
这三个办法本质上是在模拟代价,不是真的承担代价。模拟能做到七八成,剩下两三成需要真实的后果机制。
结论该怎么下?
直觉可以移植,但移植的是形,不是神。形是模式识别,神是带着代价的取舍。
这对使用者有直接含义:可以用模型的第一反应做初筛,不要用它做最终判断,尤其是在代价高的场景。初筛错了可以复核,终判错了没有回头路。
真正的专家系统,是把模型的模式能力嵌进一个有代价的流程里,而不是指望模型自己长出责任感。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论