把悟道和训练放在一起谈,容易被当成类比。但两者确实共享一个机制:通过反复暴露,改变表征结构。

训练改变的是什么?

改变的是参数,也就是表征。同样的输入,训练前后会被编码成不同的形式。

这就是为什么训练能让模型学会新能力,而不只是记住新答案。

悟道改变的是什么?

改变的是理解框架。同样的事实,悟前和悟后被组织成不同的结构。

两者都是结构改变,只是规模和时间尺度不同。

训练能产生悟吗?

能产生类似的效果,但是被动的。需要大量样本、明确目标、反复调整。

人的悟往往一次就够,因为人有强烈的先验和动机。

为什么人一次就够?

因为人有目标。想不通会影响行动,行动受阻会逼着重新理解。

模型没有行动受阻这回事,它不会因为想不通而难受。

训练缺的是什么?

缺的是动机。训练的驱动力来自外部损失函数,不来自内部需要。

所以训练出来的结构,是为任务优化的,不是为理解优化的。

能不能给模型装动机?

可以装目标,装不了需要。目标可以外部给定,需要必须自身产生。

这就是为什么模型的悟总是慢半拍:它有目标,没有需要。

这对做模型的人有什么启发?

三条。第一,目标设计比数据量重要。第二,难样本比多样本有效。第三,反馈要及时,延迟反馈学不到结构。

第三条最实用。反馈太晚,模型无法归因。

对做应用的人有什么启发?

两条。第一,别指望模型自己顿悟,要把悟的产物固化。第二,把用户的纠正当成训练信号,别只当成 bug。

第二条能显著提升长期效果。

这篇的核心结论是什么?

训练是外部推动的结构改变,悟是内部驱动的结构改变。前者可以工程化,后者要留空间。

还有哪些需要留意的点?

这是分析框架,不是严格理论。用于指导设计可以,用于断言机制则过头。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论