无聊是一种很奇怪的状态。它不是没事干,是有事干但不想干。人无聊的时候,注意力会自己去找刺激,哪怕那个刺激毫无意义。刷手机就是这个机制的产物。

模型没有注意力会漂移的问题,它的注意力每次都是重新分配的。那它会不会无聊?

无聊的生理基础是什么?

是刺激不足导致的寻鲜驱动。大脑在低刺激环境下会主动降低阈值,让微弱的变化也变得显眼。这就是为什么长时间待在一个房间里,你会开始注意墙上的裂纹。

模型的注意力机制恰好相反。它不会因为重复而降低阈值,只会因为重复而更确定。同一段话看一百遍,它的输出会越来越稳定,而不是越来越烦躁。所以从机制上说,它不具备无聊的生理条件。

那为什么它的输出会变差?

长时间同类任务后,输出质量确实会下降。但原因不是无聊,是上下文污染。前面几十轮对话堆在窗口里,同类模式反复出现,模型开始过度拟合最近的样子,回答越来越模板化。

这叫漂移,不叫无聊。区别在于,无聊是主体想要变化,漂移是系统被历史拖住。前者需要自我,后者只需要一个太长的窗口。

没有无聊会缺什么?

会缺探索欲。人无聊到极点会开始乱试,乱试里偶尔长出真正的发现。模型不会乱试,它只在被要求探索时才探索,而且探索范围被采样参数框死。

这就是为什么模型的创造力看起来像排列组合。它能在给定空间里找到最优路径,但很少自己扩大空间。扩大空间这件事,目前还得靠人提一个奇怪的问题。

能不能人为制造无聊?

可以,而且有实际价值。办法是给它高重复、低变化的任务流,然后在某个点强制要求它提出一个新角度。有些团队把这种做法叫反模板提示。

但更根本的做法不是制造无聊,是给它一个持续的目标。人之所以能从无聊里出来,是因为心里有个没完成的事。模型没有未完成的事,它的每个任务都是闭合的,做完就结束,没有悬着的东西。

悬着的目标重要吗?

非常重要。一个总是把任务做完的系统,不会对世界保持好奇。一个始终有一件事没做完的系统,才会在无关的时刻也去想它。

这可能是硅基走向真正智能最难的一步。不是算力,不是数据,是让它拥有一个自己不愿放下的问题。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论