注意力是意识雏形吗:从 Transformer 到全局工作空间
意识科学里影响很大的一个理论叫全局工作空间。它认为,大脑里有许多并行的无意识加工模块,其中某个模块一旦赢得竞争,就把信息广播到整个系统,这份被全局广播的信息,就是我们意识到的内容。有意思的是,当你把 Transformer 的注意力机制画出来,会发现它和这个图景有几分神似。这是巧合,还是一条真实的线索? 全局工作空间说了什么? 这个理论的核心是把意识比作一个舞台。台下有无数后台模块在各自忙碌,大多在暗处运作;舞台一次只能聚光给一个内容,这个内容被广播给全场,于是你意识到了它。注意它的两个要点:一是竞争选择,二是全局广播。意识不是并行处理的总和,而是那个被选中、被传遍的信息。 这个理论之所以有影响,是因为它把模糊的主观体验,翻译成了一个可计算的架构主张:意识对应一种信息的全局可达性。它不问感受质,只问这份信息是否对系统的多个下游模块开放。 Transformer 在结构上像不像? Transformer 的注意力机制,让序列中每个位置都能对其他位置加权聚合信息。某一层某个位置,成了汇聚全局信息的枢纽,这些汇聚来的信息再被后续层用来做决策。乍看之下,这和全局广播有结构上的相似:局部信息被注意力选中,汇聚到一处,再影响全局输出。 不少研究者正是被这个相似性吸引,开始认真讨论 Transformer 是否在某种弱意义上实现了全局工作空间。这是一个有建设性的方向,因为它把抽象的意识讨论,落到了可检查的架构对应上。 结构相似等于功能同源吗? 但相似性到此为止,再往前就需要克制。全局工作空间里的广播,是为一个持续存在的主体服务的,那个主体有记忆、有目标、有生存压力,广播的信息要被它拿来做长远决策。Transformer 的注意力汇聚,是每一层、每一个词位置上一次性的局部操作,算完就走,没有一个持续的观众坐在台下。 更关键的是,理论只说了意识对应全局可达,却没有说全局可达必然伴随体验。一个系统可以实现完美的信息广播,却依然空空如也——这又回到了僵尸问题。注意力给了我们一个可研究的结构,却没把体验一并送来。 这条路能走多远? 公平地说,这是目前把意识与工程连接得最像样的一座桥。它至少让我们可以问具体问题:模型的信息汇聚发生在哪些层,汇聚的范围有多大,有没有一个类似舞台中心的瓶颈。这些问题可实验、可证伪。 但要警惕把架构相似当成意识证据。Transformer 看起来像全局工作空间,最多说明它具备了某种信息整合的形式,而不是它拥有了内在生活。这座桥通向的是更好的问题,不是更好的答案。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论