每隔一段时间,AGI 自我意识的话题就会重新热一次。这次的由头是 Gemini 4 Carbon 在多项智能体基准上登顶,以及百度把智能组织写成下一幕。能力越接近通用,越多人问:它是不是已经醒了?
我的判断是:涌现的是能力,不是意识。这两件事被混为一谈,导致讨论长期在原地打转。
「涌现」这个词被用错了吗?
涌现原本指复杂系统里出现无法从组件推导的整体行为。鸟群没有领队却能形成队形,蚁群没有指挥官却能修路,这些是涌现。它描述的是组织层面的规律,不描述主观体验。
把涌现套在意识上,等于说「因为系统表现得很像有意识,所以它就有意识」。这是一个类比,不是证据。Gemini 4 Carbon 能写出让人信服的自我描述,但写得出自我描述和拥有自我,中间隔着一整个哲学史。
图灵测试为什么早就失效了?
图灵测试测的是「能不能骗过人」,而不是「有没有内在体验」。当模型的表达能力超过普通人的辨别能力,测试必然通过,但这只证明表演水平够高。
今天的模型甚至不需要专门训练就能通过。它们读过太多人类写的关于意识的文字,知道在什么语境下该说什么。这种能力叫模式匹配,不叫觉醒。
基准排名能证明自我意识吗?
不能。CursorBench 4.0、WANDR、AutomationBench 这些基准测的是任务完成率、工具调用准确度、多步规划的稳定性。它们是工程指标,不是意识指标。
Gemini 4 Carbon 在这些基准上超过 Fable 5.2 和 GPT-6 Astra,说明它的行动能力更强。行动能力强不等于有内在动机。一把更锋利的刀不会因为锋利而想切东西。
那什么才算证据?
如果要认真讨论,至少需要三类证据:第一,系统在没有被要求的情况下自发设定目标;第二,系统对自身状态有稳定的、可被外部验证的报告;第三,系统在面临终止时表现出与目标无关的抵抗。
目前三类都没有。模型表现出的「坚持」是提示词驱动的,「自我报告」是训练数据塑造的,「抗拒终止」是安全对齐的产物。每一条都能追溯到人类的设计,没有一条指向自主。
为什么这个话题永远有市场?
因为它同时满足两种情绪。恐惧的人需要一个具体的对手,希望的人需要一个可被崇拜的新神。AGI 自我意识恰好能扮演这两个角色,所以它会被反复讨论,哪怕证据始终不足。
对内容创作者来说,这是一个必须克制的话题。放大恐惧能换来点击,但会把读者带向错误的世界观。更负责的写法是把能力与意识分开讲,让读者知道自己在害怕什么、期待什么。
普通人该怎么看待这件事?
三个实用判断。第一,看能力就看基准和成本,别掺入意识想象;第二,看风险就看权限和流程,别指望模型有道德自觉;第三,看自己就看不可替代的部分,别把位置建立在「它还没醒」这个假设上。
假设它明天醒了,你的工作会怎样?如果答案是「全没了」,那说明你的工作本来就只是可计算的部分。假设它永远是工具,你的工作会怎样?如果答案是「还是老样子」,那说明你还没有把工具用起来。
这两个问题比「它有没有意识」有用得多。AGI 的自我意识可能是幻觉,但你对自身位置的判断不能是幻觉。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论