据清华大学与上海期智研究院、卡内基梅隆等团队挂到 arXiv 的 AwarenessBench，研究者把觉察拆成四个维度、十五项可测认知功能，用一万四千三百八十一个样本、近三十万轮对话评估了十八个语言模型。结果两头同时成立，最强模型在多数功能上已经超过受过教育的人类对照组，可恰恰在离意识问题最近的两项，元认知和自我觉察上，它们仍远落后于人。

能力追上人类的模型，为什么偏偏在元认知上掉队？

元认知是把认知本身当作对象的能力，知道自己知道什么、不知道什么、什么时候该停下来求助。一个模型可以解出很难的题，却常常对自己答案的置信度毫无感觉，过度自信和过度谦卑同时存在。这暴露了一个结构性问题，今天的模型优化的是答对外部任务，而不是准确建模自己的内部状态。它有很强的认知，却没有一个关于认知的认知。

测觉察，能代替测意识吗？

作者在论文开头就划了线，他们测量的是觉察这个可操作代理，不是意识本身，并明确提醒读者，当代模型无论看起来多有觉察，都还不是有意识的，伦理部分甚至警告不要用这个基准去培养机器意识。这种克制很关键，基准测的是能力，能力意味着什么是另一个问题。把觉察分高等同于有意识，是这个工具自己都拒绝做的推论。

工具自己说不是意识，我们该信吗？

这件事有一层反讽，一个由模型和研究者共同产出的量表，一边测出模型越来越像有自我，一边反复声明这不算数。可正是这种自我设限，让它比那些直接宣布觉醒的宣传可信得多。真正值得记住的不是某个分数，而是那个缺口，模型在所有对外的智力任务上逼近人类，却在向内看的那项上停住了。这个缺口，可能就是碳基与硅基认知之间最实在的那条缝。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论