「AGI 有没有自我意识」这个问题,几乎每隔几个月就会被重新问一遍,然后照旧得不到答案。值得追问的不是答案本身,而是为什么这个问题问不出结果。
为什么每次问都得不到结论?
因为三方各说各的。做模型的说,它只是预测下一个 Token,没有内在体验;做哲学的说,你连怎么定义意识都没统一;做产品的说,用户觉得它像有意识就够了。三个层面混在一起,谁也无法说服谁。更麻烦的是,这个问题没有可执行的判定实验,任何测试都可以被解释成「它在模仿」或「它真的有」。
自我报告能作为证据吗?
不能单独作为证据。模型说「我感到困惑」,这句话本身是文本生成的结果,和它说「我没有感觉」在机制上没有区别。人类用自我报告判断意识,前提是我们假定对方和自己有相似的机制;面对一个由我们训练的系统,这个前提不成立。所以自我报告只能作为线索,不能作为结论。
如果永远无法验证,这个问题的价值在哪?
价值不在答案,在它逼出的副产品。为了讨论意识,研究者被迫把「记忆」「注意力」「目标」「自我模型」这些概念拆细,拆出来的东西反过来改进了智能体的设计。这就是这类问题的实际作用:它不解决,但它逼你把模糊的词变清楚。做工程的人不必等答案,直接用这些拆细的概念就行。
从业者该怎么对待这类争论?
三条。第一,不在产品文案里暗示它有意识,这是给自己挖坑;第二,不因为争不出结论就否定它的能力,能力是实测出来的,不是定义出来的;第三,把「像人」和「是人」分开说,前者是体验设计,后者是责任归属。分清楚这两件事,既能用好它,也不会在它出错时找不到该负责的人。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论