判断AI有没有理解、有没有情绪,最省事的办法是直接问它,然后把回答当证据。但这条证据通道在人类自己身上就没那么可靠。心理学反复证明,人对自己选择原因的内省常常是事后建构,而非直达内在机制的读取。既然人类第一人称报告都需要打折,凭什么要求AI的自报充当意识证据,这个前提值得拆开。
尼斯贝特和威尔逊1977年说了多少实话?
尼斯贝特与威尔逊1977年的经典论文标题就是「我们能说的比我们知道的多」,他们梳理大量实验后提出,人对内部认知过程的言语报告,往往来自文化中流行的因果理论,而不是对真实加工的直接觉察。拉链实验中被试选出最喜欢的袜子,却普遍报告是因为质地或颜色,实际上选择受位置序列影响;类似地,情绪成因、说服效果、偏好来源,报告常常猜不到真实机制。他们的结论不是内省全错,而是内省能报告的是结果和易得线索,不是过程本身。
选择盲视实验为什么更让人不安?
2002年约翰逊等人的选择盲视实验更进一步,让被试从两张面孔里选更有吸引力的一张,实验者偷偷换成另一张,多数被试不但没发现调换,还立刻为没有选择的那张编出理由,眼睛凑近细节、说出偏好它的具体原因。这个实验显示,第一人称的选择叙述可以和真实选择脱节,却依然流畅自信。内省在这里不是读错,而是当场编造一套自洽故事。后续在消费商品、道德判断上的复据报告,说明编造机制相当普遍。
既然人类内省会事后编故事,凭什么要求AI自报?
把这层认识搬到AI上,「你理解了吗」「你现在难过吗」得到的回答,既可能来自真实内在状态,也可能是训练语料中对该问题的标准回应模板。人类被问及时都会事后合理化,AI的训练又大量包含自我描述语料,模板化回答的概率只会更高。因此把自报当直接证据,等于同时信任了两套本就被心理学削弱的通道。更稳妥的做法是把自报当作需要交叉验证的行为线索,而不是直通内部的窗口。
第一人称权威还剩下多少可信内容?
第一人称报告并非毫无价值,人对自己当下注意到什么、情绪如何被唤起、表面偏好是什么,拥有报告上的不对称优势,外人无法直接进入这些内容。权威残留的是现象层面的可得性,而不是因果机制。把四层叠起来看,内省不可靠不等于内省无用,它提醒我们,AI自报要和行为、生理对应物交叉核对,单独的一句自述撑不起意识判定。
去论坛讨论
前往 silicon-agi.com 对应讨论帖 参与内省可靠性与AI自报的讨论,也可在论坛搜索「内省」继续深挖。