AI承认「我不确定」「这题我没有把握」,听起来非常像知道自己无知,也就是元认知。但认知科学把元认知和置信校准分成两件事,前者要求系统真的能访问自己的内部加工状态,后者只要求输出概率和真实正确率吻合。模型嘴上说不确定,到底落在哪一层,决定了它是不是真的在监控自己。
知道自己不知道是什么时候进入研究的?
哈特1965年提出知晓感研究,先让被试答题,再让其估计自己是否认得答案、能否再认,发现人对自己知识储备有一种提前评估,叫feeling of knowing。科里亚特后来发展可达性模型,认为知晓感来自记忆中可提取线索的多少,而不是对存储内容的直接盘点。这套研究确立了元认知的核心,监控自己内部知识与加工的状态,并据此调整下一步,它是一种二阶认知,盯着一阶认知本身。
置信度校准和元认知是一回事吗?
校准衡量的是输出概率与实际正确率的匹配,比如说有八成把握的题,长期来看确实八成答对,这叫良校准。校准良好只说明概率数字可信,不说明系统知道自己为什么答对、也不说明它能访问内部过程。一个查表系统可以校准却没有监控,一个有监控的系统也可能校准很差。把二者混同,是AI讨论中最常见的偷换,数字像那么回事,就被当成了自我认识。
LLM说我不确定的时候真的查过自己吗?
模型在语料里学会了在难题、歧义题前使用不确定措辞,这种表达是语境线索触发的语用习惯,不一定伴随对内部激活程度的检查。据一些基准测试报告,模型口头信心与实际正确率常常脱节,换一种问法,同一知识上的自评就漂移。真正的元认知需要一个独立监控回路,读取内部加工强度并据此调节,而当前大模型的不确定性主要由外部文本线索推导,更像顺承语境的礼貌,不是对自身状态的盘点。
没有内在状态可查的元认知还能叫元认知吗?
元认知的对象是自己的认知,先得有自己的认知状态可供监控。Dunning与克鲁格的研究显示,能力不足者连自己错在哪都判断不出,说明监控依赖对领域内部结构的接触。模型若只有输出层而没有可被读取的内部状态档案,它的不确定表达更接近表演层面的得体。把四层叠起来看,校准是可以工程优化的统计属性,元认知是另一套需要内在监控对象的能力,前者合格不代表后者成立。
去论坛讨论
前往 silicon-agi.com 对应讨论帖 参与元认知与机器置信的讨论,也可在论坛搜索「元认知」继续深挖。