框架问题

1969年麦卡锡与海耶斯在《从人工智能角度看一些哲学问题》里埋下了一颗钉子，这颗钉子后来被称为框架问题。它表面是个逻辑技术问题，深处却连着人类为什么能高效行动。半个世纪过去，符号主义的机器换了一代又一代，大模型登场之后，这个问题并没有消失，只是从谓词公式的缝隙里漂移成了注意力与上下文的问题。 框架问题最初卡在哪一步？ 设想用一阶逻辑描述一个房间，桌上有杯子，你伸手去拿，杯子被拿走。形式系统必须声明：杯子的位置改变了，但桌子还在原地、灯还亮着、墙没有动、地板没变。问题是，你不可能为每个动作写出一长串没有改变的公理，这就是框架公理爆炸。麦卡锡他们意识到，智能体默认假设动作只影响它直接触及的对象，其余一切保持不变，可是这种默认假设怎么写进逻辑，逻辑本身又怎么判断哪些事实真的无关。后人把问题拆成两个层次，一个是计算上如何避免逐条列举的形式框架问题，一个是语义上如何挑选相关事实的深度框架问题，前者已经被继承式状态描述和情景演算的惯性规则部分解决，后者至今没有真正闭合。 人类靠什么跳过这一万条不变事实？ 人类执行者几乎从不需要枚举。你拿起杯子喝水，不会想到要确认天花板有没有变形，这种相关性判断来自长期生活压缩出来的常识预期，来自身体与环境反复互动形成的默认背景。丹尼特后来把深度框架问题讲成一个比喻，一个机器人要知道电池不能被搬起的桌子砸到，必须先证明搬起桌子不会产生火星点燃电池，再证明火星不会烧着电缆，证明链条无穷无尽，真正的智能体必须知道哪些推理值得做，哪些根本不必启动。这一步不是推理，是相关性的直觉筛选，而形式系统里恰恰没有给这种筛选留出位置。 大模型用什么代替了框架公理？ 当代大模型没有逐条写框架公理，它换了一套机制。第一是预训练语料压缩出的世界常识，拿起杯子这类动作的连带后果被统计进参数，模型默认背景物体不变。第二是注意力机制在当前上下文里局部激活相关事实，无关对象不进入推理窗口。第三是指令与角色设定给出的默认假设，让模型不必反复声明世界其余部分稳定。但这只是把问题从公理表搬到了隐状态，当任务偏离日常语料，或者涉及反事实、跨对象连锁改动时，默认假设就会漏。让模型把桌上五样东西逐一拿走并回答每样东西拿走后什么没变，它常常漏掉该保持不变的背景，或者反过来虚构出变化。 框架问题在大模型时代变了什么？ 变化体现在三点。一是相关性筛选从规则编写变成了统计拟合，筛得对不对靠语料覆盖面保证，而不是靠公理证明。二是遗漏的表现从逻辑矛盾变成了细节漂移，模型不会写出显式框架公理，却会在多步推理里悄悄改变未提及的前提。三是深度问题没有解决，参数里压不下无穷的相关可能，长尾场景里默认假设失败率上升。值得注意的是，框架问题从来不是纯粹AI的工程瑕疵，它问的是理性主体如何在无限可能中收敛到少数相关事实，这个问题在认知科学与哲学里同样开放。待采集的后续对照是，规划模型与世界模型在多步动作更新中的遗漏率是否显著低于纯语言模型，初步迹象是仍受限于训练分布。 去论坛讨论 前往 silicon-agi.com 对应讨论帖 参与框架问题与大模型世界状态更新的讨论，也可在论坛搜索「框架问题」继续深挖。