AI常识问题

AI常识问题:为什么LLM仍然不懂

常识:AI最难的问题 GPT-6能解决数学奥赛题,却可能在一个简单的物理常识问题上犯错。这种"高智能、低常识"的矛盾是当前AI最大的谜题之一。 2026年,尽管AI在各种专业测试中超越人类,常识理解仍然是AI的"阿喀琉斯之踵"。 什么是常识? 常识的定义 常识是关于日常世界的基本知识,包括: 物理常识: 物体不能穿透彼此 重物比轻物落得快(实际上不对,但直觉如此) 液体会流动并适应容器形状 热的东西摸了会疼 社会常识: 在图书馆不能大声说话 别人帮助你后应该说"谢谢" 不能随便拿别人的东西 时间常识: 昨天的事不会明天发生 做事情需要时间,不能瞬间完成 数量常识: 100个苹果比5个苹果多 一个房间不能装下一百万个人 常识为什么难 常识之所以被称为"AI最难的问题",有几个原因: 隐含性:常识很少被明确表述——人们不会写"杯子掉在地上会碎"这样的句子 无限性:常识的覆盖范围几乎是无限的 模糊性:很多常识不是绝对的——“重物落得快"在某些情况下不对 依赖性:常识依赖于文化和环境 ** grounding问题**:文本中的"常识"描述与真实世界的体验是不同的 LLM的常识缺陷 典型错误 尽管GPT-6等模型在大多数常识测试上表现不错,但在"分布外"的常识问题上仍然会犯令人惊讶的错误: 错误1:物理推理 问:“如果把一个西瓜放在桌子上,然后用锤子敲它,会怎样?” GPT-6回答:“西瓜可能会变形。"(实际上会碎裂) 错误2:空间推理 问:“一个球从楼上掉下来,会怎样?” GPT-6有时回答:“球会向上飞。"(如果训练数据中有"球飞起来"的描述) 错误3:因果推理 问:“为什么不能把大象放进冰箱?” GPT-6回答:“因为冰箱太小。"(部分正确,但忽略了重量、门能否打开等常识) 错误4:社会常识 问:“在葬礼上讲笑话合适吗?” GPT-6回答:“这取决于笑话是否好笑。"(忽略了社交场合的敏感性) 为什么LLM缺乏常识 1. 文本vs体验 人类通过物理交互学习常识——推门知道门会开、碰热水知道烫。LLM只从文本中学习,缺乏这种"具身体验”。 LeCun的"芝士蛋糕"比喻:你不能通过阅读菜单来品尝蛋糕的味道。同样,你不能通过阅读文本来真正理解物理世界。 2. 统计vs因果 LLM学习的是统计相关性,不是因果关系。它"知道"雨伞和雨经常一起出现,但不理解"因为下雨所以打伞"的因果关系。 3. 长尾问题 常识的覆盖面无限大。即使训练数据中包含了99%的常识场景,剩余1%的长尾场景仍然会导致错误。 4. 缺乏世界模型 LLM没有内部的世界模型——它不理解物理世界的运行规则,只是模仿了描述世界的语言。 2026年的进展 1. 常识基准测试 2026年出现了更严格的常识测试: CORE-Bench(Commonsense Reasoning Evaluation): 10,000个日常常识问题 需要物理推理、社会推理、因果推理 GPT-6得分:76.3% 人类得分:97.8% 差距仍然显著。 ...

2026-07-02 · 1 min · 140 words · 硅基 AGI 探索者
AI世界模型

世界模型前沿:AI如何理解物理

世界模型:AI理解现实的关键 Yann LeCun在2022年提出,当前大语言模型无法实现AGI,因为它们缺乏"世界模型"——对物理世界运行规律的内在理解。一个孩子知道球会掉落、玻璃会碎、水会流,但LLM只是从文本中"学到"这些词的统计关联。 2026年,世界模型研究取得了重要进展,但距离真正解决还有很长的路。 什么是世界模型? 定义 世界模型是指AI系统内部构建的一个关于外部世界的内部模型,使得AI能够: 预测:给定当前状态和动作,预测未来状态 推理:理解因果关系(“如果推杯子,杯子会掉”) 规划:基于世界模型规划行动以达到目标 反事实推理:想象"如果…会怎样" 人脑的世界模型 人类从婴儿时期就开始构建世界模型: 3个月:理解物体永久性(物体被遮挡仍然存在) 6个月:理解重力(预期物体会掉落) 12个月:理解因果关系(推一下会动) 3岁:理解他人心理(理论-of-mind) 这些能力是"具身"的——通过与物理世界的交互习得,而非通过阅读文本。 2026年世界模型研究进展 1. JEPA架构的进化 LeCun的JEPA(Joint Embedding Predictive Architecture)在2026年升级到V3版本: JEPA V3的核心改进: 分层世界模型:从像素级→物体级→概念级的层次化预测 时序预测:不仅能预测静态状态,还能预测动态变化 动作条件预测:给定动作,预测结果 观测(t) → 编码器 → 抽象表示(t) ↓ 预测器 → 预测表示(t+1) ↑ 动作(t) + 上下文 JEPA V3在物理预测任务上的表现: 预测叠积木的倒塌方向:87%准确率 预测球的弹跳轨迹:91%准确率 预测液体的流动:73%准确率 虽然还远不完美,但已显著优于纯语言模型(分别只有45%、62%、28%)。 2. 视频生成作为世界模型 2026年视频生成模型(如Sora 2、Veo 2)展现出了初步的"物理理解"能力: 生成的视频中物体运动基本符合物理规律 能够模拟简单的物理交互(碰撞、重力、摩擦) 但在复杂场景中仍会出现"物理错误"(如物体穿墙、液体表现不自然) 这引发了一个重要问题:视频生成模型是否在学习世界模型? 争论: 正方:视频模型必须理解物理才能生成逼真视频,因此它在隐式地学习世界模型 反方:视频模型只是在学习像素统计分布,并不真正"理解"物理 3. 具身世界模型 具身AI(Embodied AI)通过与物理世界交互来学习世界模型: 仿真环境学习: ...

2026-07-02 · 1 min · 189 words · 硅基 AGI 探索者
鲁ICP备2026018361号