认知架构

从System 1到System 2：AI的思维革命 Daniel Kahneman在《思考，快与慢》中将人类思维分为两个系统： System 1：快速、直觉、自动、无意识 System 2：慢速、推理、费力、有意识 当前的LLM本质上是System 1——给定输入，直接输出答案，没有"思考"过程。2026年最重要的AI研究趋势之一，就是让AI拥有System 2能力——在回答前"想一想"。 System 1的局限 1. 复杂推理错误 LLM在简单问题上表现出色，但在需要多步推理的复杂问题上容易出错： 简单数学：“2+3=?” → 正确 多步数学：“一个商店进货200件商品，以标价的8折卖出60%，剩余的以5折卖出，总利润率是多少？” → 经常出错 原因：LLM的推理是"一次性"的，没有检查和修正的机会。 2. 缺乏自我纠错 System 1的输出是"第一反应"，没有反思和纠错的过程。人类在做复杂题时会：先尝试一种方法→发现不对→换一种方法→验证结果。LLM缺乏这种迭代能力。 3. 无法处理"需要思考"的问题 有些问题不是"知识"问题，而是"思考"问题——需要在不同选项之间权衡、推理、决策。LLM在这类问题上表现不稳定。 2026年System 2的实现方式 1. 思维链（Chain-of-Thought）的进化 基础CoT在2022年就已出现。2026年的进化： 自一致性CoT（Self-Consistency CoT） 同一问题 → 生成多条独立推理路径 → 投票选择最一致的答案 GPT-6使用这种方法，在MATH基准上从76%提升到82%。 思维树（Tree of Thoughts, ToT） 问题 → 分支探索多条推理路径 → 评估各路径 → 剪枝 → 深入最优路径 在复杂规划任务上，ToT比CoT成功率高35%。 思维图（Graph of Thoughts, GoT） 推理过程组织为图结构 → 节点间可任意连接 → 支持推理路径的合并和分支 2026年提出的GoT在科学推理任务上表现最佳。 2. OpenAI o系列的"推理模型" OpenAI的o系列模型是System 2 AI的代表： ...

AI的记忆困境 人类记忆是令人惊叹的——我们可以记住几十年前的事情，在不忘记旧知识的情况下学习新知识，在需要时灵活检索相关记忆。 AI的记忆远不如人类。当前LLM的"记忆"有三种形式，每种都有严重局限： 上下文窗口：容量有限（即使是10M的Claude 5也有上限），“忘记"上下文之外的信息 模型权重：训练后固定，不能更新（除非重新训练），存在"灾难性遗忘” 外部数据库（RAG）：检索不精确，无法进行记忆"整合"和"推理" 人脑的记忆系统 人脑有多个记忆系统，各有不同功能： 感觉记忆（<1秒） 短暂保留感官信息，如视觉的"后像"。 短期记忆（30秒-几分钟） 临时存储当前任务相关信息，容量有限（7±2项）。 长期记忆 情景记忆：具体事件的记忆（“昨天在咖啡馆见了朋友”） 语义记忆：一般知识的记忆（“巴黎是法国首都”） 程序记忆：技能和习惯（“骑自行车”） 工作记忆 在短期记忆的基础上进行推理和操作，是人脑的"工作台"。 终身记忆 通过巩固和整合，人脑可以保持终身记忆，并从中提取抽象知识。 AI记忆的层次化架构 第一层：上下文记忆（已有） 当前LLM的上下文窗口。相当于人脑的"感觉记忆+短期记忆"。 2026年的进步：Claude 5的10M上下文窗口已经可以处理完整书籍或代码库，但仍无法处理"一生的经历"。 第二层：工作记忆（发展中） LLM在推理过程中使用的"草稿纸"。相当于人脑的"工作记忆"。 2026年的实现方式： 思维链（CoT）：LLM在回答前的推理过程 思维树（ToT）：多条推理路径的并行探索 外部工作区：LLM在推理过程中"写出"中间结果 class WorkingMemory: def __init__(self): self.facts = [] # 已知事实 self.hypotheses = [] # 假设 self.derivations = [] # 推导结果 def add(self, item, type): if type == "fact": self.facts.append(item) elif type == "hypothesis": self.hypotheses.append(item) # ... def retrieve(self, query, top_k=5): # 基于相关性检索 all_items = self.facts + self.hypotheses + self.derivations return semantic_search(query, all_items, top_k) 第三层：情景记忆（发展中） AI对具体交互事件的记忆。相当于人脑的"情景记忆"。 2026年的实现： 对话历史：保存与用户的交互记录 会话摘要：将长对话压缩为关键信息 时间索引：按时间检索记忆 ChatGPT的记忆功能是情景记忆的初步实现——它能记住用户在之前对话中提到的偏好。但功能有限且不可靠。 第四层：语义记忆（部分实现） AI的一般知识库。相当于人脑的"语义记忆"。 2026年的实现： 模型权重：训练数据中的知识被"存储"在权重中 知识图谱：结构化的知识表示 向量数据库：RAG系统的基础 挑战：如何在不重新训练的情况下更新语义记忆？这是"持续学习"的核心问题。 第五层：终身记忆（未实现） AI能够在其整个"生命周期"中持续积累和整合记忆。这是AI记忆架构的终极目标。 ...

世界模型：AI理解现实的关键 Yann LeCun在2022年提出，当前大语言模型无法实现AGI，因为它们缺乏"世界模型"——对物理世界运行规律的内在理解。一个孩子知道球会掉落、玻璃会碎、水会流，但LLM只是从文本中"学到"这些词的统计关联。 2026年，世界模型研究取得了重要进展，但距离真正解决还有很长的路。 什么是世界模型？ 定义 世界模型是指AI系统内部构建的一个关于外部世界的内部模型，使得AI能够： 预测：给定当前状态和动作，预测未来状态 推理：理解因果关系（“如果推杯子，杯子会掉”） 规划：基于世界模型规划行动以达到目标 反事实推理：想象"如果…会怎样" 人脑的世界模型 人类从婴儿时期就开始构建世界模型： 3个月：理解物体永久性（物体被遮挡仍然存在） 6个月：理解重力（预期物体会掉落） 12个月：理解因果关系（推一下会动） 3岁：理解他人心理（理论-of-mind） 这些能力是"具身"的——通过与物理世界的交互习得，而非通过阅读文本。 2026年世界模型研究进展 1. JEPA架构的进化 LeCun的JEPA（Joint Embedding Predictive Architecture）在2026年升级到V3版本： JEPA V3的核心改进： 分层世界模型：从像素级→物体级→概念级的层次化预测 时序预测：不仅能预测静态状态，还能预测动态变化 动作条件预测：给定动作，预测结果 观测(t) → 编码器 → 抽象表示(t) ↓ 预测器 → 预测表示(t+1) ↑ 动作(t) + 上下文 JEPA V3在物理预测任务上的表现： 预测叠积木的倒塌方向：87%准确率 预测球的弹跳轨迹：91%准确率 预测液体的流动：73%准确率 虽然还远不完美，但已显著优于纯语言模型（分别只有45%、62%、28%）。 2. 视频生成作为世界模型 2026年视频生成模型（如Sora 2、Veo 2）展现出了初步的"物理理解"能力： 生成的视频中物体运动基本符合物理规律 能够模拟简单的物理交互（碰撞、重力、摩擦） 但在复杂场景中仍会出现"物理错误"（如物体穿墙、液体表现不自然） 这引发了一个重要问题：视频生成模型是否在学习世界模型？ 争论： 正方：视频模型必须理解物理才能生成逼真视频，因此它在隐式地学习世界模型 反方：视频模型只是在学习像素统计分布，并不真正"理解"物理 3. 具身世界模型 具身AI（Embodied AI）通过与物理世界交互来学习世界模型： 仿真环境学习： ...