AI推理

相关≠因果：AI的根本性问题 “冰淇淋销量增加时，溺水死亡也增加”——这是相关性。但冰淇淋不会导致溺水，真正的因果是"夏天来了，天热了"。 当前AI（特别是LLM）主要学习的是统计相关性——“A和B经常一起出现”。但人类智能的核心是因果推理——“A导致了B”。这个差距是AI从"看起来聪明"到"真正聪明"的关键障碍。 Judea Pearl的因果阶梯将智能分为三层： 观察（Association）：看到A时B也出现 → 当前AI在这一层 干预（Intervention）：如果我做了A，B会怎样？ → AI初步探索 反事实（Counterfactual）：如果我没做A，B还会发生吗？ → AI几乎不能 2026年，AI因果推理研究取得了重要进展，开始从第一层向第二层和第三层迈进。 2026年的进展 1. 因果发现 目标：从观察数据中自动发现因果关系 方法：PC算法 + 神经网络 + 大语言模型 2026年的新方法将LLM与因果发现算法结合： LLM提供领域知识（“温度可能是冰淇淋销量和溺水的共同原因”） 统计算法验证因果假设 两者交替迭代，发现更准确的因果结构 class LLMGuidedCausalDiscovery: def __init__(self, llm, data): self.llm = llm self.data = data def discover(self, variables): # 1. LLM提出可能的因果假设 hypotheses = self.llm.generate_causal_hypotheses(variables) # 2. 统计验证每个假设 validated = [] for hyp in hypotheses: score = self.statistical_test(hyp, self.data) if score > THRESHOLD: validated.append((hyp, score)) # 3. 构建因果图 causal_graph = self.build_graph(validated) # 4. LLM审查因果图的合理性 review = self.llm.review_causal_graph(causal_graph) # 5. 根据反馈迭代 if review.has_issues(): return self.discover(variables) # 重新发现 return causal_graph 效果：在标准因果发现基准上，LLM辅助方法的准确率比纯统计方法高25%。 2. 因果推理模型 目标：让模型在推理时使用因果知识 ...

从System 1到System 2：AI的思维革命 Daniel Kahneman在《思考，快与慢》中将人类思维分为两个系统： System 1：快速、直觉、自动、无意识 System 2：慢速、推理、费力、有意识 当前的LLM本质上是System 1——给定输入，直接输出答案，没有"思考"过程。2026年最重要的AI研究趋势之一，就是让AI拥有System 2能力——在回答前"想一想"。 System 1的局限 1. 复杂推理错误 LLM在简单问题上表现出色，但在需要多步推理的复杂问题上容易出错： 简单数学：“2+3=?” → 正确 多步数学：“一个商店进货200件商品，以标价的8折卖出60%，剩余的以5折卖出，总利润率是多少？” → 经常出错 原因：LLM的推理是"一次性"的，没有检查和修正的机会。 2. 缺乏自我纠错 System 1的输出是"第一反应"，没有反思和纠错的过程。人类在做复杂题时会：先尝试一种方法→发现不对→换一种方法→验证结果。LLM缺乏这种迭代能力。 3. 无法处理"需要思考"的问题 有些问题不是"知识"问题，而是"思考"问题——需要在不同选项之间权衡、推理、决策。LLM在这类问题上表现不稳定。 2026年System 2的实现方式 1. 思维链（Chain-of-Thought）的进化 基础CoT在2022年就已出现。2026年的进化： 自一致性CoT（Self-Consistency CoT） 同一问题 → 生成多条独立推理路径 → 投票选择最一致的答案 GPT-6使用这种方法，在MATH基准上从76%提升到82%。 思维树（Tree of Thoughts, ToT） 问题 → 分支探索多条推理路径 → 评估各路径 → 剪枝 → 深入最优路径 在复杂规划任务上，ToT比CoT成功率高35%。 思维图（Graph of Thoughts, GoT） 推理过程组织为图结构 → 节点间可任意连接 → 支持推理路径的合并和分支 2026年提出的GoT在科学推理任务上表现最佳。 2. OpenAI o系列的"推理模型" OpenAI的o系列模型是System 2 AI的代表： ...