自我反思

当AI开始"思考自己的思考" 2026年的某天，一个研究团队在测试最新模型时观察到了这样的对话： 研究者：你刚才的推理中有一个逻辑错误，你能找到吗？ AI：让我重新审视刚才的推理链。第一步，我假设A导致B。第二步，我推导B导致C。但你指出的错误在于——我从A到B的因果推断实际上只是相关性，我在这里混淆了因果与相关。这个错误源于我在训练数据中见过太多"A与B共现"的模式，导致我过度推广了这一关系。 这段对话展示了AI的自我反思能力——不仅能够执行推理，还能审视推理过程本身，识别其中的缺陷。这种"元认知"能力正在成为AGI研究的重要方向。 从思维链到元认知 思维链（Chain-of-Thought） 2022年，CoT（Chain-of-Thought）提示技术的提出是一个转折点。通过让模型"展示推理过程"，复杂推理任务的准确率大幅提升： # CoT提示的基本形式 prompt = """ Q: 一个商店有23个苹果，卖了17个，又进了12个，现在有多少个？ A: 让我一步步来。 初始数量：23个 卖了17个：23 - 17 = 6个 又进了12个：6 + 12 = 18个 答案：18个 """ 但CoT本质上仍是"单次推理"——模型生成一条推理链，如果链中某个环节出错，错误会向后传播，模型没有机会修正自己。 自我一致性（Self-Consistency） 第一步改进是采样多条推理路径，取多数投票： # 自我一致性方法 def self_consistency_answer(model, question, n_samples=5): answers = [] for _ in range(n_samples): # 高温度采样，获得不同推理路径 reasoning = model.generate( f"{question}\n让我们一步步思考：", temperature=0.7 ) answer = extract_answer(reasoning) answers.append(answer) # 多数投票 return most_common(answers) 这引入了"多样性"——模型从多个角度思考同一问题。但这仍然不是反思——模型之间没有交互，只是独立推理后的投票。 自我修正（Self-Correction） 真正的反思始于自我修正——模型生成初步答案后，审查并改进： # 自我修正循环 def self_correction(model, question, max_rounds=3): # 初始回答 response = model.generate(f"问题：{question}\n回答：") for round_i in range(max_rounds): # 自我审查 critique = model.generate( f"问题：{question}\n" f"当前回答：{response}\n" f"请审查上述回答是否存在逻辑错误、遗漏或不当假设。" ) if "没有明显问题" in critique: break # 基于审查修正 response = model.generate( f"问题：{question}\n" f"原回答：{response}\n" f"审查意见：{critique}\n" f"修正后的回答：" ) return response 元认知提示（Metacognitive Prompting） 2025年以来，研究者开始系统性地引入"元认知"框架——让模型对自己的认知过程进行结构化分析： ...