CoT

为什么单个 Prompt 不够用？ 当 ChatGPT 刚问世时，人们习惯于把所有需求和上下文塞进一个 Prompt，期望模型一次性给出完美答案。对于简单问题，这确实可行。但随着任务复杂度的提升，单 Prompt 方案的局限性迅速暴露。 一个典型的例子：让模型分析一份 50 页的财务报告，提取关键指标，对比历史数据，评估风险，并给出投资建议。如果你把所有要求放在一个 Prompt 里，模型很可能在某个环节出错——也许遗漏了重要的风险因素，也许在计算同比变化时搞错了基数。 这不是模型"不够聪明"的问题，而是人类思维本身也是分步骤的。没有人会一口气完成"读报告→提取数据→计算→对比→评估→写建议"的全过程而不做任何中间检查。Prompt 链式设计的核心思想就是：把复杂任务分解为有序的推理步骤，每一步聚焦一个子目标，前一步的输出作为后一步的输入。 Prompt 链的基本模式 线性链：最简单的分步推理 线性链是最基础的 Prompt 链模式。任务按顺序分解为多个步骤，每一步的输出传递给下一步。 Step 1: 信息提取 Input: 财务报告全文 Output: 关键财务指标（JSON） Step 2: 趋势分析 Input: Step 1 的输出 + 历史数据 Output: 趋势分析报告 Step 3: 风险评估 Input: Step 2 的输出 + 风险因子清单 Output: 风险评级和说明 Step 4: 投资建议 Input: Step 3 的输出 + 投资准则 Output: 最终投资建议 线性链的优势在于简单可控。每一步的输入和输出清晰可审计，出错时容易定位问题环节。缺点是缺乏灵活性——如果第三步发现第一步提取的信息不完整，无法回头补充。 分支链：并行处理多条路径 当任务包含多个可以并行处理的子任务时，分支链更高效。每个分支独立处理一个维度，最终汇总结果。 ┌─ 分支A: 技术分析 ─┐ 输入数据 ──┤─ 分支B: 基本面分析 ─┤── 综合决策 └─ 分支C: 情绪分析 ─┘ 分支链适合多维度分析任务。例如投资决策中的技术面、基本面和情绪面分析可以并行进行，各自产出独立的结论，最后由一个汇总 Prompt 综合所有维度的分析做出最终判断。 ...

一、什么是 Chain of Thought Chain of Thought（CoT，思维链）是一种让大语言模型在给出最终答案前，先展示中间推理步骤的提示技术。由 Wei et al. (2022) 在论文 “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models” 中首次提出。 1.1 核心思想 传统 Prompt 要求模型直接输出答案——这相当于让人不假思索地回答复杂问题。而 CoT 通过引导模型"自言自语"地推理，显著提升复杂推理任务的准确率。 # 标准 Prompt（直接输出） Q: 小明有 23 个苹果，吃了 3 个，又买了 12 个。他有多少个苹果？ A: 32 # CoT Prompt（展示推理步骤） Q: 小明有 23 个苹果，吃了 3 个，又买了 12 个。他有多少个苹果？ A: 小明开始有 23 个苹果。吃了 3 个之后，剩余 23 - 3 = 20 个。又买了 12 个后，总数为 20 + 12 = 32 个。所以答案是 32。 1.2 为什么 CoT 有效 因素 说明 分解复杂度 将多步推理拆解为可管理的子步骤 中间监督 错误定位到具体步骤，而非全盘错误 计算复用 中间结果可作为后续推理的上下文 注意力聚焦 每一步聚焦当前子问题，减少信息丢失 二、CoT 的核心方法 2.1 Zero-shot CoT 通过简单短语 “Let’s think step by step” 触发推理链。无需示例，对大多数模型有效。 ...

思维链：从直觉到推理的跨越 大语言模型在简单问答上表现惊艳，但面对数学推导、逻辑推理、多步决策等复杂任务时，直接给出答案往往出错。原因很简单：模型在单次前向传播中压缩了所有推理过程，信息瓶颈导致中间步骤丢失。 思维链（Chain-of-Thought, CoT）的核心思想是：强制模型显式输出中间推理步骤，再得出最终答案。 这不是让模型"思考更深"，而是为模型提供额外的 token 预算来承载中间计算。 Zero-shot CoT vs Few-shot CoT Zero-shot CoT 最简单的 CoT 触发方式——在 Prompt 末尾追加一句话： 问题：一个商店有 23 个苹果，卖了 17 个，又进货了 12 个。现在有多少个苹果？ 让我们一步一步思考。 模型输出： 1. 初始有 23 个苹果 2. 卖出 17 个：23 - 17 = 6 3. 进货 12 个：6 + 12 = 18 4. 现在有 18 个苹果 关键点： “让我们一步一步思考”（Let’s think step by step）这句话在 GSM8K 基准上将准确率从 17.7% 提升到 78.7%（GPT-3.5）。这个魔法的本质是引导模型进入"推理模式"的 token 分布。 Few-shot CoT 在 Prompt 中提供带推理过程的示例： ...