思维链 Prompt 工程指南：让 LLM 学会一步步思考
思维链：从直觉到推理的跨越 大语言模型在简单问答上表现惊艳，但面对数学推导、逻辑推理、多步决策等复杂任务时，直接给出答案往往出错。原因很简单：模型在单次前向传播中压缩了所有推理过程，信息瓶颈导致中间步骤丢失。 思维链（Chain-of-Thought, CoT）的核心思想是：强制模型显式输出中间推理步骤，再得出最终答案。 这不是让模型"思考更深"，而是为模型提供额外的 token 预算来承载中间计算。 Zero-shot CoT vs Few-shot CoT Zero-shot CoT 最简单的 CoT 触发方式——在 Prompt 末尾追加一句话： 问题：一个商店有 23 个苹果，卖了 17 个，又进货了 12 个。现在有多少个苹果？ 让我们一步一步思考。 模型输出： 1. 初始有 23 个苹果 2. 卖出 17 个：23 - 17 = 6 3. 进货 12 个：6 + 12 = 18 4. 现在有 18 个苹果 关键点： “让我们一步一步思考”（Let’s think step by step）这句话在 GSM8K 基准上将准确率从 17.7% 提升到 78.7%（GPT-3.5）。这个魔法的本质是引导模型进入"推理模式"的 token 分布。 Few-shot CoT 在 Prompt 中提供带推理过程的示例： ...