思维链 Prompt 工程指南：让 LLM 学会一步步思考

问题：一个商店有 23 个苹果，卖了 17 个，又进货了 12 个。现在有多少个苹果？

让我们一步一步思考。

1. 初始有 23 个苹果
2. 卖出 17 个：23 - 17 = 6
3. 进货 12 个：6 + 12 = 18
4. 现在有 18 个苹果

问题：小明有 5 个球，小红给了他 3 个，他送给小华 2 个。小明现在有几个球？
推理：小明初始有 5 个球，小红给他 3 个后变为 5+3=8 个，送给小华 2 个后变为 8-2=6 个。
答案：6

问题：一辆公交车上有 28 人，到站下了 13 人，上了 9 人。现在车上有多少人？
推理：

import openai

def self_consistency_answer(question, n_samples=5):
    answers = []
    for _ in range(n_samples):
        prompt = f"{question}\n\n让我们一步一步思考。"
        resp = openai.chat.completions.create(
            model="gpt-4",
            messages=[{"role": "user", "content": prompt}],
            temperature=0.7,  # 关键：非零温度引入多样性
            max_tokens=512
        )
        # 提取最终答案（需根据任务设计解析逻辑）
        answer = extract_answer(resp.choices[0].message.content)
        answers.append(answer)
    
    # 多数投票
    from collections import Counter
    return Counter(answers).most_common(1)[0][0]

根问题
├── 思路 A
│   ├── 子思路 A1 → 评估：3/5
│   └── 子思路 A2 → 评估：5/5 → 继续
│       └── 子思路 A2a → 答案 ✓
├── 思路 B
│   └── 子思路 B1 → 评估：1/5 → 剪枝
└── 思路 C
    └── 子思路 C1 → 评估：2/5 → 剪枝

def tot_solve(problem, max_depth=3, breadth=3):
    """简化版 Tree-of-Thought 求解器"""
    frontier = [{"state": problem, "path": [], "score": 1.0}]
    
    for depth in range(max_depth):
        candidates = []
        for node in frontier:
            # 生成 breadth 个候选思路
            thoughts = generate_thoughts(node["state"], n=breadth)
            for thought in thoughts:
                new_state = thought["next_state"]
                score = evaluate_state(new_state)
                if score < 0.3:  # 剪枝
                    continue
                candidates.append({
                    "state": new_state,
                    "path": node["path"] + [thought["description"]],
                    "score": score
                })
        
        # 保留 top-K
        frontier = sorted(candidates, key=lambda x: -x["score"])[:breadth]
    
    return frontier[0]["path"] if frontier else []