幻觉的根源

模型生成时在概率空间采样，高概率但不一定正确。尤其在：编造数据、混淆事实、过度自信。

10种缓解方法

检索增强类

  1. RAG检索+引用来源
  2. 知识图谱约束
  3. 工具调用验证（计算器、数据库、API）

提示词类

  1. 明确不知道就说不知道
  2. 要求给出推理过程
  3. 提供参考示例

工程类

  1. 温度降低（0.1-0.3）
  2. 多次采样投票
  3. 后置校验（规则引擎检查格式/数据）
  4. 置信度阈值（低置信度转人工）

关键认知

幻觉无法100%消除，但可以大幅降低。高风险场景必须有人工审核兜底。