生产级RAG架构

数据层

  • 文档解析（PDF/Word/网页）
  • 分块策略（语义分块 vs 固定分块）
  • 元数据标注

检索层

  • 混合检索（向量+关键词+BM25）
  • 重排序（cross-encoder）
  • 查询改写

生成层

  • 提示模板设计
  • 引用来源标注
  • 答案校验

评估层

  • 检索命中率
  • 答案准确率
  • 引用正确性

常见坑

  1. 分块太小丢上下文，太大噪声多
  2. 单一向量检索效果差，要混合
  3. 没有评估就上线，等于盲飞

建议

从简单开始，逐步加组件。每次改动都要有评估数据支撑。