RAG 项目做不好，九成问题不在大模型，在检索。检索回来的文档不对，再强的模型也只能瞎编。2026 年做 RAG，分块、重排、评估是绕不开的三件事，每一步都有具体做法，下面按流水线讲。

分块策略怎么定？

别用固定五百字一刀切。先按文档结构切：标题层级、段落、问答对优先，让每个块语义完整。块大小常见在三百到八百字之间，太短上下文不足，太长检索噪声大。块之间留百分之十到十五的重叠，避免一句话被拦腰斩断。表格和代码块单独处理，别和正文混切。切完人工抽十条看看：每个块能不能独立看懂，看不懂就调大或调结构。

检索完为什么还要重排？

因为向量检索按相似度粗排，前十名里经常混着相关但不是最贴的。重排模型把粗排的前十名重新精排，只留前三个喂给大模型。这一步简单加上去，回答准确率实测约提升一截。具体配置：向量检索先召回二十到三十条，重排器打分后留前三到五。融合关键词检索也行，两种召回方式各取所长。

怎么评估 RAG 到底好不好？

别靠感觉。建一个五十条问题的测试集，每条标注正确答案来自哪个文档块，然后看两个指标：检索命中率——正确块有没有进召回结果；答案忠实度——回答有没有编造测试材料里不存在的内容。每次改分块参数或换模型，跑一遍测试集。没有测试集的 RAG 就是开盲盒，上线后用户骂的你根本不知道是哪一环错。测试集怎么建？从真实用户问题里挑五十条，覆盖高频问法和刁钻问法各一半，标注答案要点而非逐字标准答案。每季度更新十道新题，避免模型背测试集。另外建议把每次 badcase 存下来，攒够二十条就回流进测试集，评估体系会越用越准。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论