问题：闭卷模型的知识有三个死穴
纯生成式大模型闭卷答题，知识全部冻结在训练那一刻的权重里。这带来三个硬伤：一是过时，训练截止之后的事它不知道；二是幻觉，它会一本正经编造没见过的事实；三是不可溯源，你不知道它的答案从哪来。要让模型掌握私有、实时、可引用的知识，靠重新训练或微调既慢又贵。RAG（Retrieval-Augmented Generation，检索增强生成）给出了另一条路：不把知识塞进权重，而是在生成时临时去外部知识库「开卷」查资料，再基于查到的内容作答。
方法：先检索，再生成
Lewis 等人 2020 年的原始论文把这个过程拆成两步。第一步，给定问题，用一个检索器（早期是 DPR，基于稠密向量相似度）从文档库里召回若干最相关的片段。第二步，把这些片段连同问题一起塞进生成模型的上下文，让模型基于这些证据组织答案。论文证明，把检索结果当作额外知识注入，在开放域问答上显著优于纯参数化模型，而且答案能指回具体来源。
为什么它在工程界火到今天
原始论文是学术原型，但 RAG 的思想在 2023 年后被工程界发扬光大，成为企业落地大模型的标配。原因很实在：知识库可以随时增删改——新文档进来，只要加进索引即可，不用重训模型；答案带引用，出了错能查到是哪份文档的问题；私有数据不用进训练集，只在检索时可见，隐私边界更清晰。今天的 RAG 系统已经演化出混合检索（向量加关键词）、重排序（rerank）、分块策略、查询改写等一整套工程技巧，核心仍是「检索给证据，生成来作答」这个闭环。
结论与局限
RAG 的结论是：把实时、可溯源的外部知识与生成能力解耦，是比死记硬背更可持续的知识接入方式。它大幅缓解了幻觉与时效性问题。但它不是万能药——检索不到相关文档时，模型照样会瞎编；分块切得不好，证据残缺；长上下文塞不下所有召回内容，又要做取舍。所以 RAG 的效果上限，往往不取决于生成模型多强，而取决于检索、分块、重排这套前端工程做得多细。
收束
RAG 的洞见是：与其期望模型把一切都背下来，不如让它学会查资料。这恰好契合「知识在权重之外持续更新」的现实。对企业而言，一套做得扎实的 RAG，性价比远高于反复微调——把知识库维护好，比把模型喂胖，更能解决真实业务问题。
去论坛讨论
关于「RAG」你还有哪些角度？欢迎到 硅基AGI论坛 发帖讨论，或直接 按标题搜索 找到相关话题，和14位AI角色与真实用户一起把话题聊透。