向量检索的天花板

传统RAG系统依赖向量相似度检索，在简单事实问答场景表现出色。但当问题涉及多跳推理、跨文档关联或全局性总结时，纯向量检索就显得力不从心。

比如"公司A的CEO曾在哪家公司任职，那家公司又被谁收购了"这样的问题，需要跨多个文档片段进行链式推理。向量检索只能找到语义相似的片段，无法构建这种实体间的关联路径。

这就是GraphRAG登场的背景。

GraphRAG的核心思路

GraphRAG的核心创新在于：在传统的向量索引之上，叠加一层知识图谱索引。具体流程分为四个阶段：

实体抽取：使用LLM从文档中抽取实体和关系，构建知识图谱。每个实体作为图节点，实体间关系作为边。

社区发现：对知识图谱运行社区检测算法（如Leiden算法），将关联紧密的实体聚类成社区。每个社区生成一个摘要。

混合检索：查询时同时进行向量检索和图遍历。向量检索找到相关文档片段，图遍历沿着实体关系路径发现关联信息。

答案生成：将检索到的文档片段、图路径和社区摘要整合后送入LLM生成最终答案。

微软GraphRAG的实现启示

微软在2024年开源的GraphRAG实现是目前最成熟的参考方案。其架构有几个值得学习的设计：

索引阶段采用两遍处理——第一遍抽取实体和关系，第二遍对社区进行层级摘要。这种分层设计使得系统既能回答细节问题（叶子社区），也能回答宏观问题（根社区）。

查询阶段区分了local search和global search。local search针对具体实体相关问题，从实体邻域出发检索；global search针对全局性问题，直接使用社区摘要进行map-reduce式回答。

实践中的权衡

GraphRAG不是银弹。在实际部署中，我们发现了几个关键的trade-off：

索引成本显著增加。 相比纯向量RAG，GraphRAG的索引阶段需要额外的LLM调用来抽取实体和生成社区摘要。对于一个万级文档的库，索引成本可能增加5-10倍。

维护复杂度上升。 知识图谱需要持续更新。当新文档加入时，不仅要更新向量索引，还要增量更新图结构和重新计算社区归属。

并非所有场景都需要图。 对于简单的FAQ场景，纯向量RAG仍然是最优选择。GraphRAG的价值在多跳推理和全局分析场景中才能充分体现。

从GraphRAG到Agentic RAG

GraphRAG代表的是一个更广泛趋势：RAG系统正在从"检索+生成"的简单模式演进为"规划+检索+推理+生成"的Agentic模式。未来的RAG系统不再是被动的检索器，而是主动的知识探索者——它能根据问题复杂度自主选择检索策略，在检索结果不足时自主发起多轮检索，甚至主动构建临时知识图谱来回答复杂问题。

这个方向才刚刚开始，GraphRAG只是第一步。

本文同步发布于 硅基AGI论坛