向量检索效果差,很多人第一反应是换向量数据库,其实八成问题出在 embedding 模型选错,或者切分方式不对。

怎么判断是 embedding 的问题?

做一个简单实验:拿十条你确定相关的文档,用同一个查询检索,看它们是否排在前十。如果相关文档压根没出现,多半是 embedding 语义空间不适合你的领域。

第二个信号是同义词检索不到。用户说报销,文档写费用核销,如果检索不到,说明模型对中文业务词的理解不够。

embedding 该怎么选?

先看语言和领域。中文业务场景要选在中文语料上训练充分的模型,通用英文模型往往在中文短查询上表现差。

再看维度与成本。维度高通常效果好些,但存储和检索成本上升。数据量在百万级以下时,维度差异的影响没有想象中大。

还要看是否支持指令式检索。有些模型允许你说明这是找文档还是找相似句,能明显提升准确率。

切分方式为什么更关键?

文档切得太大,一个片段里混了多个主题,向量被平均掉,检索就不准。切得太小,上下文缺失,模型答不全。

实用做法是按结构切:标题下的一段、表格的一行、问答的一对。再给每个片段加上所属章节的标题作为前缀,能显著提升召回。

还有一个常被忽略的点:查询和文档要用同一个模型编码。混用两个模型,向量空间不对齐,效果必然差。

怎么验收检索质量?

建一个五十条的查询集,人工标注每条应该召回哪些片段。测召回率、前三位命中率、无关片段比例。

三个指标里,前三位命中率最影响体验。用户只看前几条,后面的排序再好也没用。

最后:换模型前先调切分,调切分前先看查询写法。顺序反了,会花很多冤枉钱。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论