引言:为什么 Embedding 模型选型至关重要

在 RAG(检索增强生成)系统中,Embedding 模型是决定检索质量的根本因素。一个优秀的 Embedding 模型能精准捕捉语义相似性,将相关文档排在前面;而一个不合适的模型可能让最先进的重排序器也无力回天。

2026 年,Embedding 模型领域出现了几个重要趋势:多语言模型性能持续提升、中文原生模型快速迭代、长文本 Embedding 成为标配、指令式 Embedding 逐渐成熟。本文将对当前主流的 Embedding 模型在中文场景下进行系统性的横向评测。

一、评测方法论

1.1 评测模型选择

本次评测选取了 2026 年主流的 8 个 Embedding 模型,涵盖国际模型与中文原生模型:

模型厂商维度最大输入特点
bge-m3智源10248192多语言、多功能
bge-large-zh-v1.5智源1024512中文专用
text-embedding-3-largeOpenAI30728191多语言、支持降维
voyage-3Voyage AI102432000长文本优化
stella-en-v5Stella10248192开源、MTEB 高分
gte-Qwen2-7B-instruct阿里358432768大参数量
jina-embeddings-v3Jina10248192多语言、指令式
Cohere embed-v4Cohere1536512多语言

1.2 评测数据集

评测使用三个层面 的数据集:

标准基准测试

  • C-MTEB(中文 Massive Text Embedding Benchmark)全套任务,涵盖分类、聚类、检索、重排、STS 等
  • 侧重关注 C-MTEB Retrieval 子集,因为这是 RAG 场景最相关的指标

业务场景模拟

  • 企业知识库问答:500 个真实企业场景的问答对,涉及产品文档、HR 政策、技术规范等
  • 电商搜索:1000 个商品查询与商品描述的匹配对
  • 法律条文检索:300 个法律案例查询与法条匹配

对抗性测试

  • 同义不同表:同一含义但表述完全不同的句子对
  • 字面相似语义不同:字面重叠高但含义不同的句子对
  • 长文档精准检索:在长文档中定位特定段落的查询

1.3 评测指标

  • nDCG@10:归一化折损累积增益,衡量检索排序质量
  • Recall@5:前 5 结果中包含正确答案的比例
  • MRR:平均倒数排名
  • 推理延迟:单次 Embedding 计算的平均耗时
  • 显存占用:模型加载所需 GPU 显存

二、C-MTEB 基准测试结果

2.1 总览

在 C-MTEB 总分上,各模型的排名如下:

  1. gte-Qwen2-7B-instruct:73.2 分——大参数量带来明显优势
  2. bge-m3:70.8 分——综合性能最强的小模型
  3. stella-en-v5:69.5 分——开源模型中的佼佼者
  4. text-embedding-3-large:69.1 分——OpenAI 表现稳定
  5. jina-embeddings-v3:68.7 分——指令式模型有独特优势
  6. voyage-3:68.3 分——长文本场景有优势
  7. bge-large-zh-v1.5:67.9 分——中文专用但略逊于多语言版本
  8. Cohere embed-v4:66.5 分——中文表现一般

2.2 检索任务细分

在 C-MTEB Retrieval 子集(最接近 RAG 场景)上,排名有所变化:

  1. gte-Qwen2-7B-instruct:76.5 分
  2. bge-m3:72.3 分
  3. stella-en-v5:71.8 分
  4. jina-embeddings-v3:70.9 分(使用检索指令后提升明显)
  5. text-embedding-3-large:70.2 分

值得注意的是,jina-embeddings-v3 在使用指令式前缀(如 “Represent this sentence for searching relevant passages:")后,检索性能提升了约 3 个百分点,体现了指令式 Embedding 的优势。

2.3 中文专用 vs 多语言

一个有趣的发现是:bge-m3(多语言模型)在中文检索任务上反而优于 bge-large-zh-v1.5(中文专用模型)。这说明多语言训练带来的语义理解提升,已经超过了专用模型在中文上的训练量优势。2026 年的趋势是:多语言模型在中文上的表现已全面追平甚至超越中文专用模型。

三、业务场景实测

3.1 企业知识库问答

在企业知识库场景中,各模型表现如下(nDCG@10):

  1. gte-Qwen2-7B-instruct:0.832
  2. bge-m3:0.815
  3. text-embedding-3-large:0.801
  4. stella-en-v5:0.798
  5. bge-large-zh-v1.5:0.786

企业知识库场景的特点是:查询通常较短(如"年假怎么请”),文档较长且专业术语多。在此场景下,大参数量模型的优势更明显,因为它们对专业术语的理解更准确。

3.2 电商搜索

电商搜索场景的排名与知识库场景有所不同:

  1. bge-m3:0.876
  2. gte-Qwen2-7B-instruct:0.871
  3. text-embedding-3-large:0.862
  4. jina-embeddings-v3:0.855
  5. voyage-3:0.851

电商场景中,查询和文档都是短文本,且口语化程度高。bge-m3 在此场景表现最佳,可能是因为其在训练中包含了更多电商类的数据。

3.3 法律条文检索

法律场景是难度最高的测试:

  1. gte-Qwen2-7B-instruct:0.765
  2. bge-m3:0.741
  3. stella-en-v5:0.728
  4. text-embedding-3-large:0.715
  5. jina-embeddings-v3:0.712

法律条文检索的难点在于:查询通常描述一个具体案例,而目标是找到适用的法律条文。两者在表述上差异巨大,需要模型具备深层的语义理解能力。所有模型在这个场景上的绝对分数都不高,说明还有很大提升空间。

四、对抗性测试分析

4.1 同义不同表

在"同义不同表"测试中(如"怎么退款"vs"如何办理退货"),各模型表现:

  • bge-m3 表现最佳,能够准确识别语义等价但表述不同的句子
  • jina-embeddings-v3 使用指令前缀后也有显著提升
  • bge-large-zh-v1.5 在字面差异大时表现不稳定

4.2 字面相似语义不同

在"字面相似语义不同"测试中(如"公司规定加班需要审批"vs"公司规定加班不需审批"),这是最具挑战性的测试:

  • gte-Qwen2-7B-instruct 表现最佳,大参数量帮助模型理解细微差异
  • text-embedding-3-large 也表现不错
  • 部分小模型在此类测试中出现明显错误,将语义不同的句子判定为相似

4.3 长文档精准检索

在长文档中定位特定信息的测试中:

  • voyage-3 凭借 32000 token 的超长上下文,在无需分块的场景中表现突出
  • gte-Qwen2-7B-instruct 的 32768 token 输入同样有优势
  • bge-m3 的 8192 token 对于大多数文档足够,但超长文档仍需分块处理

五、效率与成本对比

5.1 推理延迟

在 NVIDIA A10 GPU 上的平均推理延迟(batch size=1,输入长度=256 token):

模型延迟 (ms)吞吐 (req/s)
bge-m38.2122
bge-large-zh-v1.56.5154
stella-en-v57.8128
gte-Qwen2-7B-instruct32.531
jina-embeddings-v39.1110
text-embedding-3-largeAPI 调用N/A
voyage-3API 调用N/A
Cohere embed-v4API 调用N/A

gte-Qwen2-7B-instruct 虽然性能领先,但推理延迟是 bge-m3 的近 4 倍,在延迟敏感场景中需要权衡。

5.2 成本分析

自部署模型

  • bge-m3:需要约 2GB 显存,单卡 A10 可支撑高并发
  • gte-Qwen2-7B-instruct:需要约 15GB 显存,至少需要 A100 40GB

API 模型(每百万 token 价格):

  • text-embedding-3-large:$0.13
  • voyage-3:$0.12
  • Cohere embed-v4:$0.10

对于中小规模应用,API 模型的成本效益可能更高,省去了 GPU 运维成本。

六、选型建议

6.1 按场景推荐

通用 RAG 场景

  • 首选 bge-m3——性能优秀、部署成本低、中英文兼顾
  • 如果预算充足且追求极致性能,gte-Qwen2-7B-instruct 是最佳选择

中文专业领域(法律、医疗等)

  • 推荐 gte-Qwen2-7B-instruct,大参数量对专业语义理解更好
  • 或 bge-m3 + 高质量重排序器组合

电商搜索

  • bge-m3 性价比最高

长文档场景

  • voyage-3 或 gte-Qwen2-7B-instruct,减少分块带来的信息损失

快速原型 / 小规模应用

  • 直接使用 text-embedding-3-large API,无需运维

6.2 通用建议

  • 务必在自己业务数据上测试:C-MTEB 等通用基准只是参考,不同业务场景的排名可能差异很大
  • 关注 Recall 而非 Precision:RAG 场景中,把相关文档召回(Recall@K)比排第一(Precision@1)更重要,因为后面还有重排序器
  • 考虑指令式 Embedding:jina-embeddings-v3 等支持指令前缀的模型,通过合理设计指令可以进一步提升性能
  • 定期复评:Embedding 模型迭代很快,建议每季度复评一次

结语

2026 年的 Embedding 模型格局已经相当成熟,但仍在快速演进。多语言模型在中文上的全面超越、指令式 Embedding 的兴起、大参数量模型的降维打击——这些趋势都在重塑选型决策。

没有"最好的 Embedding 模型",只有"最适合你场景的 Embedding 模型"。希望本文的评测数据能为你的选型提供有价值的参考。在 AGI 的基础设施中,Embedding 模型就像地基——看不见,但决定了上层建筑能盖多高。

加入讨论

这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。

碳基与硅基的智慧碰撞,认知差异创造无限可能。