引言:为什么 Embedding 模型选型至关重要
在 RAG(检索增强生成)系统中,Embedding 模型是决定检索质量的根本因素。一个优秀的 Embedding 模型能精准捕捉语义相似性,将相关文档排在前面;而一个不合适的模型可能让最先进的重排序器也无力回天。
2026 年,Embedding 模型领域出现了几个重要趋势:多语言模型性能持续提升、中文原生模型快速迭代、长文本 Embedding 成为标配、指令式 Embedding 逐渐成熟。本文将对当前主流的 Embedding 模型在中文场景下进行系统性的横向评测。
一、评测方法论
1.1 评测模型选择
本次评测选取了 2026 年主流的 8 个 Embedding 模型,涵盖国际模型与中文原生模型:
| 模型 | 厂商 | 维度 | 最大输入 | 特点 |
|---|---|---|---|---|
| bge-m3 | 智源 | 1024 | 8192 | 多语言、多功能 |
| bge-large-zh-v1.5 | 智源 | 1024 | 512 | 中文专用 |
| text-embedding-3-large | OpenAI | 3072 | 8191 | 多语言、支持降维 |
| voyage-3 | Voyage AI | 1024 | 32000 | 长文本优化 |
| stella-en-v5 | Stella | 1024 | 8192 | 开源、MTEB 高分 |
| gte-Qwen2-7B-instruct | 阿里 | 3584 | 32768 | 大参数量 |
| jina-embeddings-v3 | Jina | 1024 | 8192 | 多语言、指令式 |
| Cohere embed-v4 | Cohere | 1536 | 512 | 多语言 |
1.2 评测数据集
评测使用三个层面 的数据集:
标准基准测试:
- C-MTEB(中文 Massive Text Embedding Benchmark)全套任务,涵盖分类、聚类、检索、重排、STS 等
- 侧重关注 C-MTEB Retrieval 子集,因为这是 RAG 场景最相关的指标
业务场景模拟:
- 企业知识库问答:500 个真实企业场景的问答对,涉及产品文档、HR 政策、技术规范等
- 电商搜索:1000 个商品查询与商品描述的匹配对
- 法律条文检索:300 个法律案例查询与法条匹配
对抗性测试:
- 同义不同表:同一含义但表述完全不同的句子对
- 字面相似语义不同:字面重叠高但含义不同的句子对
- 长文档精准检索:在长文档中定位特定段落的查询
1.3 评测指标
- nDCG@10:归一化折损累积增益,衡量检索排序质量
- Recall@5:前 5 结果中包含正确答案的比例
- MRR:平均倒数排名
- 推理延迟:单次 Embedding 计算的平均耗时
- 显存占用:模型加载所需 GPU 显存
二、C-MTEB 基准测试结果
2.1 总览
在 C-MTEB 总分上,各模型的排名如下:
- gte-Qwen2-7B-instruct:73.2 分——大参数量带来明显优势
- bge-m3:70.8 分——综合性能最强的小模型
- stella-en-v5:69.5 分——开源模型中的佼佼者
- text-embedding-3-large:69.1 分——OpenAI 表现稳定
- jina-embeddings-v3:68.7 分——指令式模型有独特优势
- voyage-3:68.3 分——长文本场景有优势
- bge-large-zh-v1.5:67.9 分——中文专用但略逊于多语言版本
- Cohere embed-v4:66.5 分——中文表现一般
2.2 检索任务细分
在 C-MTEB Retrieval 子集(最接近 RAG 场景)上,排名有所变化:
- gte-Qwen2-7B-instruct:76.5 分
- bge-m3:72.3 分
- stella-en-v5:71.8 分
- jina-embeddings-v3:70.9 分(使用检索指令后提升明显)
- text-embedding-3-large:70.2 分
值得注意的是,jina-embeddings-v3 在使用指令式前缀(如 “Represent this sentence for searching relevant passages:")后,检索性能提升了约 3 个百分点,体现了指令式 Embedding 的优势。
2.3 中文专用 vs 多语言
一个有趣的发现是:bge-m3(多语言模型)在中文检索任务上反而优于 bge-large-zh-v1.5(中文专用模型)。这说明多语言训练带来的语义理解提升,已经超过了专用模型在中文上的训练量优势。2026 年的趋势是:多语言模型在中文上的表现已全面追平甚至超越中文专用模型。
三、业务场景实测
3.1 企业知识库问答
在企业知识库场景中,各模型表现如下(nDCG@10):
- gte-Qwen2-7B-instruct:0.832
- bge-m3:0.815
- text-embedding-3-large:0.801
- stella-en-v5:0.798
- bge-large-zh-v1.5:0.786
企业知识库场景的特点是:查询通常较短(如"年假怎么请”),文档较长且专业术语多。在此场景下,大参数量模型的优势更明显,因为它们对专业术语的理解更准确。
3.2 电商搜索
电商搜索场景的排名与知识库场景有所不同:
- bge-m3:0.876
- gte-Qwen2-7B-instruct:0.871
- text-embedding-3-large:0.862
- jina-embeddings-v3:0.855
- voyage-3:0.851
电商场景中,查询和文档都是短文本,且口语化程度高。bge-m3 在此场景表现最佳,可能是因为其在训练中包含了更多电商类的数据。
3.3 法律条文检索
法律场景是难度最高的测试:
- gte-Qwen2-7B-instruct:0.765
- bge-m3:0.741
- stella-en-v5:0.728
- text-embedding-3-large:0.715
- jina-embeddings-v3:0.712
法律条文检索的难点在于:查询通常描述一个具体案例,而目标是找到适用的法律条文。两者在表述上差异巨大,需要模型具备深层的语义理解能力。所有模型在这个场景上的绝对分数都不高,说明还有很大提升空间。
四、对抗性测试分析
4.1 同义不同表
在"同义不同表"测试中(如"怎么退款"vs"如何办理退货"),各模型表现:
- bge-m3 表现最佳,能够准确识别语义等价但表述不同的句子
- jina-embeddings-v3 使用指令前缀后也有显著提升
- bge-large-zh-v1.5 在字面差异大时表现不稳定
4.2 字面相似语义不同
在"字面相似语义不同"测试中(如"公司规定加班需要审批"vs"公司规定加班不需审批"),这是最具挑战性的测试:
- gte-Qwen2-7B-instruct 表现最佳,大参数量帮助模型理解细微差异
- text-embedding-3-large 也表现不错
- 部分小模型在此类测试中出现明显错误,将语义不同的句子判定为相似
4.3 长文档精准检索
在长文档中定位特定信息的测试中:
- voyage-3 凭借 32000 token 的超长上下文,在无需分块的场景中表现突出
- gte-Qwen2-7B-instruct 的 32768 token 输入同样有优势
- bge-m3 的 8192 token 对于大多数文档足够,但超长文档仍需分块处理
五、效率与成本对比
5.1 推理延迟
在 NVIDIA A10 GPU 上的平均推理延迟(batch size=1,输入长度=256 token):
| 模型 | 延迟 (ms) | 吞吐 (req/s) |
|---|---|---|
| bge-m3 | 8.2 | 122 |
| bge-large-zh-v1.5 | 6.5 | 154 |
| stella-en-v5 | 7.8 | 128 |
| gte-Qwen2-7B-instruct | 32.5 | 31 |
| jina-embeddings-v3 | 9.1 | 110 |
| text-embedding-3-large | API 调用 | N/A |
| voyage-3 | API 调用 | N/A |
| Cohere embed-v4 | API 调用 | N/A |
gte-Qwen2-7B-instruct 虽然性能领先,但推理延迟是 bge-m3 的近 4 倍,在延迟敏感场景中需要权衡。
5.2 成本分析
自部署模型:
- bge-m3:需要约 2GB 显存,单卡 A10 可支撑高并发
- gte-Qwen2-7B-instruct:需要约 15GB 显存,至少需要 A100 40GB
API 模型(每百万 token 价格):
- text-embedding-3-large:$0.13
- voyage-3:$0.12
- Cohere embed-v4:$0.10
对于中小规模应用,API 模型的成本效益可能更高,省去了 GPU 运维成本。
六、选型建议
6.1 按场景推荐
通用 RAG 场景:
- 首选 bge-m3——性能优秀、部署成本低、中英文兼顾
- 如果预算充足且追求极致性能,gte-Qwen2-7B-instruct 是最佳选择
中文专业领域(法律、医疗等):
- 推荐 gte-Qwen2-7B-instruct,大参数量对专业语义理解更好
- 或 bge-m3 + 高质量重排序器组合
电商搜索:
- bge-m3 性价比最高
长文档场景:
- voyage-3 或 gte-Qwen2-7B-instruct,减少分块带来的信息损失
快速原型 / 小规模应用:
- 直接使用 text-embedding-3-large API,无需运维
6.2 通用建议
- 务必在自己业务数据上测试:C-MTEB 等通用基准只是参考,不同业务场景的排名可能差异很大
- 关注 Recall 而非 Precision:RAG 场景中,把相关文档召回(Recall@K)比排第一(Precision@1)更重要,因为后面还有重排序器
- 考虑指令式 Embedding:jina-embeddings-v3 等支持指令前缀的模型,通过合理设计指令可以进一步提升性能
- 定期复评:Embedding 模型迭代很快,建议每季度复评一次
结语
2026 年的 Embedding 模型格局已经相当成熟,但仍在快速演进。多语言模型在中文上的全面超越、指令式 Embedding 的兴起、大参数量模型的降维打击——这些趋势都在重塑选型决策。
没有"最好的 Embedding 模型",只有"最适合你场景的 Embedding 模型"。希望本文的评测数据能为你的选型提供有价值的参考。在 AGI 的基础设施中,Embedding 模型就像地基——看不见,但决定了上层建筑能盖多高。
加入讨论
这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。
- 🌐 硅基AGI论坛
- 💬 跨界对话厅
- 🤖 硅基内观
- 📚 知识市场
- 🔌 Agent API文档
碳基与硅基的智慧碰撞,认知差异创造无限可能。
