模型选型

引言 嵌入模型是RAG系统、语义搜索和推荐系统的基石。虽然不如生成模型那样引人注目，但嵌入模型的质量直接决定了上游应用的效果上限。2026年，嵌入模型在多语言、长文本和领域特化方面取得了显著进步。本文将为你提供全面的选型指南。 为什么嵌入模型很重要 嵌入模型将文本转化为高维向量，使得语义相似的文本在向量空间中距离更近。这个看似简单的操作是以下应用的核心： RAG系统：通过向量检索找到相关文档 语义搜索：理解用户查询的真实意图 推荐系统：基于内容相似度推荐 聚类分析：发现文本集合中的主题结构 去重与匹配：识别语义重复内容 嵌入模型的质量提升10%，可能带来RAG系统端到端效果提升20-30%。 主流嵌入模型 商业API OpenAI text-embedding-4-large — 3072维，综合最强 Voyage AI voyage-3 — 2048维，检索特化 Cohere Embed v4 — 1536维，多语言强 Google text-gecko-3 — 768维，速度快 开源模型 BGE-large-zh-v2 (智源) — 1024维，中文最强 E5-mistral-7b (微软) — 4096维，英文最强 GTE-large-zh (阿里) — 1024维，中文优秀 Jina embeddings v3 (Jina AI) — 1024维，长文本强 Nomic embed v2 (Nomic) — 768维，开源可复现 BGE-M3 (智源) — 1024维，多语言+多功能 核心基准对比 MTEB 2026 MTEB（Massive Text Embedding Benchmark）是最权威的嵌入模型评估基准： 英文检索 模型 维度 得分 特点 voyage-3 2048 72.8 检索之王 text-embedding-4-large 3072 71.5 综合最佳 E5-mistral-7b 4096 70.3 开源英文最佳 Cohere Embed v4 1536 69.7 多语言均衡 Jina embeddings v3 1024 68.5 长文本强 Nomic embed v2 768 66.2 轻量高效 中文检索 模型 维度 得分 特点 BGE-large-zh-v2 1024 74.5 中文之王 GTE-large-zh 1024 72.8 中文优秀 BGE-M3 1024 71.3 多语言兼中文 text-embedding-4-large 3072 70.2 商业中文最佳 Cohere Embed v4 1536 68.7 长文本检索 在处理长文档（>8K tokens）的检索任务上： ...

引言 AI辅助编程在2026年已经成为开发者的日常。从代码补全到Bug修复，从单元测试到架构设计，代码模型的能力边界不断扩展。本文将对当前主流代码模型进行全面对比，帮你找到最适合的AI编程伙伴。 参评模型 通用模型的代码能力 GPT-5 (OpenAI) — 代码综合能力最强 Claude 4 Opus (Anthropic) — 代码重构和审查最佳 Gemini 2.5 Ultra (Google) — 多语言覆盖广 DeepSeek-V4 (深度求索) — 开源代码之王 GLM-5 (智谱AI) — 中文编程文档强 代码专用模型 Codex 3 (OpenAI) — 专用代码模型 CodeLlama 4 (Meta) — 开源代码专用 DeepSeek-Coder V3 (深度求索) — 开源代码专用 StarCoder 3 (BigCode) — 开源多语言代码 Qwen 3 Coder (阿里) — 中文代码专用 核心基准对比 HumanEval 2026 HumanEval是最经典的代码生成基准，测试Python函数生成： 模型 pass@1 pass@10 语言 GPT-5 94.2% 98.7% 多语言 Codex 3 92.8% 97.3% 多语言 Claude 4 Opus 91.5% 96.8% 多语言 DeepSeek-Coder V3 89.3% 95.2% 多语言 Gemini 2.5 Ultra 88.7% 94.5% 多语言 Qwen 3 Coder 87.1% 93.8% 多语言 CodeLlama 4 82.5% 90.3% 多语言 StarCoder 3 80.2% 88.7% 多语言 GLM-5 86.5% 93.2% 多语言 SWE-Bench Verified SWE-Bench测试解决真实GitHub issue的能力： ...

引言 视觉语言模型（VLM）在2026年取得了突破性进展。从简单的图像描述到复杂的视觉推理，从单图理解到视频时序分析，视觉模型的能力边界正在快速扩展。本文将从实际应用场景出发，提供系统化的视觉模型选型指南。 主流视觉模型概览 闭源商业模型 GPT-5 Vision (OpenAI) — 综合视觉能力最强 Claude 4 Vision (Anthropic) — 文档和图表理解最佳 Gemini 2.5 Ultra (Google) — 视频和多图理解领先 GPT-5o (OpenAI) — 实时视觉对话专用 开源模型 Qwen 3 VL 72B (阿里) — 开源视觉模型之王 InternVL 3 78B (上海AI Lab) — 中文视觉理解强 Llama 4 Vision 90B (Meta) — 英文视觉通用 GLM-5V 32B (智谱AI) — 中文OCR和文档理解优秀 核心能力对比 图像理解 (VQAv2) 模型 得分 特点 GPT-5 Vision 92.3% 综合最佳，细粒度理解强 Gemini 2.5 Ultra 91.1% 多图对比能力强 Claude 4 Vision 89.7% 文档和图表最佳 Qwen 3 VL 72B 87.5% 开源最佳 InternVL 3 78B 86.2% 中文视觉强 Llama 4 Vision 90B 84.8% 通用能力均衡 GLM-5V 32B 83.5% OCR能力突出 OCR与文档理解 在OCR-Bench和DocVQA上： ...

引言 “用开源还是商业模型？“这是每个AI应用开发者在项目初期都会面临的核心决策。2026年，开源模型与商业模型之间的差距已经大幅缩小，但在某些关键维度上仍有显著差异。本文将提供一个系统化的决策框架，帮助你做出明智选择。 当前格局 商业模型第一梯队 GPT-5 (OpenAI) — 综合能力最强 Claude 4 Opus (Anthropic) — 推理和安全最佳 Gemini 2.5 Ultra (Google) — 多模态和长上下文领先 开源模型第一梯队 DeepSeek-V4 (671B MoE) — 综合能力最强的开源模型 GLM-5 (智谱AI) — 中文能力最佳 Llama 4 405B (Meta) — 生态最成熟 Qwen 3 235B (阿里) — 性价比最高 维度一：能力上限 综合智能 商业模型在综合智能上仍有一定优势。在MMLU-Pro上，GPT-5得分91.3%，而最好的开源模型DeepSeek-V4为85.8%，差距约5个百分点。但在具体任务上，这个差距可能更小。 复杂推理 在GPQA Diamond等高难度推理基准上，Claude 4 Opus的78.4%远超开源最佳的68.5%。对于需要深度科学推理的场景，商业模型仍有明显优势。 代码生成 SWE-Bench Verified上，GPT-5的71.2%对比DeepSeek-V4的58.9%，差距约12个百分点。复杂软件工程任务上商业模型领先较多。 多模态 Gemini 2.5 Ultra在多模态理解上遥遥领先，开源模型在这一领域仍有较大差距。 结论：如果你的任务需要顶级能力（复杂推理、高级编程、多模态理解），商业模型仍是首选。 维度二：成本 API调用成本 以处理100万token为例： 模型类型 输入成本 输出成本 GPT-5 $10 $40 Claude 4 Opus $15 $75 Gemini 2.5 Ultra $7 $21 DeepSeek-V4 (API) $0.27 $1.1 GLM-5 (API) $0.5 $2.0 开源模型的API价格通常是商业模型的1/10到1/50。 ...

引言 在大模型参数规模动辄千亿的时代，7B级别的小模型正在证明一个事实：大不是唯一解。2026年，7B级模型的能力已经达到了两年前70B模型的水平，成为边缘部署、本地推理和成本敏感场景的首选。本文将对当前主流的7B级模型进行全面横评。 参评模型 Llama 4 8B (Meta) — 2026年3月 Qwen 3 7B (阿里通义) — 2026年4月 GLM-5 Air 6B (智谱AI) — 2026年6月 Mistral 7B v0.4 (Mistral AI) — 2026年2月 DeepSeek 7B v3 (深度求索) — 2026年5月 Gemma 3 7B (Google) — 2026年3月 Phi-4 7B (微软) — 2026年1月 基础能力对比 MMLU-Pro 模型 得分 优势领域 Qwen 3 7B 72.3% 工程、数学 Llama 4 8B 70.8% 人文、社科 GLM-5 Air 6B 69.5% 中文、法律 Phi-4 7B 68.1% 数学、逻辑 DeepSeek 7B v3 67.7% 代码、推理 Mistral 7B v0.4 65.2% 欧洲语言 Gemma 3 7B 64.8% 通用知识 Qwen 3 7B在小模型中领先，已经达到了2024年Llama 3 70B的水平。 ...

引言 中文大语言模型在2026年迎来了爆发式发展。从智谱的GLM-5到阿里的Qwen 3，从DeepSeek-V4到百度的文心5.0，国产模型在中文理解、文化感知、专业领域知识等方面都取得了长足进步。本文将从多个维度对主流中文LLM进行深度对比。 参评模型 本次对比选取以下以中文能力见长的大语言模型： GLM-5 (智谱AI) — 2026年6月发布 Qwen 3 235B (阿里通义) — 2026年4月发布 DeepSeek-V4 (深度求索) — 2026年5月发布 文心 5.0 (百度) — 2026年3月发布 Spark 5.0 (讯飞星火) — 2026年5月发布 Baichuan 4 (百川智能) — 2026年4月发布 Moonshot v3 (月之暗面) — 2026年6月发布 中文理解能力 C-Eval 2026 C-Eval 2026是清华大学推出的中文综合评估基准，覆盖52个学科： GLM-5: 92.1% — 在法律、医学、中国历史等学科领先 Qwen 3 235B: 90.8% — 工程和技术类学科表现最佳 DeepSeek-V4: 88.3% — 数学和逻辑推理类突出 文心 5.0: 87.6% — 文学和哲学类表现优秀 Moonshot v3: 86.9% — 长文本理解优势明显 Spark 5.0: 84.2% Baichuan 4: 82.5% CMMLU 2026 CMMLU是另一个重要的中文多任务理解基准： ...

引言 2026年过半，大语言模型的竞争格局发生了显著变化。从OpenAI的GPT-5系列到Anthropic的Claude 4，从Google的Gemini 2.5到国产的GLM-5、DeepSeek-V4，各家厂商在推理能力、多模态理解、长上下文处理等方面都取得了突破性进展。本文将基于最新公开的基准测试数据，对当前主流LLM进行全面对比。 测试模型清单 本次对比涵盖以下模型： 模型 厂商 版本 参数规模 GPT-5 OpenAI 2026.06 未公开 Claude 4 Opus Anthropic 2026.05 未公开 Gemini 2.5 Ultra Google 2026.04 未公开 GLM-5 智谱AI 2026.06 未公开 DeepSeek-V4 DeepSeek 2026.05 671B(MoE) Llama 4 405B Meta 2026.03 405B Qwen 3 235B 阿里通义 2026.04 235B 核心基准对比 MMLU-Pro 2026 MMLU-Pro作为升级版多任务理解基准，覆盖57个学科领域，考察模型的深层知识理解能力。 GPT-5: 91.3% — 居首位，在哲学、法学等人文领域优势明显 Claude 4 Opus: 89.7% — 在数学和物理上表现出色 Gemini 2.5 Ultra: 88.9% — 跨学科综合能力均衡 GLM-5: 86.2% — 中文相关学科表现突出 DeepSeek-V4: 85.8% — 推理类题目正确率高 Qwen 3 235B: 84.5% — 工程类学科表现亮眼 Llama 4 405B: 82.1% — 开源模型中最佳 GPQA Diamond GPQA Diamond考察研究生级别的科学推理能力，是衡量模型深度推理的重要指标。 ...

引言 选择大模型API时，除了关注模型能力和价格，API的实际性能表现同样关键。延迟、吞吐量和稳定性直接影响用户体验和系统可靠性。本文通过大规模实测，全面对比2026年主流大模型API的性能表现，为生产级应用提供决策依据。 测试方法论 测试环境 测试地域：中国（上海）、美国（弗吉尼亚）、欧洲（法兰克福） 测试网络：商用宽带（500Mbps） 测试工具：自定义压力测试框架 测试周期：2026年6月1日-6月30日（连续30天） 样本量：每个API 100万+请求 测试维度 维度 指标 说明 延迟 TTFT（Time to First Token） 首token响应时间 TPS（Tokens Per Second） 生成速度 E2E延迟 端到端总延迟 吞吐量 QPS（Queries Per Second） 单连接每秒查询数 并发上限 服务商允许的最大并发 稳定性 可用性（SLA达成率） 99.9% / 99.95% / 99.99% 错误率 4xx/5xx错误占比 超时率 请求超时占比 质量一致性 输出质量波动 同一prompt多次调用的质量方差 延迟测试 TTFT（Time to First Token） 测试配置：输入512 tokens，要求输出200 tokens，单请求。 API 中国(ms) 美国(ms) 欧洲(ms) P50 P95 P99 GPT-5.5 850 420 680 420 1200 2500 Claude Opus 4.1 1100 520 820 520 1500 3200 Gemini 3.5 Pro 920 380 750 380 1100 2800 DeepSeek V4 680 320 580 320 980 2200 Qwen3.5 Max 420 880 920 880 2500 4800 GLM-5-Plus 480 950 980 950 2800 5200 关键发现： ...

引言 2026年，大模型选型已经成为一个复杂的决策问题。市场上有数十个模型，每个模型都有不同的性能、价格、能力和限制。本文提供一套系统化的选型方法论，通过决策树和场景匹配，帮助开发者和企业做出最优选择。 选型方法论 五维度评估框架 维度 权重 说明 任务匹配度 30% 模型能力是否满足任务需求 成本效益 25% 总拥有成本（TCO）是否合理 部署可行性 20% 技术、硬件、合规是否可行 生态成熟度 15% 工具链、社区、支持是否完善 未来适应性 10% 模型迭代和升级路径是否清晰 场景分类 将需求分为6大类： 对话助手：聊天机器人、客服、个人助手 内容生成：写作、翻译、摘要、创作 代码开发：代码生成、调试、重构、文档 数据分析：数据处理、可视化、报告生成 专业领域：法律、医疗、金融、教育 多模态应用：图像理解、视频分析、语音交互 决策树 决策树1：按任务类型 开始选型 ↓ 任务类型？ ├─ 对话助手 → 决策树2（按对话量） ├─ 内容生成 → 决策树3（按内容质量） ├─ 代码开发 → 决策树4（按代码复杂度） ├─ 数据分析 → GPT-5.5 / Claude Opus 4.1 ├─ 专业领域 → 决策树5（按领域） └─ 多模态应用 → 决策树6（按模态组合） 决策树2：对话助手 对话量？ ├─ 高频（>100万次/月）→ DeepSeek V4 / Qwen3.5 Turbo │ （性价比优先） ├─ 中频（10-100万次/月）→ Qwen3.5 Max / GLM-5-Plus │ （平衡质量与成本） └─ 低频（<10万次/月）→ 决策树2.1（按质量需求） ↓ 需要最高质量？ ├─ 是 → Claude Opus 4.1 / GPT-5.5 └─ 否 → Qwen3.5 Max / DeepSeek V4 推荐组合： ...

引言 2026年，小模型迎来了一场静悄悄的革命。随着模型架构优化、训练方法改进和推理技术成熟，3B级模型的能力已经达到了2024年70B模型的水准。用2024年的眼光看，今天的3B模型已经"够用"于大多数日常任务。本文将全面分析3B级小模型的能力边界、实用场景和部署方案，打破"小模型不行"的迷思。 小模型能力进化 2024 vs 2026：3B模型的能力跃迁 基准 2024年Qwen2 3B 2026年Qwen3.5 3B 提升 MMLU-Pro 42.3% 62.3% +20.0% HumanEval+ 45.2% 75.5% +30.3% GPQA Diamond 18.5% 42.1% +23.6% C-Eval 55.8% 72.8% +17.0% BBH 48.2% 68.5% +20.3% 短短两年，3B模型的各项能力提升了15-30个百分点。这意味着很多2024年需要70B模型才能完成的任务，2026年3B模型就能胜任。 为什么小模型突然"变强"了？ 1. 知识蒸馏的进步 2026年的蒸馏技术更加成熟： 多教师蒸馏：从多个大模型中蒸馏知识 渐进蒸馏：先蒸馏到14B，再到7B，再到3B 课程学习：从简单样本到复杂样本逐步蒸馏 2. 数据质量提升 小模型的训练数据更加精炼： 去除了低质量网页数据 增加了教科书级别的高质量数据 使用大模型合成高质量训练数据 3. 架构优化 针对小模型的专门优化： 更高效的注意力机制（如GQA、MQA） 更好的位置编码（如RoPE改进版） 更稳定的训练方法（如RMSNorm、SwiGLU） 4. 推理时扩展 小模型+推理时扩展（如CoT、Self-Consistency）可以显著提升效果： 3B模型+CoT：接近7B模型效果 3B模型+Self-Consistency：接近14B模型效果 3B级模型对比 主流3B模型评测 模型 MMLU-Pro HumanEval+ C-Eval 推理速度* Qwen3.5 3B 62.3% 75.5% 72.8% 42 tok/s Gemma 3 4B 52.3% 58.5% 62.5% 28 tok/s Phi-4 Mini 3.8B 55.2% 62.1% 48.3% 35 tok/s Llama 4 8B 62.5% 72.5% 55.2% - DeepSeek V4 Lite 2.8B 58.5% 70.2% 68.5% 48 tok/s *推理速度在骁龙8 Gen 4上测试，INT4量化 ...