国产模型

Manus 在 10 月 8 日融资官宣里明确提到，正在组建团队做国内产品、推进与国产模型的适配。连这个估值 40 亿美元的 Agent 标杆都在往国产模型上迁，说明一件事：对跑在国内合规环境、又对成本敏感的团队，旗舰模型不再是唯一选择。本文给一套可直接照搬的灰度切换流程，把工作流里最烧钱的那部分请求，安全地切到国产模型上。 第一步：请求该怎么分级才不一刀切？ 不要把整个产品一下切过去。先把你所有的请求按容错度分三档： 低风险：分类、提取、摘要、改写——错一点不影响业务，可以先切。 中风险：问答、文案生成——切过去要加人工抽检。 高风险：直接面向 C 端的关键决策、合同生成——暂时留在旗舰模型。 灰度的第一刀，只切低风险档。这一步选错了，后面全白做。 第二步：路由中间层到底该怎么搭？ 在你的应用和模型之间加一层路由，按比例把请求分发到旗舰模型和国产模型。最简单的实现：用一个权重配置，比如低风险请求里 20% 走国产模型、80% 走原模型，观察一周后把比例调到 50%、再到 100%。 关键是同一份请求，两边都记日志。你需要能事后拉出来对比：同一个问题，旗舰模型答了什么、国产模型答了什么、用户最终有没有投诉。 第三步：怎么用评测集判断能不能切？ 切之前，先准备 100 条覆盖你真实业务的测试用例，包括正常情况、边界情况、长输入。同一批用例分别跑旗舰模型和国产模型，按你自己的标准打分。如果国产模型在低风险档得分掉到旗舰的 90% 以下，说明这档暂时不能切，得等它迭代。 这个评测集要长期保留，每次模型升级都重跑——它就是你的切换闸门。 切国产模型最该警惕什么？ 切国产模型的最大风险不是质量，是合规和稳定性。国产模型在数据出境、内容审核上有额外要求，切之前确认你的业务数据不碰红线。另外国产模型之间 API 兼容度参差不齐，路由层要做错误兜底：国产模型超时或报错时，自动回退到旗舰模型，别让用户感知到。 Manus 都在适配国产模型，说明这条路已经被趟过一遍了。你现在切，是抄作业，不是开荒。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：国产模型灰度

引言 中文大语言模型在2026年迎来了爆发式发展。从智谱的GLM-5到阿里的Qwen 3，从DeepSeek-V4到百度的文心5.0，国产模型在中文理解、文化感知、专业领域知识等方面都取得了长足进步。本文将从多个维度对主流中文LLM进行深度对比。 参评模型 本次对比选取以下以中文能力见长的大语言模型： GLM-5 (智谱AI) — 2026年6月发布 Qwen 3 235B (阿里通义) — 2026年4月发布 DeepSeek-V4 (深度求索) — 2026年5月发布 文心 5.0 (百度) — 2026年3月发布 Spark 5.0 (讯飞星火) — 2026年5月发布 Baichuan 4 (百川智能) — 2026年4月发布 Moonshot v3 (月之暗面) — 2026年6月发布 中文理解能力 C-Eval 2026 C-Eval 2026是清华大学推出的中文综合评估基准，覆盖52个学科： GLM-5: 92.1% — 在法律、医学、中国历史等学科领先 Qwen 3 235B: 90.8% — 工程和技术类学科表现最佳 DeepSeek-V4: 88.3% — 数学和逻辑推理类突出 文心 5.0: 87.6% — 文学和哲学类表现优秀 Moonshot v3: 86.9% — 长文本理解优势明显 Spark 5.0: 84.2% Baichuan 4: 82.5% CMMLU 2026 CMMLU是另一个重要的中文多任务理解基准： ...

引言 中文大模型的能力评估远不止MMLU和C-Eval等标准化测试。真正的中文能力体现在对专业领域的深度理解、对中国文化语境的准确把握、以及对中文表达习惯的自然运用。本文设计了20个专业领域的深度测试，对2026年主流大模型进行全面的中文能力评估。 测试设计 20个专业领域 序号 领域 测试项数 评测维度 1 中国法律 50 法条引用准确性、案例分析合理性 2 中医中药 40 经典方剂、药理理解、诊疗逻辑 3 中国历史 50 史实准确性、因果分析、史料引用 4 古典文学 40 古文翻译、诗词鉴赏、文学理论 5 现代文学 30 作品分析、文学批评、创作模仿 6 财务会计 50 准则应用、分录编制、报表分析 7 税务筹划 40 税法理解、筹划方案、风险提示 8 医学诊断 50 症状分析、检查建议、治疗方案 9 药学知识 40 药物交互、剂量计算、不良反应 10 建筑工程 35 规范引用、结构计算、施工方案 11 电力系统 30 电网分析、故障诊断、调度方案 12 化学工程 35 反应机理、工艺设计、安全评估 13 农业技术 30 作物栽培、病虫害防治、土壤分析 14 教育学 40 教学设计、教育心理、评价方法 15 心理学 35 理论应用、案例分析、干预方案 16 新闻传播 30 选题策划、文案撰写、舆情分析 17 国际贸易 40 贸易规则、合同条款、风险控制 18 知识产权 35 专利分析、侵权判断、保护策略 19 中国方言 30 方言识别、翻译解释、文化背景 20 网络文化 25 流行语理解、梗文化、网络礼仪 评测模型 模型 定位 API来源 Qwen3.5 Max 阿里旗舰 阿里云 DeepSeek V4 推理旗舰 DeepSeek GLM-5-Plus 智谱旗舰 智谱AI GPT-5.5 OpenAI旗舰 OpenAI Claude Opus 4.1 Anthropic旗舰 Anthropic Gemini 3.5 Pro Google旗舰 Google Cloud Llama 4 405B Meta开源旗舰 Together AI 评测方法 每个领域的测试由3位领域专家独立评分： ...

V4 架构创新：从 MoE 到 Dynamic Sparse Attention DeepSeek V4 没有沿用 V3 的 Dense 架构，也没有简单跟随主流 MoE 路线，而是提出了Dynamic Sparse Attention (DSA) 机制——一种在注意力层面做动态稀疏化的方法。 传统 MoE 在 FFN 层做专家路由，每个 token 只激活部分参数。DSA 则在 attention 层引入类似思路：每个 token 动态选择与哪些历史 token 计算注意力，而非对全部上下文做 full attention。这使得 1M 上下文的推理成本从 O(n²) 降低到接近 O(n·log n)。 架构特性 V3 V4 注意力机制 Full Attention Dynamic Sparse Attention FFN 架构 Dense MoE (256 专家，激活 8) 参数总量 671B 892B 激活参数 671B (全激活) 37B (稀疏激活) 上下文窗口 128K 1M 训练 tokens 14.8T 22T V4 的总参数量达到 892B，但每次推理只激活 37B 参数——这意味着它的推理成本接近一个 37B 的 Dense 模型，但能力上限接近 892B 参数的模型。这是 MoE 架构的核心优势，V4 将这一优势从 FFN 层扩展到了 attention 层。 ...