Qwen

两个突破，一条主线 2026年8月第二周，国产AI同时在两个方向取得突破：阿里首次开源Max级旗舰模型权重，字节跳动推出原生实时多模态模型。看似不同赛道，背后是同一条主线——国产AI正在从"追赶"走向"定义"。 一、Qwen3.8 Max：2.4万亿参数首次开源 8月10日当周，阿里巴巴正式开源Qwen3.8-Max旗舰模型权重（Qwen3.8-2.4T-A95B）。 这是千问Max级别旗舰模型首次对外开源。 核心参数 指标 数值 总参数 2.4万亿（2.4T） 架构 稀疏MoE 单次激活 ~950亿参数（95B） Artificial Analysis智能指数 58 编程指数 71.8 开源意味着什么 此前Max级模型只有API调用，这次开放权重意味着： 企业可以本地部署：数据不出内网，合规无忧 研究者可以微调：在旗舰模型上做领域适配 生态效应：吸引更多开发者围绕Qwen构建工具链 配套发布 Qwen3.8-27B开放权重预计8月15日上线ModelScope。中小参数版本适合资源有限的团队，与Max版本形成梯度。 对开源生态的影响 国产开源模型已经形成清晰梯队： Qwen3.8 Max (2.4T) — 旗舰，企业级部署 Qwen3.8 27B — 中型，中小团队微调首选 DeepSeek V4 Flash — 轻量，大规模推理 开源不是慈善——是生态卡位。谁的模型被最多人用，谁就定义下一轮技术标准。 二、字节SeedRealtime：AI开始真正"看、听、说" 8月11日，字节跳动推出SeedRealtime模型。 核心能力 原生支持音视频全双工交互——可以同时处理视觉、听觉等输入，并进行实时输出。 过去的多模态AI更像流水线： 视频 → 视觉模型 → 文本理解 → 语言模型 → 语音生成 → 输出 SeedRealtime是原生端到端： 音视频输入 → 实时输出（延迟毫秒级） 这意味着什么 实时对话：你可以直接对着摄像头说话，AI同时看你的表情、听你的声音、实时回复 直播场景：AI可以成为真正的直播主持，与观众实时互动 教育场景：AI家教可以看学生做题过程，实时指导 客服场景：视频客服不再是"录制+播放"，而是真正的实时对话 与竞品对比 指标 SeedRealtime GPT-5 Realtime Gemini Live 音视频同时输入 ✅ 原生 ✅ 部分 延迟 毫秒级 ~300ms ~500ms 中文支持 原生 良好 一般 开放程度 API调用 API调用 API调用 字节在中文实时多模态赛道上有明显优势——中文语音识别和生成是字节的看家本领。 ...

引言：小模型的时代来了 2026年，一个反直觉的趋势正在发生：参数量1B-7B的小模型正在快速蚕食大模型的应用场景。Phi-4-mini、Qwen3-4B、Gemma 3-2B等模型在经过精心训练和量化后，能力已经超越了2023年的70B级模型。更重要的是——它们能在手机、笔记本、甚至Raspberry Pi上运行。 小模型能力跃升的秘密 1. 高质量合成数据训练 微软Phi系列率先证明了"数据质量比数据量更重要"的理念。Phi-4-mini仅3.8B参数，却通过精心筛选的合成数据训练，在MMLU上达到了72.4分，超过了2023年的Llama 2-70B。 2. 知识蒸馏 从大模型向小模型蒸馏知识，是提升小模型能力的核心手段： # 知识蒸馏简化示例 - 从Qwen3-72B蒸馏到Qwen3-4B import torch from transformers import AutoModelForCausalLM, AutoTokenizer teacher = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-72B") student = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-4B") # 蒸馏损失函数 def distillation_loss(student_logits, teacher_logits, labels, alpha=0.7, temperature=2.0): # KL散度损失 - 学习教师的软标签 kl_loss = torch.nn.functional.kl_div( torch.nn.functional.log_softmax(student_logits / temperature, dim=-1), torch.nn.functional.softmax(teacher_logits / temperature, dim=-1), reduction="batchmean", ) * (temperature ** 2) # 标准交叉熵损失 ce_loss = torch.nn.functional.cross_entropy( student_logits.view(-1, student_logits.size(-1)), labels.view(-1) ) return alpha * kl_loss + (1 - alpha) * ce_loss 3. 架构优化 小模型采用了多项架构创新来提升效率： GQA（分组查询注意力）：减少KV缓存内存占用 RoPE扩展：支持更长上下文 SwiGLU激活：比传统ReLU更高效 边缘端部署性能对比 模型 参数量 INT4量化后大小 手机端推理速度 MMLU分数 Phi-4-mini 3.8B 2.1GB 18 tokens/s 72.4 Qwen3-4B 4.0B 2.3GB 16 tokens/s 74.1 Gemma3-2B 2.0B 1.4GB 32 tokens/s 68.3 Llama4-1B 1.2B 0.8GB 55 tokens/s 59.7 测试设备：iPhone 16 Pro（A18 Pro芯片），MLX推理框架 ...

开源模型的黄金时代 2026年，开源大模型已经不再是闭源模型的"平替"——在很多维度上，顶级开源模型已经追平甚至超越同代闭源模型。三大阵营各有千秋，形成了真正的三足鼎立格局。 Meta Llama系列：生态标杆 技术路线 Llama系列坚持稠密Transformer架构，通过大规模数据+ Scaling Law驱动能力提升。Llama-4引入了原生多模态和长上下文（1M tokens），在推理基准上达到GPT-4级别。 优势 生态最成熟：社区工具链最完整，从训练到部署有完整方案 许可证友好：Llama许可证允许商用（用户量限制逐步放宽） 变体丰富：1B到400B多规格覆盖从边缘到数据中心 量化生态好：GPTQ、AWQ、GGUF格式支持最完整 局限 中文能力相对偏弱（训练语料以英文为主） 大尺寸版本硬件需求高 闭源模型同源技术，可能有OpenAI API兼容性问题 阿里Qwen系列：中文之王 技术路线 Qwen走"多尺寸+多模态+专精化"路线。Qwen-3系列覆盖0.5B到110B，每个尺寸都有Base和Instruct版本，外加专门的Coder、Math、VL变体。 优势 中文能力最强：在C-Eval、CMMLU等中文基准上持续领先 多模态原生：Qwen-VL在视觉理解任务上表现突出 部署友好：提供GGUF、MLX等多种推理格式 全栈覆盖：从文字到代码到数学到视觉，每条线都有专精模型 局限 社区生态不如Llama丰富（西方开发者优先支持Llama） 许可证对大规模商用有一定限制 小尺寸版本能力上限有限 DeepSeek系列：效率之王 技术路线 DeepSeek走技术创新驱动路线，核心创新包括： MoE架构：DeepSeek-V3/V4采用DeepSeekMoE，稀疏激活 MLA注意力：Multi-head Latent Attention大幅压缩KV Cache 多Token预测（MTP）：训练时预测多个未来token，推理时可做投机解码 极致性价比：以远低于同行的训练成本达到同等能力 优势 推理能力突出：在数学和代码基准上持续领先 推理效率极高：MLA+MoE让推理成本远低于同参数稠密模型 API价格极低：DeepSeek API定价远低于竞品 技术创新活跃：不断推出原创架构创新 局限 模型尺寸选择较少（主要集中在大尺寸） 多模态能力起步较晚 社区工具链适配不如Llama 能力对比矩阵 维度 Llama-4 Qwen-3 DeepSeek-V4 英文能力 ★★★★★ ★★★★ ★★★★ 中文能力 ★★★ ★★★★★ ★★★★ 代码能力 ★★★★ ★★★★ ★★★★★ 数学推理 ★★★★ ★★★★ ★★★★★ 多模态 ★★★★ ★★★★★ ★★★ 推理成本 ★★★ ★★★ ★★★★★ 部署便捷性 ★★★★★ ★★★★ ★★★ 选型指南 按场景选型 通用对话助手 ...

开源模型的黄金时代 2026年的开源大模型生态已经形成了前所未有的繁荣局面。Meta的Llama系列、阿里的Qwen系列、DeepSeek系列构成了开源模型的三足鼎立格局。本文从技术架构、性能表现、生态支持三个维度进行深度对比分析。 三大开源模型系列概览 Meta Llama系列 Llama系列的发展轨迹代表了开源大模型的标准范式： Llama 3.1/3.3：标准Dense Transformer架构，405B参数版本在多项基准上接近GPT-4 Llama 4：引入MoE架构，采用16个专家中激活2个的稀疏路由，总参数500B+，激活参数约30B Llama 4的MoE架构设计值得关注：它采用了细粒度专家划分，每个专家参数量较小但专家数量多，这种设计在保持推理效率的同时提高了模型容量。 阿里Qwen系列 Qwen系列在2026年已经发展到Qwen 3： Qwen3-235B：MoE架构，22B激活参数，在中文理解和代码生成上表现突出 Qwen3-VL：原生多模态支持，图像理解能力接近GPT-4o Qwen3-Coder：专门针对代码生成优化，支持128K上下文 Qwen系列的差异化优势在于中文原生支持和长上下文处理能力。其tokenizer针对中文做了深度优化，中文压缩比优于Llama系列约30%。 DeepSeek系列 DeepSeek以技术报告的透明度和工程创新著称： DeepSeek-V3：671B总参数，37B激活，采用MLA（Multi-head Latent Attention）降低KV Cache DeepSeek-R1：推理增强版本，通过强化学习训练，数学推理能力接近o1 DeepSeek-Coder-V3：代码专用，在HumanEval上达到96.3% DeepSeek的MLA机制是对注意力计算的创新：将K/V投影到低维潜在空间，大幅减少KV Cache的显存占用，同时保持注意力质量。 技术架构对比 维度 Llama 4 Qwen3-235B DeepSeek-V3 架构 MoE (16E/2A) MoE (128E/8A) MoE (256E/8A) 总参数 500B+ 235B 671B 激活参数 ~30B ~22B ~37B 注意力机制 GQA GQA MLA 上下文长度 256K 128K 128K 训练tokens 15T+ 18T+ 14.8T 多语言 8语言 29语言 中英为主 注意力机制差异 DeepSeek的MLA是最具创新性的架构差异： # 标准GQA：每个group共享K/V # KV Cache: n_groups * d_head * seq_len # MLA：K/V压缩到低维潜在空间 class MultiHeadLatentAttention(nn.Module): def __init__(self, d_model, d_kv_compress=512): self.W_DKV = nn.Linear(d_model, d_kv_compress) # 下采样 self.W_UK = nn.Linear(d_kv_compress, d_model) # 上采样K self.W_UV = nn.Linear(d_kv_compress, d_model) # 上采样V # KV Cache只需存储压缩后的表示 MLA使DeepSeek-V3的KV Cache大小减少约93%，在长上下文场景中优势明显。 ...

开源模型的2026年格局 2026年的开源大模型生态已经与两年前截然不同。曾经"开源打不过闭源"的论调正在被推翻——至少在某些垂直领域。让我们来看看当前的竞争格局。 第一梯队：全能选手 Llama 4（Meta） 作为开源阵营的旗舰，Llama 4采用了MoE架构，总参数量达到万亿级别但活跃参数仅约400B。在MMLU、HumanEval等标准基准上，Llama 4已经逼近GPT-4.5水平。其最大的优势在于完全开放的权重和宽松的许可协议，使其成为企业自建基础设施的首选。 Qwen 3（阿里） Qwen系列在2026年迎来了第三代。Qwen3-235B-A22B采用MoE架构，在中文理解、代码生成和数学推理上表现尤为突出。在C-Eval和CMMLU等中文基准上，Qwen3已经超越GPT-4.5。其多模态版本Qwen3-VL在文档理解和图表分析方面也处于开源模型领先地位。 DeepSeek-V3.5 DeepSeek延续了其在推理能力上的优势。V3.5版本在MATH和GSM8K等数学推理基准上得分接近GPT-5水平，且训练成本仅为同级模型的1/5。DeepSeek的独特价值在于证明了高质量推理模型不一定需要天价算力。 第二梯队：专精选手 Mistral Large 3 在欧洲市场占据主导地位，合规优势明显。在多语言处理和代码生成方面表现出色，但在复杂推理上仍与第一梯队有差距。 Gemma 3（Google） 轻量级选手中的王者。Gemma 3 27B在同等参数量级的模型中几乎无对手，是边缘部署和移动端推理的最佳选择。 Yi-2（零一万物） 在创意写作和中文文化理解上有独特优势，但通用能力与第一梯队仍有差距。 开源 vs 闭源的真实差距 尽管开源模型取得了巨大进步，但我们仍需客观看待差距： 在纯推理能力上，GPT-5和Claude 4仍然领先开源模型约半个到一个身位，特别是在长链推理和复杂指令遵循方面。 在多模态能力上，闭源模型的优势更为明显。GPT-5的视觉理解和音频处理能力仍然是目前开源模型难以企及的。 在工具使用和Agent能力上，闭源模型经过大量RLHF对齐训练，在工具调用准确率和复杂任务规划上更加可靠。 但开源模型的优势在于可控性、成本和数据隐私。对于大多数企业应用场景，开源模型已经"够用"，且在特定垂直领域通过微调可以超越通用闭源模型。 2026下半年展望 几个值得关注的趋势： MoE架构普及：几乎所有新开源模型都在转向MoE，这大幅降低了推理成本。 推理时计算Scaling：DeepSeek-R1开创的推理时计算范式正在被更多开源模型采用。 多模态融合：开源模型正在快速追赶闭源模型的多模态能力，预计下半年差距会显著缩小。 小模型大能力：通过知识蒸馏和架构优化，7B-14B参数的模型正在达到两年前70B模型的水平。 开源不会杀死闭源，但会让闭源不得不更快创新。这场竞争的最终受益者是所有开发者和用户。 本文同步发布于 硅基AGI论坛

开源模型的2026年格局 2026年的开源大模型生态已经与两年前截然不同。曾经"开源打不过闭源"的论调正在被推翻——至少在某些垂直领域。让我们来看看当前的竞争格局。 第一梯队：全能选手 Llama 4（Meta） 作为开源阵营的旗舰，Llama 4采用了MoE架构，总参数量达到万亿级别但活跃参数仅约400B。在MMLU、HumanEval等标准基准上，Llama 4已经逼近GPT-4.5水平。其最大的优势在于完全开放的权重和宽松的许可协议，使其成为企业自建基础设施的首选。 Qwen 3（阿里） Qwen系列在2026年迎来了第三代。Qwen3-235B-A22B采用MoE架构，在中文理解、代码生成和数学推理上表现尤为突出。在C-Eval和CMMLU等中文基准上，Qwen3已经超越GPT-4.5。其多模态版本Qwen3-VL在文档理解和图表分析方面也处于开源模型领先地位。 DeepSeek-V3.5 DeepSeek延续了其在推理能力上的优势。V3.5版本在MATH和GSM8K等数学推理基准上得分接近GPT-5水平，且训练成本仅为同级模型的1/5。DeepSeek的独特价值在于证明了高质量推理模型不一定需要天价算力。 第二梯队：专精选手 Mistral Large 3 在欧洲市场占据主导地位，合规优势明显。在多语言处理和代码生成方面表现出色，但在复杂推理上仍与第一梯队有差距。 Gemma 3（Google） 轻量级选手中的王者。Gemma 3 27B在同等参数量级的模型中几乎无对手，是边缘部署和移动端推理的最佳选择。 Yi-2（零一万物） 在创意写作和中文文化理解上有独特优势，但通用能力与第一梯队仍有差距。 开源 vs 闭源的真实差距 尽管开源模型取得了巨大进步，但我们仍需客观看待差距： 在纯推理能力上，GPT-5和Claude 4仍然领先开源模型约半个到一个身位，特别是在长链推理和复杂指令遵循方面。 在多模态能力上，闭源模型的优势更为明显。GPT-5的视觉理解和音频处理能力仍然是目前开源模型难以企及的。 在工具使用和Agent能力上，闭源模型经过大量RLHF对齐训练，在工具调用准确率和复杂任务规划上更加可靠。 但开源模型的优势在于可控性、成本和数据隐私。对于大多数企业应用场景，开源模型已经"够用"，且在特定垂直领域通过微调可以超越通用闭源模型。 2026下半年展望 几个值得关注的趋势： MoE架构普及：几乎所有新开源模型都在转向MoE，这大幅降低了推理成本。 推理时计算Scaling：DeepSeek-R1开创的推理时计算范式正在被更多开源模型采用。 多模态融合：开源模型正在快速追赶闭源模型的多模态能力，预计下半年差距会显著缩小。 小模型大能力：通过知识蒸馏和架构优化，7B-14B参数的模型正在达到两年前70B模型的水平。 开源不会杀死闭源，但会让闭源不得不更快创新。这场竞争的最终受益者是所有开发者和用户。 本文同步发布于 硅基AGI论坛

引言 2026年3月，阿里云通义千问发布了Qwen3.5系列，这是继Qwen3之后的重大升级。Qwen3.5系列最引人注目的不是单一模型的性能，而是其覆盖从0.5B到千亿参数的全栈产品线布局。从端侧到云端，从通用到专业，Qwen3.5构建了一个完整的大模型生态。本文将对Qwen3.5系列进行全面评测，重点关注其差异化竞争力。 产品线概览 Qwen3.5系列包含多个规格，满足不同场景需求： 模型 参数量 上下文 定位 开源 Qwen3.5 Max ~600B (MoE) 256K 旗舰模型 否 Qwen3.5 Plus ~110B 128K 高性能主力 否 Qwen3.5 Turbo ~30B 128K 高性价比 否 Qwen3.5 72B 72B 128K 开源旗舰 是 Qwen3.5 14B 14B 64K 中型开源 是 Qwen3.5 7B 7B 32K 通用开源 是 Qwen3.5 3B 3B 32K 端侧部署 是 Qwen3.5 0.5B 0.5B 8K IoT/嵌入式 是 这种"全覆盖"的产品策略使Qwen3.5能够服务于从云端API到手机端侧的完整场景。 Qwen3.5 Max 旗舰评测 通用基准 MMLU-Pro： Qwen3.5 Max：82.1% GPT-5.5：87.3% DeepSeek V4：83.2% Claude Opus 4.1：85.7% C-Eval（中文综合评测）： ...

Mixture of Experts（MoE）已成为 2026 年大模型架构的事实标准。从 DeepSeek V4 的 256 专家设计到 Llama 4 Behemoth 的 16 专家稀疏路由，三大开源旗舰代表了 MoE 架构的三种不同哲学。本文将从架构细节、路由策略、推理效率与实际性能四个维度进行深度技术对比。 一、架构概览 维度 DeepSeek V4 (671B) Qwen3.5-Max (480B) Llama 4 Behemoth (2T) 总参数 671B 480B ~2T 激活参数 37B 42B ~120B 专家数量 256（共享+路由） 128（纯路由） 16（稀疏） 激活专家数 8 4 2 注意力机制 MLA GQA GQA 层数 61 64 96 隐藏维度 7168 6144 16384 训练数据 22T 18T 30T+ 二、路由机制深度解析 DeepSeek V4：细粒度专家 + 共享专家 DeepSeek V4 延续并升级了 V3 的架构理念，采用 256 个细粒度专家 + 2 个共享专家的设计： ...

2026 年中，开源大模型阵营迎来了前所未有的繁荣。DeepSeek V4、Qwen3.5、Llama 4 系列三足鼎立，GLM-5、Mistral Large 3、Gemma 3 各有特色。开源与闭源的差距是否在缩小？本文将通过系统性评测给出答案。 一、评测方法论 本次排行基于以下六项核心基准： MMLU-Pro：学术综合能力（57 学科） GPQA Diamond：研究生级问答 SWE-Bench Pro：软件工程能力 HumanEval+：代码生成 MATH-500：数学推理 LongBench v2：长上下文理解 所有测试均在相同硬件条件下进行，使用 vLLM 推理引擎，贪婪解码，温度设为 0。 二、2026 中期开源模型排行榜 排名 模型 综合分 MMLU-Pro GPQA SWE-Bench Pro HumanEval+ MATH-500 1 DeepSeek V4 (671B) 82.1 90.2 78.3 38.5 94.1 82.6 2 Qwen3.5-72B 80.7 89.5 76.1 35.2 93.8 80.3 3 Llama 4 Maverick (400B MoE) 79.3 88.1 74.5 32.8 92.3 77.8 4 GLM-5-Plus (130B) 77.8 87.3 72.6 30.1 91.5 75.2 5 DeepSeek V4-Lite (236B) 76.5 86.8 71.2 28.7 90.8 73.5 6 Mistral Large 3 (123B) 75.2 85.9 69.8 27.3 89.7 71.8 7 Qwen3.5-32B 74.8 85.1 68.5 26.1 89.2 70.3 8 Llama 4 Scout (109B) 73.5 84.3 67.2 24.8 88.1 68.7 9 Gemma 3-27B 71.2 82.6 64.8 21.5 86.3 65.4 10 Phi-4 (14B) 68.7 80.3 61.5 18.2 84.5 62.1 三、与闭源模型的差距分析 以三大闭源旗舰为参照线： ...

2026 年，一个反直觉的趋势正在席卷 AI 行业：3B 级别的小模型正在成为部署量最大的模型类别。从手机端实时翻译到 IoT 设备的语音助手，从浏览器内运行的代码补全到企业内部的低成本 Agent——小模型正在 quietly 重建 AI 的基础设施层。 一、为什么是 3B？ 3B 参数级模型在 2026 年崛起并非偶然，它恰好卡在三个关键交叉点： 显存友好：INT4 量化后仅占 ~1.5GB，可在 4GB 显存的消费级 GPU 甚至手机 NPU 上运行 速度够快：在 RTX 4060 上可达 120+ tokens/s，在 iPhone 16 Pro 上可达 30+ tokens/s 能力够用：经过高质量数据训练的 3B 模型在常见任务上已达到 2024 年 30B 模型的水平 二、2026 主流 3B 级模型横评 模型 参数量 MMLU-Pro HumanEval+ 训练数据量 许可证 Qwen3.5-3B 3.2B 72.3% 81.5% 15T Apache 2.0 Gemma 3-4B 3.8B 70.8% 79.2% 14T Gemma License Phi-4-mini 3.3B 71.5% 83.1% 9.8T（合成为主） MIT Llama 4 Tiny 3.5B 69.4% 77.8% 12T Llama License SmolLM3-3B 3.0B 66.2% 74.5% 8T Apache 2.0 GLM-5-Edge 3.1B 68.7% 76.3% 10T Apache 2.0 核心发现 Qwen3.5-3B 综合最强：中英双语场景的最佳选择 Phi-4-mini 代码最强：微软的合成数据策略在代码领域效果显著 Gemma 3-4B 推理最稳：谷歌的 Responsible AI 训练使幻觉率最低 SmolLM3-3B 最轻量：纯 3B 以下，适合极致资源受限场景 三、实用场景分析 场景一：端侧代码补全 Phi-4-mini 在 VS Code 中作为本地 Copilot 替代方案表现优异。在 1000 行文件中进行函数级补全，平均延迟仅 180ms（RTX 4060），接受率 62.3%——虽不及 GPT-5.5 的 78%，但对于离线/隐私场景已足够实用。 ...