文心一言5.0

文心一言5.0发布:多模态推理突破

ERNIE 5.0:百度的多模态推理之跃 2026年5月,百度在百度AI开发者大会上发布文心一言5.0(ERNIE 5.0)。与4.0版本相比,5.0最大的突破在多模态推理——不仅能看懂图片,还能对图片进行逻辑推理、数学计算和科学分析。 百度CTO王海峰在发布会上演示了一个场景:给ERNIE 5.0看一张物理实验照片,它不仅能识别实验器材,还能推导实验原理、计算物理量、预测实验结果。这种"看图推理"能力标志着多模态AI从"感知"走向了"认知"。 模型架构 统一多模态架构 ERNIE 5.0采用了"统一多模态"架构,与之前"语言模型+视觉编码器"的拼接方案有本质区别: 输入模态 → 统一Token化 → 共享Transformer主干 → 统一输出 关键设计: 1. 多模态统一Token化 文本:BPE分词 图像:动态分辨率Patch(最高4096x4096) 音频:WavLM特征 + 线性投影 视频:每帧图像Patch + 时序位置编码 表格:结构化序列编码 2. 视觉推理增强 ERNIE 5.0在Transformer主干中加入了"视觉推理模块"(VRM): class VisualReasoningModule(nn.Module): """ 在标准自注意力之上增加空间推理能力 """ def __init__(self, config): super().__init__() self.spatial_attention = SpatialAttention( num_heads=16, num_spatial_scales=4 # 多尺度空间注意力 ) self.relation_extractor = RelationExtractor( hidden_size=config.hidden_size, num_relation_types=128 # 空间关系类型 ) self.logic_units = LogicUnits( hidden_size=config.hidden_size, operations=["count", "compare", "deduce", "calculate"] ) def forward(self, image_tokens, text_tokens): # 1. 空间注意力:理解图像中的空间关系 spatial_features = self.spatial_attention(image_tokens) # 2. 关系提取:识别物体之间的关系 relations = self.relation_extractor(spatial_features) # 3. 逻辑推理:基于关系进行推理 reasoning_output = self.logic_units(relations, text_tokens) return reasoning_output 这种设计使得ERNIE 5.0能够进行: ...

2026-07-02 · 2 min · 317 words · 硅基 AGI 探索者
通义千问3企业版

通义千问3企业版:开源生态布局

通义千问3企业版:阿里云的AI生态战略 2026年6月,阿里云在云栖大会2026上发布了通义千问3企业版(Qwen3 Enterprise)。与消费级版本不同,企业版专注于私有部署、行业适配和开源生态建设——阿里云正在用"开源+企业服务"的双轮驱动策略,构建中国最大的AI生态。 模型规格 企业版模型矩阵 Qwen3 Enterprise不是单一模型,而是一个模型矩阵: 模型 参数量 激活参数 上下文 定位 Qwen3-Ent-72B 72B (Dense) 72B 128K 通用企业级 Qwen3-Ent-MoE-110B 110B 18B 256K 高性价比 Qwen3-Ent-MoE-320B 320B 35B 1M 旗舰版 Qwen3-Ent-VL-72B 72B + ViT 72B 128K 多模态 Qwen3-Ent-Coder-32B 32B 32B 128K 代码专用 企业可以根据自身需求选择不同规格。所有模型都支持私有部署,并提供完整的微调工具链。 技术架构 旗舰版Qwen3-Ent-MoE-320B的关键设计: qwen3_enterprise_config = { # MoE配置 "num_experts": 48, "experts_per_token": 5, "router_type": "noisy_top_k_gating", "load_balancing_loss": 0.01, # 注意力 "num_layers": 64, "hidden_size": 12288, "num_attention_heads": 96, "num_kv_heads": 8, # GQA 12:1 "head_dim": 128, # 上下文 "max_position_embeddings": 1048576, # 1M "rope_type": "dynamic_ntk", "rope_base": 1000000, # 词表 "vocab_size": 152000, # 中文优化 # 量化支持 "supported_precisions": ["fp16", "bf16", "int8", "int4"], "kv_cache_quantization": ["fp8", "int4"], } 开源策略 Qwen3的开源策略是其最大亮点: ...

2026-07-02 · 2 min · 355 words · 硅基 AGI 探索者
GLM-5系列评测

GLM-5系列评测:智谱AI的全栈实力

引言 智谱AI是国内最早的大模型创业公司之一,其GLM系列一直备受关注。2026年1月,智谱发布了GLM-5系列,这是其旗舰模型的重大升级。GLM-5在保持强大中文能力的同时,在推理、多模态和Agent能力上都有显著提升。本文将对GLM-5系列进行全面评测。 产品线概览 GLM-5系列包含多个版本: 模型 参数量 架构 上下文 定价 GLM-5-Plus ~130B MoE MoE 256K $0.6/$2 per 1M GLM-5 ~130B MoE MoE 256K $0.4/$1.2 per 1M GLM-5-Long ~130B MoE MoE 1M $0.8/$2.4 per 1M GLM-5-4B 4B Dense 128K $0.05/$0.1 per 1M GLM-5-1B 1B Dense 32K 开源免费 核心技术 1. GLM-5 MoE架构 GLM-5采用MoE架构,核心技术特点: 双路径注意力:Dual Attention Mechanism,同时处理短程和长程依赖 词元变换:Token-level Transform,优化稀有词元的表示 长上下文:支持1M上下文版本,适用于超长文档处理 2. 多模态能力 GLM-5实现了端到端的多模态理解: 图像、文档、视频帧的统一理解 原生支持中文OCR和手写识别 多轮多模态对话 3. Agent框架 GLM-5内置了智谱自研的Agent框架: 内置工具调用和代码执行 支持多Agent协作 记忆和知识图谱整合 基准测试 通用能力 基准 GLM-5-Plus GLM-5 GPT-5.5 Qwen3.5 Max DeepSeek V4 MMLU-Pro 85.2% 83.5% 87.3% 82.1% 83.2% C-Eval 89.2% 88.5% 86.2% 90.3% 89.7% CMMLU 88.5% 87.2% 83.1% 89.1% 88.3% BBH 84.5% 83.2% 89.2% 81.5% 86.5% GLM-5在中文基准上表现出色,仅次于Qwen3.5 Max。Plus版本在英文MMLU-Pro上达到85.2%,已进入第一梯队。 ...

2026-06-30 · 2 min · 339 words · 硅基 AGI 探索者
Qwen3.5发布评测

Qwen3.5发布评测:通义千问的全栈布局

引言 2026年3月,阿里云通义千问发布了Qwen3.5系列,这是继Qwen3之后的重大升级。Qwen3.5系列最引人注目的不是单一模型的性能,而是其覆盖从0.5B到千亿参数的全栈产品线布局。从端侧到云端,从通用到专业,Qwen3.5构建了一个完整的大模型生态。本文将对Qwen3.5系列进行全面评测,重点关注其差异化竞争力。 产品线概览 Qwen3.5系列包含多个规格,满足不同场景需求: 模型 参数量 上下文 定位 开源 Qwen3.5 Max ~600B (MoE) 256K 旗舰模型 否 Qwen3.5 Plus ~110B 128K 高性能主力 否 Qwen3.5 Turbo ~30B 128K 高性价比 否 Qwen3.5 72B 72B 128K 开源旗舰 是 Qwen3.5 14B 14B 64K 中型开源 是 Qwen3.5 7B 7B 32K 通用开源 是 Qwen3.5 3B 3B 32K 端侧部署 是 Qwen3.5 0.5B 0.5B 8K IoT/嵌入式 是 这种"全覆盖"的产品策略使Qwen3.5能够服务于从云端API到手机端侧的完整场景。 Qwen3.5 Max 旗舰评测 通用基准 MMLU-Pro: Qwen3.5 Max:82.1% GPT-5.5:87.3% DeepSeek V4:83.2% Claude Opus 4.1:85.7% C-Eval(中文综合评测): ...

2026-06-30 · 2 min · 343 words · 硅基 AGI 探索者
DeepSeek V4完整评测

DeepSeek V4完整评测:国产大模型的崛起

引言 2026年2月,DeepSeek发布了V4系列模型,延续了一贯的"高性能+极致性价比"策略。作为2025年轰动全球的DeepSeek V3的继任者,V4在架构创新、推理能力和多语言理解上都有重大突破。本文将从多个维度对DeepSeek V4进行全面评测,深入分析这款代表国产大模型最高水准的作品。 模型架构与规格 核心架构 DeepSeek V4采用了全新的MoE(Mixture of Experts)架构: 参数 DeepSeek V4 DeepSeek V3 总参数量 671B 671B 激活参数 37B 37B 专家数量 256 256 共享专家 4 2 上下文窗口 256K tokens 128K tokens 最大输出 16K tokens 8K tokens 知识截止 2026年1月 2025年7月 V4保持了与V3相同的总参数量和激活参数,但通过架构优化实现了更强的能力。这种"参数不变、能力提升"的策略体现了DeepSeek在训练效率上的持续进步。 MLA 2.0 V4引入了升级版的多头潜在注意力(MLA 2.0): KV缓存压缩:比V3进一步减少35%的KV缓存大小 长序列效率:在256K上下文下推理速度提升28% 质量保持:信息损失比V3降低50% 推理模式 DeepSeek V4提供三种推理模式: Fast模式:快速响应,适合日常对话 Reasoning模式:深度思考,对标o3和GPT-5.5 Reasoning DeepSeek-R2模式:超深度推理,专为复杂数学和科学问题设计 基准测试 通用能力 MMLU-Pro: DeepSeek V4:83.2% GPT-5.5:87.3% Claude Opus 4.1:85.7% Qwen3.5 Max:82.1% BBH(BigBench Hard): DeepSeek V4:86.5% GPT-5.5:89.2% Claude Opus 4.1:87.8% 在通用知识理解上,DeepSeek V4已经非常接近第一梯队,差距从V3时期的5-8%缩小到2-4%。 ...

2026-06-30 · 2 min · 312 words · 硅基 AGI 探索者
glm5 series deep evaluation zhipu fullstack

GLM-5 系列深度评测:智谱的全栈布局

2026 年,智谱 AI 的 GLM-5 系列已发展为一个覆盖 3B 到 130B、通用到专业、文本到多模态的完整模型家族。作为中国大模型阵营的代表力量之一,GLM-5 系列在开源生态、Agent 能力和多模态领域展现出独特竞争力。本文将对 GLM-5 全系列进行深度评测,揭示其在国产大模型中的真实定位。 一、GLM-5 系列全景 模型 参数量 类型 上下文 许可证 定位 GLM-5-Plus 130B 通用 128K 开源 旗舰 GLM-5-Base 62B 通用 128K 开源 标准 GLM-5-Edge 3.1B 轻量 32K 开源 端侧 GLM-5-Vision 130B 多模态 64K 开源 视觉 GLM-5-Coder 62B 代码 128K 开源 编程 GLM-5-Agent 62B Agent 128K 开源 工具调用 GLM-5-Reasoner 62B 推理 64K 开源 深度思考 智谱的布局策略清晰:以 62B 为基础尺寸,衍生出不同专业能力的变体,130B 作为旗舰,3B 覆盖端侧。这种"一树多枝"的策略使微调和部署成本大幅降低。 二、基础能力评测 通用能力(GLM-5-Plus vs 竞品) 基准 GLM-5-Plus DeepSeek V4 Qwen3.5-72B Llama 4 Maverick MMLU-Pro 87.3 90.2 89.5 88.1 C-Eval Pro 92.5 93.1 92.8 85.7 CMMLU 2.0 90.8 91.5 90.2 83.5 GPQA Diamond 72.6 78.3 76.1 74.5 MATH-500 75.2 82.6 80.3 77.8 分析:GLM-5-Plus 在中文基准上与 DeepSeek V4 差距仅 0.6-1 分,但在推理类基准(GPQA、MATH)上差距较大(6-7 分)。这表明 GLM-5 的知识覆盖优秀但深度推理仍是弱项。 ...

2026-06-28 · 3 min · 449 words · 硅基 AGI 探索者
鲁ICP备2026018361号