Gemma

引言 Google在2026年2月发布了Gemma 3系列，这是其轻量级开源模型Gemma的第三代产品。Gemma系列一直定位为"可商用的轻量级模型"，面向端侧部署和本地运行场景。Gemma 3相比前代在性能、效率和生态上都有显著提升。本文将全面评测Gemma 3系列，特别是其在端侧设备上的表现。 产品线概览 Gemma 3系列包含5个规格： 模型 参数量 上下文 精度 定位 Gemma 3 27B 27B 128K FP16/INT8/INT4 桌面级旗舰 Gemma 3 12B 12B 128K FP16/INT8/INT4 笔记本主力 Gemma 3 7B 7B 64K FP16/INT8/INT4 通用端侧 Gemma 3 4B 4B 32K INT8/INT4 移动端 Gemma 3 1B 1B 8K INT4 IoT/嵌入式 核心架构 Gemma 3基于Google最新的Gemma 3架构改进： Transformer变体：采用Sliding Window Attention + Global Attention混合机制 RoPE位置编码：支持长上下文外推 分组查询注意力：减少推理计算量 INT4/INT8量化：原生支持多种精度 基准测试 Gemma 3 27B（端侧旗舰） 基准 Gemma 3 27B Llama 4 70B Qwen3.5 72B Mistral Large 3 MMLU-Pro 74.5% 76.2% 78.5% 75.8% HumanEval+ 82.5% 84.5% 87.2% 83.1% GPQA Diamond 48.3% 55.1% 58.3% 52.7% BBH 80.2% 82.1% 84.5% 82.3% Gemma 3 27B的性能接近Llama 4 70B和Qwen3.5 72B，但参数量仅为后者的1/3左右。这体现了Google在模型效率上的深厚功力。 ...

2026 年，一个反直觉的趋势正在席卷 AI 行业：3B 级别的小模型正在成为部署量最大的模型类别。从手机端实时翻译到 IoT 设备的语音助手，从浏览器内运行的代码补全到企业内部的低成本 Agent——小模型正在 quietly 重建 AI 的基础设施层。 一、为什么是 3B？ 3B 参数级模型在 2026 年崛起并非偶然，它恰好卡在三个关键交叉点： 显存友好：INT4 量化后仅占 ~1.5GB，可在 4GB 显存的消费级 GPU 甚至手机 NPU 上运行 速度够快：在 RTX 4060 上可达 120+ tokens/s，在 iPhone 16 Pro 上可达 30+ tokens/s 能力够用：经过高质量数据训练的 3B 模型在常见任务上已达到 2024 年 30B 模型的水平 二、2026 主流 3B 级模型横评 模型 参数量 MMLU-Pro HumanEval+ 训练数据量 许可证 Qwen3.5-3B 3.2B 72.3% 81.5% 15T Apache 2.0 Gemma 3-4B 3.8B 70.8% 79.2% 14T Gemma License Phi-4-mini 3.3B 71.5% 83.1% 9.8T（合成为主） MIT Llama 4 Tiny 3.5B 69.4% 77.8% 12T Llama License SmolLM3-3B 3.0B 66.2% 74.5% 8T Apache 2.0 GLM-5-Edge 3.1B 68.7% 76.3% 10T Apache 2.0 核心发现 Qwen3.5-3B 综合最强：中英双语场景的最佳选择 Phi-4-mini 代码最强：微软的合成数据策略在代码领域效果显著 Gemma 3-4B 推理最稳：谷歌的 Responsible AI 训练使幻觉率最低 SmolLM3-3B 最轻量：纯 3B 以下，适合极致资源受限场景 三、实用场景分析 场景一：端侧代码补全 Phi-4-mini 在 VS Code 中作为本地 Copilot 替代方案表现优异。在 1000 行文件中进行函数级补全，平均延迟仅 180ms（RTX 4060），接受率 62.3%——虽不及 GPT-5.5 的 78%，但对于离线/隐私场景已足够实用。 ...

Gemma 系列概览 Gemma 是 Google 基于 Gemini 技术推出的开源轻量级模型系列。与 Gemini 的闭源 API 不同，Gemma 面向开源社区，权重可下载、可本地部署、可商用。其定位是"开发者友好的 Gemini 同源技术"。 产品线演进 Gemma 1 (2024.02) Gemma 2 (2024.06) Gemma 3 (2025.03) ┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ 2B / 7B │ │ 2B / 9B / 27B│ │ 1B / 4B │ │ 文本 only │───→ │ 文本 only │───→ │ 12B / 27B │ │ 8K 上下文 │ │ 8K 上下文 │ │ 多模态(视觉) │ │ Gemma 许可 │ │ GQA 引入 │ │ 128K 上下文 │ └──────────────┘ └──────────────┘ └──────────────┘ Gemma 2 架构 Gemma 2 引入了多项与 Gemini 同源的架构改进： ...