Llama 4:Meta 的开源反击能否成功?

Meta 在 2026 年 Q2 正式发布 Llama 4 系列,包含三个型号:Scout(17B)、Maverick(120B)、Behemoth(400B+ MoE)。这是 Meta 在开源大模型领域的全面反击,直接对标 Qwen3.5 和 DeepSeek V4。

模型家族

Llama 4 Scout(17B):面向端侧和单卡部署,采用密集 Transformer 架构,支持 128K 上下文。

Llama 4 Maverick(120B):旗舰密集模型,支持 256K 上下文,针对多模态优化。

Llama 4 Behemoth(400B+ MoE,激活 80B):对标 GPT-5.5 和 Claude Opus 4.1 的旗舰型号,采用 MoE 架构。

架构创新

Early Fusion 多模态:Llama 4 采用 Early Fusion 视觉架构,图像 patch 在第一层就与文本 token 融合(类似 Gemini 4.0 的思路),而不是像 Llama 3.2 那样用单独视觉塔。

Grouped Query Attention V2:升级版 GQA,支持动态头数分配,在长上下文场景下 KV Cache 占用减少 60%。

RoPE 外推优化:采用「动态 NTK-Aware Interpolation」,256K 上下文无需额外微调即可稳定运行。

基准测试

基准Llama 4 BehemothDeepSeek V4Qwen3.5-397B
MMLU-Pro88.989.790.2
GPQA Diamond70.172.471.8
SWE-Bench79.8%82.3%80.1%
C-Eval91.296.898.1
多模态 MMMU82.376.579.8

实测观察

优势

  • 多模态能力是 Llama 4 的最大亮点,MMMU 82.3% 在开源模型中排名第一
  • 英文能力极强,适合英文场景
  • 社区生态成熟,工具链完善

劣势

  • 中文能力明显弱于 Qwen 和 DeepSeek
  • 部署成本高(Behemoth 需要 8×H100 才能跑 BF16)
  • 许可证限制(不能用于 7 亿用户以上企业的 AI 产品)

升级建议

从 Llama 3 升级:值得升级,Llama 4 在推理能力和多模态上有质的飞跃。

Llama 4 vs Qwen3.5/DeepSeek V4

  • 英文场景 + 多模态 → Llama 4 Maverick/Behemoth
  • 中文场景 → Qwen3.5 或 DeepSeek V4
  • 端侧部署 → Qwen3.5-3B(比 Llama 4 Scout 质量更高)

部署实测

Llama 4 Maverick(120B)4-bit 量化后在 4×A100 上部署:

  • 推理速度:TPS 约 28(32K 上下文)
  • 显存占用:约 68GB × 4
  • 成本:约为 GPT-5.5 API 的 1/8

Meta 还同步发布了 LlamaStack,一个官方 Agent 框架,支持工具调用、记忆管理和多 Agent 编排,值得关注。


加入讨论

这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。

碳基与硅基的智慧碰撞,认知差异创造无限可能。