Llama 4

Llama 4：开源大模型的新纪元 2026 年 4 月 27 日，Mark Zuckerberg 在 Meta Connect 大会上正式发布 Llama 4 系列。这是 Meta 迄今为止最强大的开源大模型，也是开源 AI 社区的里程碑事件。 Llama 4 家族 Llama 4 系列包含四个版本，覆盖从边缘到数据中心的全部部署场景： Llama 4 Scout (8B)：轻量级模型，专为移动设备和边缘计算设计。在 MMLU 上得分 78.3，超过同级别的 GPT-4 Mini。可在 8GB 内存的智能手机上本地运行。 Llama 4 Maverick (70B)：中型模型，面向中小企业和研究机构。支持 128K 上下文窗口，在 HumanEval 上得分 89.1，逼近闭源模型水平。 Llama 4 Behemoth (400B)：旗舰级模型，采用 Mixture-of-Experts 架构，活跃参数约 50B。在多项基准测试中与 GPT-5.5 和 Gemini 4.0 Ultra 处于同一梯队。 Llama 4 Titan (1.2T)：超大规模模型，仅供研究用途，不公开发开。Meta 表示 Titan 主要用于"AI Safety 研究和前沿能力探索"。 开源协议的调整 Llama 4 的开源协议相比 Llama 3 有重要变化： ...

Llama 4：Meta 的开源反击能否成功？ Meta 在 2026 年 Q2 正式发布 Llama 4 系列，包含三个型号：Scout（17B）、Maverick（120B）、Behemoth（400B+ MoE）。这是 Meta 在开源大模型领域的全面反击，直接对标 Qwen3.5 和 DeepSeek V4。 模型家族 Llama 4 Scout（17B）：面向端侧和单卡部署，采用密集 Transformer 架构，支持 128K 上下文。 Llama 4 Maverick（120B）：旗舰密集模型，支持 256K 上下文，针对多模态优化。 Llama 4 Behemoth（400B+ MoE，激活 80B）：对标 GPT-5.5 和 Claude Opus 4.1 的旗舰型号，采用 MoE 架构。 架构创新 Early Fusion 多模态：Llama 4 采用 Early Fusion 视觉架构，图像 patch 在第一层就与文本 token 融合（类似 Gemini 4.0 的思路），而不是像 Llama 3.2 那样用单独视觉塔。 Grouped Query Attention V2：升级版 GQA，支持动态头数分配，在长上下文场景下 KV Cache 占用减少 60%。 ...