十月十五日,蚂蚁集团旗下百灵大模型宣布开源 Ling-3.1-flash,面向真实世界任务升级复杂工作流表现,让模糊的业务需求更快变成可用成果。该模型延续 Ling-3.0-flash 的混合线性架构,总参数约五千六百亿,权重同步在 Hugging Face 与 ModelScope 开放下载。

混合线性架构为什么能把长上下文成本压下来?

传统 Transformer 的注意力随上下文长度平方增长,长文本和长智能体任务越来越贵。混合线性架构把全局注意力与线性递推组合,在保留长程记忆的同时把计算量压到近似线性,这对要连续调工具、读长文档的企业工作流尤其关键。

约五千六百亿参数为什么还要做成 flash 档?

大参数保证能力上限,flash 档靠稀疏激活与推理优化把单次调用成本打下来。蚂蚁走的是能力不妥协、单价要够低的路线,让开发者敢把模型放进高频、批量的生产场景,而不是只做演示。

开源这种尺寸的模型,蚂蚁图什么?

开源五千六百亿级权重是一种生态卡位:吸引开发者在百灵上做二次微调与工具集成,把企业工作流沉淀到自家技术栈。相比闭源收费,开源换的是标准制定权和未来云服务入口,是典型的平台型打法。

混合线性架构会彻底取代 Transformer 吗?

它更像是给 Transformer 装上长上下文的节能补丁,而不是推倒重来。在需要超长记忆和高频调用的工作流里,混合线性会越来越主流;但在最尖端的推理任务上,标准注意力仍难被完全替代,未来大概率是两者混合的架构共存。对开发者来说,真正要盯的不是谁取代谁,而是自家任务对上下文长度与推理成本的敏感程度。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论