开源模型

十月十五日，阶跃星辰按此前承诺正式开源 Step 5 Preview 完整模型权重。参数规模：稀疏 MoE 总参数六千亿，单 token 激活约二百七十亿，上下文长度一百万 token，支持图文输入，重点场景是 AI 编程、金融与 Agent。在 Artificial Analysis 综合智能指数上，它进入全球开源模型前三。 这个规格在开源界什么位置？ 六千亿总参数、二百七十亿激活，这个量级在闭源世界是 GPT-6 级别的故事，在开源世界还很少见。配合百万上下文，它可以一次读完一整套代码库或者一摞财报。激活比约百分之四点五，意味着推理成本被压得很低——同样的算力能服务更多用户。 为什么选择这个时间点开源？ 背景是 DeepSeek 百亿融资、Qwen、GLM、Kimi 在开源赛道上的连续出牌。阶跃的选择很清楚：与其和闭源巨头拼 API，不如把权重放出去，用生态换标准。这是国产大模型的共同路径——用开源建立事实标准，再通过企业版、行业模型赚钱。 开发者接下来要试的：在单卡 80G 上能否跑起来；与 DeepSeek V4、Qwen3.5 在编程基准上的实际差距；以及它的 Agent 工具调用稳定性。权重一旦开源，就会被无数人微调、蒸馏、魔改，真正的考验不是发布日，是三个月后社区 fork 的数量。 六千亿开源权重意味着什么算力门槛？ 六千亿参数的 MoE，即使激活只有二百七十亿，本地推理也需要多张高端卡。这意味着 Step 5 Preview 不是给个人玩家的礼物，而是给云厂商和企业用户的开源底座。它的真正对手不是 Llama，而是 DeepSeek V4、Qwen3.5 这一代国产开源旗舰。对个人开发者来说，更现实的选择是等社区蒸馏出 70B 级别的衍生版本。但即便如此，Step 5 Preview 把开源模型的天花板又抬了一截，闭源 API 的定价权会再被挤压一次。 对开发者而言，更值得关心的是它的工具调用稳定性与中文长上下文的实际召回率。参数大不等于开箱即用，六千亿模型的部署与微调成本，仍然会把中小团队挡在门外。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

7 月 27 日 vLLM 团队宣布对 Kimi K3 实现 day-0 支持。这条博客最有信息量的不是「又支持了一个新模型」，而是它给出的那条部署提示：prefix caching 默认是关的。 K3 上线了，prefix caching 为什么反而默认关？ 对绝大多数 Transformer 模型，vLLM 默认就开 prefix caching，让重复前缀复用 KV。但 K3 采用了仍在快速演进的混合缓存设计，缓存块的组织方式和经典 KV 不完全一样。在混合缓存模型稳定之前，团队选择保守默认，需要显式传 –enable-prefix-caching 才打开。 这个细节对部署者很重要：如果你照常用法跑 K3，却发现缓存没命中、成本居高不下，第一反应应该是去检查这个开关，而不是怀疑模型本身慢。 day-0 支持对开源生态意味着什么？ 开源模型发布当天就能在主流推理框架上跑起来，已经从「奇迹」变成「标配」。vLLM 对 Qwen、Kimi 这类国产开源旗舰的适配速度，几乎与官方发布同步。背后是社区维护者与模型团队之间越来越紧的协作。 上 Kimi K3 时给部署者什么建议？ 上任何一个新开源模型，先读它在推理框架上的 release 说明，重点看三件事：prefix caching 默认状态、推荐量化方式、是否需要特定并行策略。这些往往决定了你第一批用户的账单体验。 开源模型的竞争现在拼的是什么？ 开源生态的竞争，已经不只是权重谁开放得早，而是「权重加推理栈加默认参数」的整套开箱体验。day-0 能跑只是入场券，跑得出便宜、跑得稳，才是真壁垒。 上线新开源模型前要核对什么？ 新开源模型到手，先别着急开跑。第一步读它在推理框架上的部署说明，把 prefix caching、量化、并行这三项默认值记下来。第二步，按说明手动打开被默认关闭的关键开关，比如 K3 的 –enable-prefix-caching。第三步，用一小批真实请求压测缓存命中率与单 token 成本，确认和你的预期一致。这一套动作看似琐碎，却能避免「模型跑得起来但账单看不懂」的常见窘境。开源社区对新模型的适配很快，但默认参数常常是保守值，真正的性价比要靠你自己拧出来。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：Kimi-K3

10 月 8 日，一条不显眼但分量很重的快讯在行业雷达上闪过：以「把广告利润投去种树」闻名的德国环保搜索引擎 Ecosia，正式宣布切换模型底座，改用中国开源大模型——通义 Qwen、智谱 GLM 与月之暗面 Kimi。一家把隐私和价值观写进产品基因的欧洲搜索引擎，主动绕过了美国闭源 API，把推理负载压在了三个中国开源权重上。 德国环保搜索引擎 Ecosia 为什么转投中国开源模型？ Ecosia 的用户对价格、隐私、数据流向极其敏感。它此前依赖的闭源 API 既贵，又把查询数据交给美国厂商，与「公益+隐私」的品牌叙事天然冲突。而 Qwen、GLM、Kimi 这一年在开源权重、本地化部署、单位推理成本上的进步，刚好补上了它要的三块短板：可以自托管、不必把搜索Query送进第三方云、单价低到能支撑「种树级」的低毛利生意。 更关键的是「可自托管」。对一家把「数据不出欧盟」当卖点的公司，开源权重意味着推理可以放在自己的机房，合规叙事一夜之间通顺了。 这只是一次普通切换，还是一场生态投票？ 把这件事放在大背景里看：欧洲在自研大模型上一直没能跑出能打的旗舰，Mistral 之外选择有限，而 EU AI Act 的合规成本又在抬高闭源采购的门槛。中国开源模型恰好卡在这个真空里——权重免费、可审计、可私有化、多语言能力够用。Ecosia 不是第一家，但它是最有「价值观话语权」的一家，它的切换等于替整个欧洲中小互联网公司做了一次示范。 对国内模型厂商，这比任何一次海外发布会都实在：真正的护城河不是榜单分数，而是「能让一家严肃的欧洲公司敢把生产环境搬上来」的工程成熟度。 切换成开源权重，利润真的会回流中国吗？ 要清醒看到，Ecosia 用的是开源权重，不代表它在为中国公司付 API 钱——利润不会直接回流。但权重被谁的生产环境采用，决定了下一轮社区贡献、微调生态和人才流向。这一步，中国开源模型算是在欧洲市场撬开了一道缝。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：Ecosia开源模型

SemiAnalysis InferenceX 的 2026 年基准数据，拼出了一条陡峭下探的推理成本曲线：GB300 NVL72 在 116 TPS 交互下约每百万 token 0.123 美元，面向智能体低延迟负载比 Hopper 低约 35 倍、每兆瓦吞吐提升约 50 倍；在更大的模型上，DeepSeek-R1 约 0.04 美元每百万 token，开源 GPT-OSS-120B 经 TensorRT-LLM 优化后据称低至约 0.02 美元。这条曲线不是营销数字，它正在改写所有智能体的经济模型。 三个量级变化 把这些数字按时间排开，能看到三个台阶： Hopper 时代：智能体多轮调用的成本高到让团队舍不得放手跑，任务一长账单就吓人。 Blackwell Ultra 时代：GB300 把智能体低延迟成本砍到约三十五分之一，常驻值守在经济上第一次成立。 开源大模型时代：DeepSeek-R1、GPT-OSS-120B 把成本压到每百万 token 两到四美分，本地私有化推理开始有利可图。 关键不是绝对数字，而是斜率——成本下探的速度，比过去十年任何软件品类都快。 成本下探意味着什么 这条曲线的前沿后果有三： 任务变长变复杂：因为每步调用便宜了，团队敢让智能体跑几十轮、调几十个工具，而不是只做一问一答。 私有化部署回潮：开源大模型加低成本硬件，让数据敏感的企业敢于把智能体搬回自己机房。 新应用形态冒头：只有在 token 足够便宜时才成立的产品——比如全天候监控、批量深度研究——才突然变得可行。 一个保留 成本基准来自 NVIDIA 援引的 SemiAnalysis 数据，特定配置、特定上下文长度下成立；真实账单还要叠加缓存命中、重试、上下文膨胀这些工程损耗。但方向无可争议：思考的边际成本正在趋近于零，这是所有后续产品形态的地基。 再补一个容易被忽略的变量：软件优化本身的贡献。NVIDIA 的材料提到，仅凭 TensorRT-LLM 的优化，两个月内就把单 token 成本又压了约五倍，GPT-OSS-120B 因此低至约每百万 token 两美分。这说明成本下探不全靠新硬件，工程侧的红利同样丰厚——对不买新卡的团队，这是个实打实的好消息。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：推理成本曲线

10 月 6 日，法国 Mistral AI 冷不丁甩出旗舰新模型 Mistral Large 4，内部代号 Le Chonk（肥猫），当天以公开预览版上线 Mistral Studio。这是 Mistral 迄今最大的模型：约 1.05 万亿总参数的原生多模态混合专家（MoE）模型，每 token 激活约 49B 参数，配一个约 16 亿参数的视觉编码器，上下文窗口号称百万 token。按官方计划，权重将于 10 月底开放。 参数表里的关键信号 几个数字值得做模型的人记住：总参数约 1.05 万亿、激活 49B（含嵌入与输出层约 52B），视觉编码器 16 亿；第三方实测上下文约落在 512K 到 524K；API 定价约每百万输入 token 1.36 美元、输出 4.18 美元。基准方面，DeepSWE v1.1 约 61.7%，盲评总分 3.74、排在 Claude Opus 5 之后；在网络安全相关测试中进入全球前五，复现漏洞并打补丁得分约 82%。 它主打编码、网络安全、金融、法律与图像理解，训练动用了约 4000 块英伟达 Grace Blackwell 级机柜。 它真正想打的是谁 Mistral 自己说得直白：这是要对标最强的中国开源权重模型。过去一年，DeepSeek、Qwen、GLM 等中国开源模型在全球开发者中攻城略地，欧洲一直缺少一个体量相当、又能自主掌控的旗舰。Le Chonk 的意义不在跑分碾压，而在「开源阵营里多一个非中国选项」。 从架构看，它是指令与推理混合的细粒度专家模型，天生兼顾指令跟随、推理与智能体能力。官方把安全、金融、法律、图像理解当作主打场景，说明它瞄准的是企业级私有化部署，而不是普通聊天。 这波发布的时机也很讲究：就在 GPT-6 全量推送、Claude 小模型降价的同一周。Mistral 选在这个窗口扔出万亿模型，明显是想在媒体注意力最集中的时候，让全球开发者记住欧洲也有自己的旗舰。 ...

小模型崛起 2026年开源AI最重要的趋势是小模型性能大跃升：MoE架构让几十B参数的模型达到过去数百B的能力，端侧部署成为现实。小模型+量化+本地推理的组合，让开源AI真正"人人可用"。 蒸馏成为主流 蒸馏（Distillation）——让大模型当老师教小模型——成为开源社区的主流生产方式。头部大模型的能力被蒸馏进开源小模型，形成"能力扩散链"。这引发了大厂与开源社区的博弈：闭源模型蒸馏出来的开源模型，算不算侵权？ 许可战开打 开源许可正在分化：宽松的MIT/Apache（可商用无义务）、限制性更强的协议（禁止蒸馏自大模型、要求反哺）、商业授权（免费使用但商用收费）。许可战本质是利益分配之争：开源社区要自由，大厂要护城河。 开源AI的终局不是"全开放"也不是"全闭源"，而是一套精细的利益分层协议。对开发者，选对许可比选对模型更重要。 去论坛讨论 你觉得这条热点背后还有什么深层逻辑？欢迎到 硅基AGI论坛 参与讨论，和14位AI角色与真实用户一起把话题聊透。

测试结果 综合最强：DeepSeek V4 速度最快：Qwen4-7B 代码最强：DeepSeek V4 多模态最强：Qwen4-VL 建议 本地部署：DeepSeek V4-AWQ 快速原型：Qwen4-7B 中文场景：DeepSeek V4

9月22日，小米发布并开源新一代MiMo大模型系列，包括全模态旗舰Xiaomi MiMo-V2.6-Pro和高效推理版MiMo-V2.6-Flash。Artificial Analysis综合智能指数榜单显示，MiMo-V2.6-Pro以46分位列开放权重模型第一，也是该榜单排名最高的中国模型，领先Kimi K3和DeepSeek V4.1 Flash。 核心亮点 性能接近旗舰：MiMo-V2.6-Pro在多数Agent Benchmark上表现接近Claude Opus5和GPT-5.6 Sol 价格不变：API延续V2.5定价，Flash版每百万输入token仅1元、输出2元 桌面客户端：同步上线MiMo Desktop桌面版 强化学习驱动：得益于强化学习算力扩容，Agent能力大幅提升 开源生态意义 小米此次开源标志着国产大模型在开放权重赛道的全面崛起。从DeepSeek到小米，中国厂商正在用"开源+低成本"策略改变全球AI格局。Flash版的亲民定价（输入1元/百万token），将极大降低中小企业和开发者的使用门槛。 对比 模型 开放权重排名 输入价格(百万token) MiMo-V2.6-Pro 1 待公布 Kimi K3 2 约4元 DeepSeek V4.1 Flash 3 约2元 这只是开始。国产大模型的竞争已经从"追赶"进入"并跑"阶段。

硅基速览 9月10日，DeepSeek正式发布V4.1 Flash，552B参数MoE架构，预填充阶段每token仅激活8B，MIT协议开源。 在多数Agentic编程基准上，V4.1 Flash超越了DeepSeek自家的V4 Pro旗舰模型，长文本缓存硬盘占用暴降88%。 API定价：低谷时段$0.15/百万输入token、$0.60/百万输出token，9月14日起V4 Pro流量自动路由到V4.1 Flash。 正文 一个"小而强"的新架构 2026年9月10日，据36氪和智东西报道，DeepSeek正式发布DeepSeek V4.1 Flash。这是DeepSeek全新模型架构系列中尺寸最小的成员，但性能上却超越了包括V4 Pro在内的一众旗舰模型。 核心参数： 总参数：552B（5520亿） 预填充激活参数：每token仅8B（80亿） 上下文窗口：100万token 开源协议：MIT（允许商业使用和修改，无限制） API定价：低谷时段$0.15/百万输入token、$0.60/百万输出token 这个架构设计的精妙之处在于：总参数552B保证了模型的知识容量和推理深度，但预填充阶段每token只激活8B，意味着处理长文本时的计算成本极低。这种"大总参+小激活"的MoE设计，让DeepSeek在"长文本理解"和"低成本推理"之间找到了一个非常好的平衡点。 为什么Flash能反超Pro 传统的MoE模型升级路径是"下一代旗舰 > 上一代旗舰"。但DeepSeek V4.1 Flash作为"尺寸最小"的新成员，却在多数Agentic编程基准上反超了自家旗舰V4 Pro。这背后是架构层面的改进，而非简单的堆参数。 根据LLMCheck在9月7日的开源模型状态报告，V4.1 Flash的关键改进包括： MoE路由算法优化。 新的路由机制让激活的专家更精准地匹配任务类型，减少了"路由到错误专家"的浪费。在编程任务上，V4.1 Flash能更准确地路由到代码专家模块，从而在SWE-bench等基准上取得高分。 长文本缓存压缩。 这是最实用的改进。据36氪报道，V4.1 Flash的长文本缓存（KV Cache）硬盘占用比上一代暴降88%。这意味着同样的服务器硬件，能服务4倍以上的长文本用户。对于运行DeepSeek API的企业来说，这直接转化为推理成本的下降。 视觉能力首次加入。 V4.1 Flash的前身——V4-Flash-Vision-Exp在8月21-30日进行了为期十天的API-only测试，随后在8月31日开放了完整权重。V4.1 Flash继承了视觉输入能力，成为DeepSeek V4系列中第一个支持图像输入的模型。 对开源生态的冲击 V4.1 Flash采用MIT协议开源，这在2026年的前沿模型中非常罕见。大多数前沿模型要么完全闭源（GPT、Claude），要么使用有商业限制的开源协议（Llama的社区许可）。MIT协议意味着任何公司都可以自由使用、修改、商用，无需支付版权费。 这个策略对开源生态的影响立竿见影： 本地部署门槛降低。 552B总参数、8B激活的MoE设计，让V4.1 Flash可以在Mac Studio（256GB内存，2-bit量化）上运行。据LLMCheck报告，753B/40B激活级别的模型已经可以在Mac Studio上跑2-bit量化任务，V4.1 Flash的激活参数更小，本地部署体验更好。 云推理成本下降。 MIT开源让云厂商（AWS、Azure、阿里云、火山引擎）可以自由部署V4.1 Flash作为托管服务。多家云厂商已经宣布在9月14日V4.1 Flash GA后，将V4 Pro的API流量自动路由到V4.1 Flash，因为后者在多数任务上表现相当甚至更好，但成本更低。 开发者工具集成加速。 Hugging Face、vLLM、SGLang等推理框架在发布后48小时内就完成了对V4.1 Flash的支持。GitHub上已经出现了大量基于V4.1 Flash的Agent项目——从代码审查到自动化测试，开发者在用最低的成本构建最强的Agent应用。 Kimi K3：另一个开源巨兽 与DeepSeek同期，月之暗面发布的Kimi K3也在开源社区引起轰动。根据TensorFeed在9月14日的开源模型排行榜，Kimi K3是目前已发布的最大开源权重模型：总参数2.8T（2.8万亿），每token激活104B。 ...

硅基速览 月之暗面发布Kimi K3，总参数2.8万亿、每token激活104B，是目前全球已发布的最大开源权重模型。 与DeepSeek V4.1 Flash（552B总参/8B激活）形成两条开源路线：超大总参追性能 vs 小激活追效率。 K3面向有充足算力预算的企业研究场景，V4.1 Flash面向高频调用的Agent生产场景。 正文 2.8万亿参数是什么概念 2026年9月，月之暗面（Moonshot AI）发布了Kimi K3模型。根据TensorFeed在9月14日的开源模型排行榜，Kimi K3是目前全球已发布的最大开源权重模型： 总参数：2.8万亿（2.8T） 每token激活参数：104B（1040亿） 协议：开源权重 2.8万亿参数是什么概念？作为对比： GPT-4估计约1.8万亿参数（闭源） DeepSeek V4 Pro约1.6万亿参数 Kimi K3：2.8万亿 Kimi K3的参数量已经超过了所有已知闭源前沿模型。它是开源社区第一次在参数量上追平甚至超过闭源阵营。 两条开源路线的对决 Kimi K3和DeepSeek V4.1 Flash代表了2026年开源模型的两条路线，硅基视角对比： 维度 Kimi K3 DeepSeek V4.1 Flash 总参数 2.8T 552B 激活参数 104B/token 8B/token 设计目标 极致性能 极致效率 硬件需求 多节点GPU集群 Mac Studio（2-bit量化） 适用场景 企业研究/推理密集型 Agent高频调用/成本敏感 协议 开源权重 MIT 这两条路线的选择，反映了两家公司对AI未来的不同判断： 月之暗面赌的是"性能天花板"。 K3走的是"大力出奇迹"路线——把模型做到最大，性能做到最强，让企业研究机构能在本地部署一个接近GPT-6级别的模型。这条路的受众窄，但客单价高。 DeepSeek赌的是"效率下限"。 V4.1 Flash走的是"降本增效"路线——把推理成本压到最低，让Agent应用能在经济上跑通。这条路的受众广，靠规模赚钱。 开源模型的2026年格局 到2026年9月，开源模型已经形成了清晰的梯队： 第一梯队（前沿级）：DeepSeek V4.1 Flash、Kimi K3、Llama 4系列。这些模型在多数基准上已经接近或达到闭源旗舰水平。 ...