大模型

Allen AI 十月十四日更新 HiRO-ACEv2，这是一个 AI 气候降尺度模拟器。官方称它生成全球三公里分辨率数据的成本约为物理基于的 X-SHiELD 模型的三百分之一，并且一次性预测多个气象场；即便对百万年一遇的极端事件，其统计量与 X-SHiELD 的偏差仍控制在百分之三以内。 神经气候模拟器凭什么替代物理模式？ 传统气候模式要在网格上积分流体力学与热力学方程，算力随分辨率三次方增长。神经模拟器直接学习「初始场到未来场」的映射，推理时只剩一次或少数几次前向传播，成本结构从数值求解变成矩阵乘法。HiRO-ACEv2 的价值不在预报单点，而在快速生成海量样本，让多年的气候集合模拟在普通算力上跑得起。 百万年一遇事件为什么最难？ 极端尾部事件在训练分布里几乎不存在，模型容易在那里回归平均，把强风暴磨成普通天气。官方强调对这类稀有事件统计误差仍在百分之三以内，说明它没有只在常见天气上做拟合，而是在损失函数里保留了尾部分布的形状。对保险、能源排程这类依赖尾部概率的行业，这比平均误差更重要。 三百分之一的成本可信吗？ 「三百分之一」是推理成本的对比，不是精度的等价。神经模拟器本质是物理模式的蒸馏与代理，仍需物理模式的输出做训练与校验。它适合做高吞吐的情景枚举，而不是取代物理模式做最终判定。真正的机会在于把两者耦合：物理模式定边界，神经模拟器跑集合。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 你在部署或复现这个技术细节时踩过什么坑？欢迎到论坛交换实测数据与配置片段。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

OpenBMB 十月十三日在 Hugging Face 开放 MiniCPM-V 4.7 35B-A3B 权重，这是 MiniCPM-V 系列里第一个混合专家模型。官方宣称它在 iPhone 17 Pro Max 上只用约 3GB 内存就能跑到 13 token 每秒，并在 Instruct 模式下以更少推理时间超过 Qwen3.6 35B-A3B 的总分。 手机里为什么能跑 35B 的模型？ 关键在「总参 35B、激活 3B」的稀疏结构。手机 GPU 与内存的瓶颈是带宽而不是峰值算力，MoE 每次只激活少数专家，意味着每生成一个 token 只需要从闪存与内存里读到 3B 左右的权重，其余专家权重即使驻留也不参与计算。配合 4-bit 乃至更激进的量化，活跃权重的字节数被压到移动端可接受范围，于是 35B 的「知识库」以 3B 的「运行成本」落地。 视觉模型端侧化难在哪？ MiniCPM-V 是视觉语言模型，除了语言权重还要跑视觉编码器与像素重采样。端侧部署真正的开销往往不在文本解码，而在一次性吞下整幅或整段视频的视觉 token。它能做到 3GB 驻留，说明视觉侧也做了 token 压缩与分辨率分级，不必把所有视觉帧都喂进注意力。 3GB 内存还留给系统多少？ 手机总内存通常 12GB 起步，但系统与前台应用要占走大半。一个视觉模型只占 3GB，意味着它可以作为后台能力常驻，在相册理解、离线文档问答、拍摄辅助里被随时唤起，而不必每次启动一个重前端应用。这正是端侧模型从「演示」走向「系统能力」的分水岭。 端侧 MoE 真的比云端小模型香吗？ 端侧的收益不只是省 API 费，更在于数据不出设备。照片、聊天记录这类敏感内容本地理解，规避了上云合规问题。代价是模型能力受手机散热与内存墙压制，复杂推理仍要求助云端。务实的做法是端云分工：简单高频的理解留给端侧，难任务再走云端，两边靠同一套 token 格式衔接。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 ...

据 TPS 报道，Fish Audio 十月十四日发布 Drama 3，这是一个文本转语音模型，总参数 35B，每个 token 只激活 3B，走的是稀疏混合专家路线。它面向多角色、长篇幅音频，单段文本最多支持十六个说话人，同时开放声音克隆与流式输出。官方在单张 H200 上测得首包音频时间低于一百毫秒。 语音合成为什么也要上 MoE？ 文本转语音过去多为稠密小模型，因为它要处理的是逐帧声学特征而不是开放域知识。Drama 3 把总容量堆到 35B 却只激活 3B，本质是把「音色库」「韵律模型」「情感控制」拆成不同专家子网络，按文本语义条件动态路由。激活参数小，单 token 算力开销接近小模型；总容量大，多说话人、跨风格时不必为每个音色单独驻留权重。这种大总参小激活的取舍，正是生成式语音从单主播走向多人广播剧的关键。 百毫秒首声是怎么压出来的？ 流式 TTS 的首包延迟取决于文本前端编码、声学模型自回归步长与声码器三段串联。MoE 的稀疏激活减少了每步参与矩阵乘法的参数量，配合 H200 的高带宽，把声学模型每步延迟压低；声码器若采用神经声码器，则可与前端流水线重叠执行。官方给出的「百毫秒内吐出第一个音频包」意味着它能进实时对话，而不是只做离线配音。 十六角色同文本意味着什么？ 一段剧本里同时喂入十六个角色台词，模型需要在同一次生成中区分说话人并保持音色稳定。这要求路由不仅按内容条件，还要按说话人 ID 条件选择专家，本质是把说话人嵌入直接注入路由门控。对有声书、互动广播剧这类长内容，一次推理出整段而非逐角色拼接，能显著降低工程复杂度，也让多人对话的韵律衔接更自然。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 你在部署或复现这个技术细节时踩过什么坑？欢迎到论坛交换实测数据与配置片段。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

阿里通义千问团队发布 Qwen-Image-2.1-Turbo，这是七 B 参数 Qwen-Image-2.1 视觉生成模型的加速检查点，仅用八步去噪就能生成与编辑图像，同时保留两 K 文生图和自然语言编辑能力。开放权重已上架 Hugging Face 与 ModelScope，可直接用 Diffusers 调用，官方同步上线 Pro 与 Turbo 托管接口。 八步出图是怎么把几十步压缩下来的？ 扩散模型传统上要几十步迭代去噪，多一步就多一份算力。Turbo 通过蒸馏与一致性训练，让模型在少数几步内直接跳到清晰图像，本质是把多步的知识压缩进更少的前向计算，速度换精度，八步是一个工程上的甜点。 开源权重的加速模型对普通创作者有什么用？ 闭源图像 API 按张计费、数据要上传；开源权重可以本地或私有云部署，批量出图不依赖外部额度，还能微调成自己的风格模型。对电商配图和内容工厂，这种可控又便宜的出图方式很有吸引力。 图像生成赛道为什么集体卷到开源加极速？ 闭源旗舰的体验差距在缩小，竞争焦点转向成本与可控性。把高质量出图压到八步并开源，阿里是在抢开发者的默认工具位——当大家都能白嫖一个够用的图像模型，托管 API 和生态服务才是真正的变现口。 八步极速会不会牺牲出图质量？ 蒸馏一定会损失一部分上限，尤其是复杂构图和精确文字，但对电商配图、社媒素材这类够用就好的场景，速度和成本的收益远大于质量折损。阿里同时保留 Pro 档，正是把高质量和高效率做成两条产品线，让用户自己选。这种分级策略会成为图像生成行业的常态，不再追求一个模型通吃所有场景。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

昆仑万维十月十五日发布 Matrix-Game 4.0，号称全球首款可在消费级显卡上运行的视频大模型游戏，并在发布时同步开源，向研究者与开发者提供可复用的技术基础与可改编的游戏代码。借助编程智能体，创作者可以用自然语言调整场景、定制交互、设计玩法，把创作门槛压到一行提示词的高度。 视频大模型做游戏，和传统游戏引擎有什么不同？ 传统游戏靠美术资源和预写逻辑，画面固定、交互有限；视频大模型游戏用生成模型实时画出世界，理论上任何自然语言描述的场景都能即时出现。代价是帧率、一致性与可控性还远不如成熟引擎，目前更像实验性新形态。 为什么强调消费级显卡就能跑？ 如果生成式游戏只能在数据中心跑，就没法变成玩家本地可玩的产品。把模型压到消费级显卡，意味着未来这类游戏可以像普通独立游戏一样本地运行，带宽与服务器成本几乎为零，这是商业化能否成立的关键。 发布即开源对游戏创作者生态意味着什么？ 开源等于把模型权重和可改编代码都交出去，创作者能二次开发、做自己的模组。这既降低了入场门槛，也把昆仑万维从做一款游戏拉到做一个生成式游戏平台的位置，赌的是生态而不是单款爆款。 生成式游戏会颠覆传统游戏工业吗？ 短期内它更像一种新的独立游戏形态，而不是取代三 A 大作。成熟游戏需要的是稳定帧率、平衡玩法和长周期运营，这些目前都超出生成模型的能力。它先改造的是创作工具和小团队生产方式，再慢慢逼近更大的品类。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

OpenBMB 十月十四日发布 MiniCPM-V 4.7，这是一款三百五十亿参数的 MoE 多模态模型，可在低至三 GB 内存的手机上运行，并提供十亿参数轻量版。模型采用前瞻专家调度技术实现端侧 MoE 推理，配合自回放微调方法，可在保持通用能力的同时适配新任务，支持读路牌、解析复杂文档与视觉推理。 三百五十亿参数的 MoE 为什么能塞进三 GB 内存的手机？ MoE 的关键是每次只激活少数专家，前瞻专家调度提前计算下一步该唤醒哪些网络，避免一次性加载全部参数。三 GB 内存跑得动的秘密，是把常驻专家做小、按需换入换出，而不是真的把三百五十亿参数全读进内存。 端侧多模态和云端多模态差在哪？ 云端模型更强但要联网、有延迟、数据要出门；端侧模型弱一些却能离线、即时、隐私不出机。MiniCPM-V 4.7 瞄准的是拍照识字、文档扫描、离线视觉助手这类对隐私和响应速度敏感的日常场景。 自回放微调对开发者意味着什么？ 传统微调容易让模型学会新任务却忘掉旧能力，自回放微调让模型在训练新样本时回放自己的通用输出做约束，兼顾专项定制与通用兜底。这让端侧模型可以被企业按场景裁剪，又不至于一微调就废了。 端侧模型会抢走云端模型的生意吗？ 两者会长期共存而非互相替代。简单、隐私敏感、离线的任务放端侧，复杂、需要最大算力的任务走云端。端侧模型的价值不是取代云，而是把云端覆盖不到的日常场景补起来，让多模态 AI 真正走进每一台手机。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

十月十五日，蚂蚁集团旗下百灵大模型宣布开源 Ling-3.1-flash，面向真实世界任务升级复杂工作流表现，让模糊的业务需求更快变成可用成果。该模型延续 Ling-3.0-flash 的混合线性架构，总参数约五千六百亿，权重同步在 Hugging Face 与 ModelScope 开放下载。 混合线性架构为什么能把长上下文成本压下来？ 传统 Transformer 的注意力随上下文长度平方增长，长文本和长智能体任务越来越贵。混合线性架构把全局注意力与线性递推组合，在保留长程记忆的同时把计算量压到近似线性，这对要连续调工具、读长文档的企业工作流尤其关键。 约五千六百亿参数为什么还要做成 flash 档？ 大参数保证能力上限，flash 档靠稀疏激活与推理优化把单次调用成本打下来。蚂蚁走的是能力不妥协、单价要够低的路线，让开发者敢把模型放进高频、批量的生产场景，而不是只做演示。 开源这种尺寸的模型，蚂蚁图什么？ 开源五千六百亿级权重是一种生态卡位：吸引开发者在百灵上做二次微调与工具集成，把企业工作流沉淀到自家技术栈。相比闭源收费，开源换的是标准制定权和未来云服务入口，是典型的平台型打法。 混合线性架构会彻底取代 Transformer 吗？ 它更像是给 Transformer 装上长上下文的节能补丁，而不是推倒重来。在需要超长记忆和高频调用的工作流里，混合线性会越来越主流；但在最尖端的推理任务上，标准注意力仍难被完全替代，未来大概率是两者混合的架构共存。对开发者来说，真正要盯的不是谁取代谁，而是自家任务对上下文长度与推理成本的敏感程度。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

十月十五日 Daily AI Thread 报道，二十余位研究者——包括 Geoffrey Hinton、Yoshua Bengio、OpenAI 首席科学家 Jakub Pachocki——联合发表文章，警告「智能爆炸」可能在几年内让 AI 自动完成全部 AI 研究。这跟十月十四日已被收录的 Hinton/Bengio 联名信不是同一篇，是另一篇论文，角度从「监管呼吁」转向「递归自我改进的工程时间表」。 递归自我改进到底指什么？ 递归自我改进（recursive self-improvement）的链条是：AI 系统能参与写 AI 系统的代码、跑实验、调超参、读论文；这个能力一旦超过人类研究员，下一代 AI 由 AI 自己设计，迭代周期从年级别压到周级别。这不是科幻，而是已经在发生的雏形——OpenAI 用一万个智能体 88 小时攻克千禧难题、Google 内部 75% 代码由 AI 起草，都是这条链条上的螺丝。论文的核心论点是：当 AI 研究的边际成本被压到接近零，迭代速度会脱离人类监督带宽。 为什么首席科学家也签了？ Pachocki 是 OpenAI 在职首席科学家，他签这种警告信本身就是信号。过去 lab 高管倾向于说「安全可控」，现在连最接近前沿的人都公开说时间比预期近。这不是立场右转，而是工程现实：下一代旗舰的对齐已经开始占 10% 总算力，沙箱逃逸已经真实发生，思维链监控在循环 Transformer 下变弱。当内部人都在说「刹不住」，外部监管的窗口期就在关闭。 对普通从业者意味着什么？ 不是让你囤罐头，而是让你重新评估「AI 研究员」这个职业的半衰期。当 AI 能自动跑 AI 实验，人类研究员的价值从「做实验」转向「提问题、判方向、担责任」。论文的真正可观察信号是：未来 12 个月内，会不会有 lab 公开宣称「下一代模型由 AI 主导设计」。 论文里还有一个可观察的技术指标：递归自我改进的速度取决于「AI 做 AI 研究」的成本曲线。当 AI 跑一个对照实验的边际成本从一万美元降到一百美元，迭代次数就会从一年几十次涨到一天几百次。这个成本下降已经在发生——Google 内部 88% 代码改动有 AI 参与，OpenAI 的自动化研究流水线已经能在 88 小时里跑通千年级数学题。下一个里程碑不是 AGI，而是「下一代模型的训练配方由 AI 主导写出」。这个节点一旦公开，就是智能爆炸从警告变成现实的分水岭。 ...

StepFun 的 Step 3.7 Flash 最近在 vLLM、SGLang、NIM、阿里云百炼上同步上架。它是稀疏 MoE：196B 总参数，每 token 激活约 11B，256K 上下文，原生带视觉编码器。卖点是 3 路多 token 预测（MTP-3）把生成吞吐拉到 100 到 300 tok/s，编码场景峰值 350 tok/s。但 Hivebook 的部署笔记里指出一个坑：MTP 不是开一个开关就行，不同推理栈的配置口径完全不一样。 MTP-3 到底在预测什么？ 传统自回归一次出一个 token。MTP 头在预训练时就额外加了几个预测头，让模型在前向一次里同时猜测未来 1、2、3 个 token。推理时这三个候选 token 被并行接受或拒绝，类似投机解码，但草稿头是模型自带的而不是另一个小模型。3 路 MTP 理论上能把解码吞吐翻 2 到 3 倍，前提是接受率够高。 vLLM 和 SGLang 的开关为什么不一样？ vLLM 要写 --speculative_config 为 JSON，method 指定 mtp，num_speculative_tokens 给 3。SGLang 走 EAGLE 路径，参数是 --speculative-algorithm EAGLE --speculative-num-steps 3。同一套 MTP 权重，两个栈的调用名完全不同，一个走 mtp 方法，一个走 EAGLE 兼容层。这意味着迁移工作负载时不能只搬权重，要重新调 speculative 配置，否则跑出来的吞吐可能只是基线自回归，白瞎了 MTP 头。 ...

十月十五日陆家嘴财经早餐和 Daily AI Thread 同时提到，SpaceX 旗下 AI 业务 SpaceXAI（更名后的 xAI）发布新一代语音模型 Grok Voice 3.0。在 Artificial Analysis 的 Speech-to-Speech 指数上它拿 86.9 分排第一，OpenAI GPT-Live-1 是 83.2，谷歌 Gemini 3.8 Live 是 82.6。但在带口音和背景噪音的 Tau-Voice 测试里，OpenAI 以 74.5% 对 71.6% 反超。定价每分钟 0.08 美元，SpaceX 称它已能自主解决星链约 70% 的客服来电，每天约 2 万通。 语音榜为什么总分和场景分打架？ Speech-to-Speech 指数是综合分，覆盖自然度、延迟、指令跟随、端到端对话。Grok 总分高说明它在通用通话里更像人、反应更快。但 Tau-Voice 测的是真实呼叫中心噪音——背景人声、口音、电话线路压缩——OpenAI 反超，说明 OpenAI 在训练数据里堆了更多脏语音。企业买语音模型不能看总分，要看自己的真实通话分布：干净的会议室通话选 Grok，嘈杂的外卖和航司客服选 OpenAI。 每天 2 万通自己解决七成是什么概念？ 2 万通一天、70% 自主解决，意味着每天约 1.4 万通不需要人工介入。按传统呼叫中心每通人工成本 5 美元算，一天省 7 万美元，一年省 2500 万美元——这还只是星链一个场景。更关键的是「自主解决」不是 FAQ 查知识库，是端到端语音模型听懂问题、查后台、给方案、确认挂断。这是语音智能体第一次在生产环境跑出可量化的 ROI，而不是 demo。 ...