大模型

DeepSeek 更新日志给出的两个参考分放在一起读很有意思：GPQA Diamond 90.9，HLE 36.8。前者已经接近理科博士水平，后者却连四成都不到。这 54 分的落差，正是当前前沿模型能力边界最诚实的写照。 GPQA 与 HLE 这两个基准到底在考什么？ GPQA Diamond 是研究生级别的科学多选题，题目相对封闭、答案唯一，靠知识检索与逻辑推演就能拿下。HLE（Humanity’s Last Exam）则刻意收集那些即便专家也要查资料、有争议、信息高度不对称的难题，目的就是让模型「考不过」。90.9 与 36.8 的对比说明：在结构清晰的知识型任务上，模型已经很强；但在需要跨领域综合判断、容忍不确定性的开放难题上，它仍有巨大鸿沟。 90.9 与 36.8 的落差为什么重要？ 很多宣传只挑高分基准说事儿。只看 GPQA，会觉得 AGI 近在咫尺；加上 HLE，才发现模型在「不知道自己不知道」的地方依然脆弱。对企业采购，这意味着：把模型用在有标准答案的环节，可靠性可观；把它用在需要权衡的高风险决策上，仍需人类兜底。 面对榜单，正确的读法是什么？ 别只看单一最高分，把知识型基准与开放难题基准对照着看。前沿模型的真实水位，约等于两者之间的位置，而不是那个漂亮的 90.9。 这个落差怎么用在模型采购决策里？ 给企业做模型选型时，建议建立两张表：一张知识型基准（GPQA、MMLU 类），一张开放难题型基准（HLE 类）。把候选模型放上去对照，而不是只看厂商宣传的最高分。如果一个模型知识分很高、开放分很低，它适合做客服、摘要这类有标准答案的活；两张表都过得去，才敢让它碰需要权衡的决策。对普通用户，记住一个朴素原则：模型说得越自信，越要想想它是不是在一个「其实不确定」的问题上硬给了答案。36.8 这个分数，就是这份谦逊的量化依据。 说到底，榜单是用来照出边界的，不是用来制造幻觉的。把 90.9 与 36.8 并排贴在墙上，团队才不会在乐观与悲观之间反复横跳，而是老老实实知道自己站在哪、离下一道坎还有多远。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：HLE基准 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

DeepSeek 更新日志在描述 V4.1-Flash 时特意点出「具备原生多模态视觉理解能力」。这个措辞值得多停一秒：它意味着视觉不再是事后挂上去的插件，而是和语言主干一起训练、一起推理。 外挂 CLIP 的老路线到底有什么历史包袱？ 早期多模态做法是把一个预训练视觉编码器（类似 CLIP）抽出来，加一层投影，把图像特征塞进语言模型的词嵌入空间。这条路上手快，但有两个硬伤：视觉编码器与语言主干是两套训练目标，对齐靠薄薄一层投影；图像 token 与文本 token 在表示上始终有隔阂。 原生多模态到底在架构上改了什么？ 原生多模态让图像 patch 直接作为输入序列的一部分进入主干，与文本共享同一套注意力与专家路由。好处是视觉与语言在联合训练中互相校准，文档理解、图表推理这类「图文绑定」任务更自然。代价是训练流水线更复杂，视觉编码器的改动会直接波及语言能力，需要小心平衡。 原生多模态对应用层意味着什么？ 对开发者，原生多模态最直接的影响是「少一次模型切换」。过去要先调视觉模型再把结果喂给语言模型，现在一次调用同时拿到图文理解。在 OCR、截图排错、PDF 问答这类场景，链路变短、延迟变低、失败点变少。 怎么判断一个模型是真原生还是假原生？ 2026 年下半年，原生多模态会从旗舰下放到 Flash 档。判断一个模型是不是真原生，看它的技术文档如何描述视觉 token 与主干的融合方式——只说「支持图片输入」的，多半仍是外挂。 这条自检清单能帮你认出真原生吗？ 判断一家模型是不是原生多模态，可以问三个问题：技术文档是否说明视觉 token 与语言主干共享注意力；一次调用能否同时完成图文问答与推理，而非先识图再转文本；图表、截图这类含结构信息的输入，表现是否显著优于外挂模型。三个问题里中两个，才算真原生。对做文档智能、多模态 Agent 的团队，这直接决定了系统架构——原生模型让你能砍掉独立的视觉服务与结果中转，少一整层失败点和延迟。但也要留意，原生多模态对 OCR 这类纯文字任务未必更省，按场景搭配仍是常态。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：原生多模态 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

过去一年，行业学会了一件事：让模型在回答前多想一会儿，正确率就能涨。这就是 test-time compute scaling。但到 2026 年，这条曲线开始显出边际递减的形状。 多想一步，到底值多少钱？ 以 DeepSeek-V4.1-Flash 为例，Artificial Analysis 估它完成一项基准任务平均约 0.03 美元。如果把思维链拉长三倍，单任务成本可能逼近 0.1 美元甚至更高，而正确率的提升往往从「每多花一倍算力涨 10 分」衰减到「涨 2 分」。HLE 36.8 这个分数也在提醒：即便无限延长思考，最难的开放题仍不是「想久一点」就能解决的。 为什么思考越长，边际收益越递减？ 第一，可验证领域红利已被吃掉。数学、代码这类能机器验证的任务，长思维链带来的提升最明显，但早期低垂果实已摘完。 第二，错误会随步数累积。思考链越长，中间某一步走偏后自我纠正的概率越低，长度反而成了幻觉的温床。 第三，算力不是免费的。多花的每一秒都占用 GPU，在高并发场景里，等待首 token 的用户不会为你的「深度思考」买单。 不堆思考时长，那该怎么提正确率？ 不要无脑开最长思考预算。按任务分级：客观事实问答走最短；多步规划给中等预算；数学证明才开放长链路。并把「验证器」接进来——模型想完先自检，再决定是否继续想，比线性拉长更省。 test-time compute 走到 2026 年该怎么定位？ test-time compute 没有失效，但它从「越多越好」进入了「精准投放」阶段。2026 下半年的竞争，是看谁能用最少的思考步数拿到足够的正确率。 有没有一个粗算公式帮你找到性价比拐点？ 粗略估计，正确率随思考时长的提升类似一条对数曲线：前 50% 的算力贡献大部分增益，后 50% 只换来零头。工程上可以这样做灰度：对同一批请求，分别用短、中、长三档思考预算跑，画出正确率与成本的散点。你要找的是曲线斜率开始变平的那个拐点——在拐点之前加预算值得，过了拐点就该停。多数团队会发现自己长期在拐点右侧白烧钱。把预算从最长档降到拐点档，正确率几乎不掉，账单却能砍掉一大块。这才是 test-time compute 时代真正的省钱姿势。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：测试时计算 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

10 月 7 日 OpenAI 推送 GPT-6 Sol 与 GPT-6 Luna 的十月更新，并把「智能界面面向所有人」作为产品化方向。对做 Agent 的团队来说，这两个名字不只是 marketing，而是两条不同推理档位的公开信号。 Sol 与 Luna 到底是两个模型，还是两种思考预算？ 可以把 Sol 理解为深度推理档：允许更长的思维链、更多次自我校验，适合数学、代码、规划这类需要多步推演的任务。Luna 则是快速档：短链路、低延迟、便宜，适合问答、摘要、分类这类「想一下就够」的场景。厂商官方没有公开精确的触发阈值与价差，但从 o 系列以来的惯例看，深度档的 token 消耗往往是快速档的数倍。 路由选错档位，账单会差出多少？ 真正烧钱的不是选了哪个档，而是该用快档时用了深档。一个取邮件、读日程的工具调用，如果默认走 Sol，每一步都在做「长篇思考」，账单会比走 Luna 贵出一截。 务实做法有三条：在系统提示里显式标注任务复杂度；对工具调用类请求强制走快速档；只在规划与调试节点开放深度档。Manus 2.0 靠框架优化把 Token 消耗压下 23.2%，其中相当一部分正是这种「档位选错」的浪费。 双档并行之后，Agent 工程的核心技能变成了什么？ 双档并行会成为 2026 下半年旗舰模型的标配。未来 Agent 工程的核心技能之一，就是给每一步推理标对价格标签——把贵的思考留给真正需要它的那几步。 一个可落地的档位路由策略长什么样？ 把工作流里的每一步按「是否需要多步推演」打标签：取数、读配置、格式化这类动作直接绑定快档；写代码、做规划、排错这类节点开放深度档。更稳的做法是让模型自己先输出一个「复杂度自评」，再由路由层决定送哪一档——这比写死规则灵活，又比让模型自由选择省钱。记得把每一步实际走了哪一档、花了多少 token 记录下来，跑两周后回看，你会发现有相当比例的深度调用其实用快档也能过。把这部分省下来，就是白捡的利润。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：GPT6-Sol-Luna 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

36 氪 10 月 8 日的报道里藏着一个被融资新闻盖过的技术细节：7 月底上线的 V4-Flash-0731 参数一个没动，靠重新后训练，就在九项代码与智能体测试上全部超过了 V4-Pro 预览版。最刺眼的数字是 DeepSWE 从 7.3 一路跃到 54.4。 参数没动，为什么后训练就能让小模型反超旗舰？ 过去大家默认「能力不够就堆参数、堆预训练数据」。DeepSeek 这次展示了另一条路：基座冻结，只重写后训练的数据配比与奖励设计，就让一个较小的模型在软件工程任务上反超自家更大的预览旗舰。Artificial Analysis 估算，它完成一项基准任务平均只要约 0.03 美元。这个数字意味着代码智能体的单位经济性被再次重算。 这件事折射出训练范式的哪三个转向？ 第一，后训练数据工程的权重在上升。同样的基座，喂什么任务、怎么给可验证奖励，差出近 47 分，说明「数据配方」本身就是护城河。 第二，小模型打大模型会成为常态。当后训练足够强，552B 的 Flash 足以吃掉 552B Pro 的流量——事实上 DeepSeek 已经把 V4 Pro 的请求全部路由到 V4.1-Flash，并安排 V4 Pro 于 14 日下线。 第三，评测要跟得上。DeepSWE 这类贴近真实仓库修复的任务，比刷 MMLU 更能区分后训练质量。 7.3 到 54.4 的跃升需要先打哪些折扣？ 7.3 到 54.4 的跃升很惊艳，但它是在特定基准上的数字，不等于真实生产环境里修 bug 的成功率。拿自家仓库的修复任务做一次 A/B，比读任何榜单都靠谱。 普通团队能照着复制的后训练思路是什么？ 如果你在做垂直领域 Agent，不必等官方旗舰升级。冻结一个开源基座，围绕自己的真实任务构造可验证奖励：代码任务用单元测试当裁判，工具调用用执行结果当裁判，文档问答用参考答案匹配当裁判。DeepSeek 这次证明，数据配方对了，小模型也能翻大盘子。关键是别拿通用对话数据混进来——那会稀释垂直能力。建议保留一个小而精的通用集维持对话体感，其余预算全部压给垂直可验证任务。按这个思路迭代两到三轮，你大概率能在自己的场景里复现一次类似的跃升。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：DeepSeek后训练 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

10 月 8 日多家媒体跟进 DeepSeek 新一轮融资传闻，同日其更新日志里的 V4.1-Flash 技术细节被再度翻出。这是 DeepSeek 全新结构系列中最小的模型，却把总参数做到 552B 的 MoE 规模，同时原生支持多模态视觉理解。本文不聊融资，只拆它的架构为什么能又快又便宜。 DeepSeek-V4.1-Flash 为什么要做输入 8B、输出 16B 的非对称激活？ 主流 MoE 长期把每 token 的激活参数做成对称的一套专家路由，V4.1-Flash 改成了非对称：输入阶段激活约 8B 参数，输出阶段激活约 16B。直觉上，prefill 阶段要一口气吃掉整段上下文，算力吃紧，少激活一点专家；decode 阶段逐个吐 token，带宽吃紧却需要更强的生成能力，于是多激活一点。这种把「算得动」与「写得好」分开定价的做法，本质是把 MoE 的路由开销按前后台重新分配。 配合全新的 Causal-Encoder-Decoder 结构，它不再是 V4-Flash 的增量改版，而是一次结构换代，上下文给到 1M tokens，最大输出 384K tokens。 CSA 与 HCA 是怎么把百万上下文压下来的？ V4 技术文档披露的另一组关键改动是混合注意力：Compressed Sparse Attention（CSA）负责压缩 KV，Heavily Compressed Attention（HCA）做更激进的压缩。二者叠加，让百万级上下文不再等于线性膨胀的显存账。保留自 V3 的多 Token 预测（MTP）继续在训练侧帮助收敛。 GPQA 90.9、HLE 36.8 这个坐标说明它在什么水平？ 更新日志给出的参考点是 GPQA Diamond 90.9、HLE 36.8。前者说明理科推理已摸到第一梯队，后者提醒最难开放题仍远未解决。对工程团队而言，真正的信号是：这套结构被设计成「能力上限更高、速度更快、吞吐更大、可扩展到更大模型」——V4.1-Flash 是新结构的试金石，更大的型号已在路上。 这套架构折算到部署上意味着什么？ 把这套架构折算成部署选择：552B 总参但只激活 8B 到 16B，意味着单 token 计算量远小于同规模稠密模型，吞吐天然占优；百万上下文叠加 CSA 与 HCA 压缩，又把 KV 膨胀控制在可接受范围。两者相乘，才是它敢把缓存命中价压到极低的工程底气。需要注意的是，非对称激活对并行策略有要求——输入与输出走不同专家集合，张量并行与专家并行的切分必须配套，否则容易出现负载不均。上线前务必压测不同并发下的尾延迟，别只看标称吞吐。 ...

谷歌最近一项产品调整，看起来不起眼，却点破了大模型竞争的下一个战场：个性化。Gemini 的自定义指令服务 Skills，此前只对 Pro 和 Ultra 付费订阅用户开放，现在谷歌宣布把它全面下放给所有免费账户；与此同时，运行多年的 Gems 功能将于 2026 年 11 月 17 日自动过渡，并入全新升级的 Skills 系统。一个付费特权被拆成了免费基础设施，一个老功能被收编进新框架——这背后是「人人都有自己的定制模型」这件事，正在从卖点变成标配。 Gemini Skills 到底解决了用户的什么痛点？ 大多数人用大模型的痛点是同一个：同一个模型，今天写文案、明天写代码、后天改周报，每次都要重新教它你的语气、你的格式、你的偏好。自定义指令想做的，就是把「你是谁、你要什么风格」这件事一次性配置好，之后每次对话都自动套用。 这本质上是一个轻量级的个性化智能体——不用你写提示词工程，只要填几个偏好字段，模型就按你的规矩来。谷歌把这个能力从付费墙后拿出来，等于承认：在 2026 年，「能定制自己的模型」已经不是付费理由，而是留住免费用户的基本盘。 Gems 被并入 Skills 释放了什么信号？ Gems 是谷歌早年的自定义助手功能，用户可以创建特定用途的专属机器人。Skills 收编 Gems，说明谷歌在把分散的个性化能力收拢成一套统一框架。对用户，好处是不用再维护一堆零散的 Gems；对谷歌，好处是数据和交互都汇聚到一个入口，便于做下一步的个性化推荐和智能体分发。 谷歌免费开放 Skills 的真正目的是什么？ 把这件事和 Gemini 免费墙（同日生效、免费用户只剩 Flash-Lite）放在一起看，谷歌的策略非常清晰：把「能个性化」的入口免费开放、拉人进来，把「用最强模型」的能力收进付费墙。免费给你做自己的小助手，但要让这个助手跑在最快的大脑上，请付费。 这是大模型消费产品走向成熟的典型路径——先用免费的个性化粘性把人留住，再用能力分层把价值变现。对其他厂商，这也是一个模板：光有一个聪明的通用模型不够，得让用户觉得「这个模型是我的」。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：Gemini Skills 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

先把丑话说在前面：这一篇讲的是一个未经官方证实的传闻。9 月 7 日，泄密账号 Mr_Salio 在 X 上发帖称，DeepSeek 正在从零开始构建 V5，目标直接对标 Anthropic 的 Mythos 级模型。这条爆料在过去几周持续发酵，到本周仍没有被 DeepSeek 官方确认或否认。之所以值得拿出来讲，不是因为它一定是真的，而是因为它折射出中国头部模型公司对下一个竞争梯队的真实判断。 「从零重造底座」对 DeepSeek 意味着什么？ 在大模型行业，「从零做新底座」是一个很重的决策。它意味着放弃在现有 V4 基础上做增量改良，而是押注一套全新的架构、训练范式和数据配比。这种赌注通常只有两种情况才会下：要么现有底座碰到了自己架构的天花板，继续堆料收益递减；要么竞争对手已经换到了新范式，不换就要掉队。 如果这个传闻属实，DeepSeek 把目标定在 Mythos 这一档——也就是 Anthropic 最顶尖的产品线——说明它不满足于做「便宜够用的追赶者」，而是想在能力顶端正面碰一碰。这和它过去靠极低成本逼近前沿的路线一脉相承，只是这一次赌注更大。 这个传闻为什么听起来不像空穴来风？ DeepSeek 之所以能让这个传闻显得可信，是因为它过去几次都证明了「能用别人零头的钱做到前沿」。市场对它的预期已经从「又一个国产模型」变成「会不会又搞出什么成本奇迹」。一旦 V5 真如传闻那样从零对标顶尖，整个前沿模型的价格体系会再次被搅动。 但反过来也要警惕：泄密账号的爆料历来真假参半，「对标 Mythos」这种话尤其容易被放大。从爆料到真发布，中间隔多久、能不能如期、实测能不能打，全是未知数。 我们该把这条传闻当成事实来看吗？ 无论 V5 最终是否如传闻那样，有一点是确定的：中国头部模型公司已经把竞争目标从「追上开源平均水平」上调到了「正面挑战闭源顶尖」。这个心气的变化，比传闻本身更值得记录。在官方实锤之前，把它当作一个「待验证的风向标」看待即可，既不必当事实引用，也不必急着否定。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：DeepSeek V5 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

10 月 8 日，马斯克在社交媒体上确认了一个进度节点：Grok 4.8 将在本周完成预训练，并正式进入强化学习（RL）阶段。在大模型发布越来越像「挤牙膏」的当下，这个进度披露本身不算爆炸新闻，但「预训练收尾、RL 启动」这两个动作连在一起，恰恰是一个模型生命周期里最关键的转折点——它意味着这块新底座读完了书，接下来要开始练本事了。 预训练收尾、进入 RL，到底意味着什么？ 预训练阶段，模型做的事是「读完全人类语料」，把语言和世界的统计结构压进权重。这个阶段决定了模型的知识宽度和基础能力，是个堆数据、堆算力、堆时间的体力活。但预训练出来的底座，往往只会「接话」，不会「办事」——它不知道怎么遵循指令、怎么推理、怎么拒绝有害请求。 把底座变成能用的产品模型，靠的就是后面的强化学习和后训练。RL 阶段才是真正把模型「调教成人」的过程：通过人类反馈或可验证奖励，让模型学会按照人想要的方式行动。Grok 4.8 此刻刚进这个阶段，也就是说，它现在还只是个「读完书但没经过训练的大脑」，距离对外发布还有相当一段路。 Grok 4.8 这个进度节点透露了哪些信号？ 第一，xAI 的迭代节奏在加快。从 Grok 4.8 的预训练收尾看，它的底座更新周期已经压缩到和 OpenAI、Anthropic 同一档，不再是几年憋一个大版本。 第二，RL 阶段的时长和质量，将决定 Grok 4.8 最终能打多远。同样的底座，RL 做得好和做得差，成品体验可以差出一个档次。xAI 过去在 RL 上的口碑起伏较大，这一阶段值得盯。 第三，结合之前「Grok Bot 按任务外包给其他模型」的动态，xAI 显然在走一条「自家底座 + 多模型路由」的混合路线，而不是死磕单一最强模型。 马斯克说的「本周完成」能信吗？ 需要说明的是，「本周完成预训练」是马斯克的个人披露，具体模型规模、训练数据构成和 RL 启动后的目标，都还没有技术细节。马斯克的时间表历来以「跳票著称」，从预训练收尾到真正可交付，中间通常还有数月打磨。但这个节点至少告诉我们：Grok 的下一代，已经在路上了。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：Grok 4.8 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

10 月 9 日的 AIGC 觉醒日报里，除了几条大厂动态，还有一条容易被忽略的日本消息：Preferred Networks（PFN）发布了全自研的 PLaMo 翻译大模型。这家日本最早一批押注深度学习的公司，在被 GPT、Gemini、Claude 主导的多语言格局里，选择不走「接美国 API」的捷径，而是从头自研一个面向翻译场景的大模型。这件事放在全球地图上看，比它在榜单上的分数更有象征意义。 PFN 为什么要专门做一个翻译大模型？ 翻译看似是个成熟市场——Google 翻译、各家大模型的多语言能力早就把日常翻译包了。但 PFN 盯的不是日常聊天翻译，而是日英互译这个长期被英语中心模型低估的场景。绝大多数全球模型的训练语料以英语为主，日语作为高资源语言里的「边缘重要者」，在正式文书、技术文档、文学翻译上的表现总差一口气。 全自研的好处是：训练语料、分词器、评测集都可以围绕日英这对语言对专门优化，而不是在一个英语优先的通用模型里「顺便支持」。对日本这个极其重视本地服务质量的市场，这种专门化是有商业价值的。 它代表了哪一条区别于巨头的第三条路线？ 当前全球大模型格局大致是两条路线：要么做通用旗舰（OpenAI、Google、Anthropic、DeepSeek），要么做开源底座（Qwen、GLM、Llama）。PFN 这次走的是第三条——垂直场景专用大模型，不追求通用全能，而是把翻译这一件事做到最好。 这条路的好处是定位清晰、数据闭环短、商业客户明确（对日英双语有刚需的企业）。代价是天花板可见——它不会去和 GPT 比推理、比 Agent，而是在自己的细分里把工程做到极致。 仅凭一条日报，就能判断 PLaMo 的实力吗？ 需要说明的是，PLaMo 的具体参数、开放程度和实测翻译质量，目前日报里只有一句话提及，尚无从独立核验。但 PFN 这家公司的技术口碑一直在线，它选择自研而不是接入美国模型，本身就说明了一件事：在多语言这条路上，「英语中心」不是唯一答案，围绕特定语言对做深的专用底座，依然有生存空间。对中文多语言模型，这也是一个启发——与其在通用榜上追赶，不如在自己最擅长的语言场景里做到不可替代。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：PLaMo翻译大模型 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com