大模型

据 Anthropic 官方研究博客 10 月 16 日发布（https://www.anthropic.com/research/ecdsa-curve-origins ），内部研究模型 Claude 在不到半小时内发现了 NIST 五条质数域椭圆曲线 P-192、P-224、P-256、P-384、P-521 种子参数的来源，这些种子自 2000 年 ECDSA 被 NIST 采纳为数字签名标准以来，由 NSA 提供却长期没有解释，成为密码圈 25 年的悬案。36 氪机器之心 10 月 17 日的转述（https://eu.36kr.com/en/p/4029189714170496 ）指出，结论是种子并非任何哈希算法的输出，而是 C 语言库 lrand48 随机数发生器以 Unix 时间戳为种子迭代生成，P-256 需要 1842 次迭代才得到标准化种子。 25年的怀疑到底在怀疑什么？ ECDSA 是使用最广的椭圆曲线签名标准，从 HTTPS、数字货币到企业身份认证都建立在这几条曲线上。NSA 当年提供种子却不说明来历，密码社区长期猜测参数是否被刻意植入后门，让 NSA 可以在不通知使用者的情况下破解签名。民间曾悬赏寻找种子来源，最流行的说法是一句玩笑口令的哈希，但 NSA 老员工 Jerry Solinas 2023 年去世后线索断绝，Anthropic 内部多名员工按口令方向追查多年也一无所获。 Claude 换了思路，不去猜口令，而是从 1990 年代 C 库常用的伪随机发生器出发反推。 Claude是怎么识破lrand48签名的？ Claude 写了一个扫描器，沿每条已公布种子逐位滑动，测试相邻片段是否老式发生器的连续输出，覆盖 34 种发生器与切片组合。它注意到部分种子高位为零的规律，十个种子里有四个在全部 20 个 32 位字上最高位为零，这种巧合概率只有 1/5810，正是只返回 48 位状态高 31 位的线性同余发生器 lrand48 的指纹。 ...

据 OpenAI Master 10 月 10 日转述 Business Insider 报道（https://openaimaster.ai/gemini-4-carbon-explained/ ），谷歌内部开发的 Gemini 4 系列代号 Carbon 的检查点，在内部 Jetski 评测环境中被多名员工评价为编程能力接近 Claude Opus 5.5，有人的原话是感觉像用于编程的 Opus 5.5，另一人评价 Carbon 确实很强。Jekardah 10 月 17 日的汇编（https://www.jekardah.com/berita/2026-10-17 ）也收录了这则未证实传闻，谷歌发言人对报道不予置评。需要先说明，这是一则内部传闻，没有公开基准，也没有发布时间表。 Carbon到底是哪一层的检查点？ 谷歌 Gemini 4 系列内部代号按元素命名，公开版本 Argon（氩）已经发布并开放，代号 Barium（钡）的检查点作为公开的 Argon 版本出货，Carbon（碳）则是更新的内部检查点，仍在开发与评测阶段。内部员工的感受来自非正式试用，不是对外发布的版本，能力可能在继续训练中漂移，也可能被砍掉不进入产品。 把内部检查点和公开模型对比，本身就是一件不严谨的事，因为员工描述的是印象，不是可复现的跑分。 内部评价接近Opus 5.5意味着什么？ Opus 5.5 是当前编程能力第一梯队的公开标杆，员工用它做参照，说明 Carbon 在代码任务上达到了相当高的内部预期。但内部印象无法替代公开榜单，编程能力要看长任务、多文件修改、调试和工程落地，而不是单题感受。谷歌没有放出 Jetski 的公开数据，外部无法验证，这也是官方拒绝置评的原因。 历史上内部检查点最终发布时被砍能力、推迟或改名的情况都发生过，传闻只能当作热度信号，不能当作产品事实。 为什么这类内部传闻总在发布前流出？ 前沿实验室之间的人才流动和员工社交，使得内部代号和感受很难完全封锁。媒体拿到的往往是匿名员工的主观描述，公司不否认也不确认，让市场保持关注。对资本市场，传闻会影响模型供应商之间的预期定价，但对普通用户，真正有价值的只有公开版本发布后的独立评测。内部检查点通常还在调参阶段，同一权重在不同提示温度和上下文长度下表现差异明显，员工随口给出的接近某模型评价，很难排除任务恰好落在模型擅长区间的偶然因素。Jetski 是谷歌内部的评测环境，外部无法复现题目集和评分方式，这让接近这个词没有客观尺度，员工之间的参照点也不统一，有人以最新旗舰为标尺，有人以三个月前的版本为标尺。 读者该怎么给这类传闻定调？ 建议把这则消息的权重放在低位，它提供的是方向参考，说明谷歌内部还有更强的检查点在跑，但不构成购买或切换工具的依据。判断一个模型值不值得用，等公开版本出来后看第三方长任务评测和实际项目上手成本，而不是被内部感受带着走。传闻的价值在于提醒竞赛还在继续，不在于提前下注。对开发者，可以持续跟踪公开榜单上谷歌模型家族的变化轨迹，把内部传闻当作一个观察提示，而不是决策输入，等公开权重复现了员工描述的能力，再调整自己的工具链选择也不迟。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

据微软 AI 官方博客 10 月 15 日发布的 Frontier Pre-training at Microsoft AI（https://microsoft.ai/news/frontier-pre-training-at-microsoft-ai/ ），公司宣布完成新一代基础模型 MAI-Base-2 的预训练。这是一个 MoE 架构模型，总参数 2.8 万亿，每次前向激活 800 亿参数，8 月至 9 月在 1.6 万张 GB200 上训练了 38 天，运行期间平均 MFU 为 21%，goodput 也就是训练实际推进的时间占比为 89%。 官方给出的核心对比是，在留出评测集上，MAI-Base-2 的 BPB 低于所有测试过的开放权重模型，按 scaling law 折算，达到 DeepSeek-V4-Pro-Base 同等损失所需的 FLOPs 仅为后者的 1/4.2 到 1/12.3，即训练效率高出 4.2 到 12.3 倍。官方同时强调语料完全来自自有有机数据管道，不涉及从其他模型蒸馏，未来将通过 Foundry 向受信伙伴授权权重。目前 MAI-Base-2 正在后训练阶段，正式结果尚未公开。 2.8万亿参数但只激活800亿，这条路是怎么省下来的？ MoE 的基本逻辑是把庞大的参数拆成多个专家，每个 token 只调动少数专家计算，从而在不动总激活成本的前提下放大总参数规模。微软这版的工程重点不在专家数量，而在让 MoE 每一层都能跑起来，MAI-Base-1 时期因为路由实现的内存碎片和专家负载不均，只能隔层使用 MoE，MAI-Base-2 通过多轮 dropless MoE 把固定内存占用做死，再压缩每个专家的通信开销，MoE 层 MFU 从 24% 提到 35%，这才敢全层铺 MoE。 ...

据 OpenAI 中文新闻页（https://openai.com/zh-Hans-CN/news/?display=list ）10 月 15 日条目，OpenAI 推出 Rosalind 学术计划，为符合条件的学术研究实验室提供资助，支持其使用 GPT-Rosalind 及相关工具推动生命科学研究。Minderlist 10 月 17 日信号汇总补充了申请结构（https://www.minderlist.com/navigateurs-modeles-ouverts-et-audits-les-cinq-signaux-ia-du-17-octobre/ ）：每个实验室最多为 30 名具名成员开通一年免费访问，已有企业协议的机构必须通过大学的企业采购通道申请，获批后由课题负责人与实验室负责人激活。 GPT-Rosalind 是 OpenAI 面向生命科学研究的专用模型，通过可信访问计划在 ChatGPT、Codex 与 API 中以研究预览形式提供；配套的 Codex 生命科学研究插件免费使用，帮助科研人员把模型接入 50 多个科研工具与数据源，合作方包括 Amgen、Moderna 等药企。9 月 11 日更新显示，模型已走出研究预览，面向符合条件的机构全球开放，公布的定价从 10 月 5 日生效。 为什么免费席位只给实验室而不对公众开放？ 这是一次精准的生态选址，而不是普惠促销。生命科学论文、数据集与实验流程是模型继续进化的语料来源，学术实验室既是用户也是反馈源头；把免费席位限制在 30 人、一年期、需审批的框架里，OpenAI 既拿到科研场景的真实使用数据，又避免了无门槛滥用。与对公众开放的通用模型不同，专用模型的护城河恰恰来自封闭的高质量领域交互。 学术免费与商业付费之间的定价分界怎么划？ 模型 10 月 5 日进入公布定价，学术通道却保留免费，等于在同一产品上划出两条价表：商业机构按调用付费，高校实验室以资格换取使用权限。这种双轨制在前沿模型领域越来越常见，它的潜台词是实验室产出的论文与验证案例本身就是商业版最好的销售材料。对研究者真正的问题不是免不免费，而是使用生成结果发表论文时的署名、数据出境与合规边界是否写进了协议。 专用模型会不会挤压通用大模型的科研市场？ Rosalind 的出现说明通用模型在专业领域的差距正在被专用版本填平：多步推理、文献检索、实验设计这些任务，专用微调加工具链比通用聊天更可靠。但专用模型的代价是视野收窄，跨学科发现往往来自专业边界的碰撞。对高校课题组，务实的组合是 Rosalind 处理本领域高密度工作，通用模型负责跨界联想，而不是二选一。 30 个席位的上限藏着什么考虑？ 一个实验室最多 30 名具名成员，看似慷慨，实际把使用范围锁在核心课题组内，避免一所大学申请后把全校师生都装进来。一年期限则要求实验室在周期内产出可发表成果，让资助与学术声誉挂钩。对课题组负责人，申请前要想清楚三件事：席位如何在导师、博士后与学生之间分配，研究数据出境是否符合所在机构规定，以及用模型辅助得出的结果在论文里如何署名披露。工具免费不等于责任免费，学术规范里的透明要求一条都不会少。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

10 月 16 日，小红书发布全员信，宣布将内部 AI 一级部门 Dots 与公司核心 infra 团队打通。全员信里明确了小红书作为「科技应用公司」的定位，并强调：与云厂商投入模型研发的逻辑存在根本不同，技术最大的价值不仅在于追求模型能力或算力规模本身，更重要的是模型与应用的深度融合，技术和产品互相增强。 这封全员信，是观察一家内容社区如何看待 AI 战略的绝佳样本。当云厂商在拼命堆算力、拼模型参数时，小红书选择了一条看似低调、实则精明的路：不卷大模型本身，而是把 AI 深度融进自己的内容生态。 为什么内容平台要把 AI 部门和 infra 打通？ 小红书过去的 AI 能力，更多散落在各个业务线里。把 Dots 这个 AI 一级部门与核心 infra 团队合并，意味着公司要把 AI 从「一个个项目」升级为「底层能力」。infra 团队管的是存储、算力、推荐系统这些公司的地基，AI 部门与地基打通，才能让模型真正跑在自己的业务数据与系统之上。 这种组织调整背后，是一个清晰的判断：AI 对内容平台的价值，不在于对外提供一个聊天框，而在于重构内容的理解、生成、分发与互动。要做到这一点，AI 团队必须离数据、离产品足够近。 小红书为什么强调「不跟云厂商卷模型」？ 全员信里那句「与云厂商投入模型研发的逻辑存在根本不同」，是整封信的题眼。大模型的通用能力军备竞赛，是千亿参数、万卡集群的烧钱游戏，玩家是 OpenAI、谷歌、字节这类有巨量算力与资金的公司。作为一家内容社区，小红书硬去卷底座模型，既不现实，也不明智。 它的优势在别处：海量的生活方式内容数据、高粘性的社区氛围、以及用户真实的种草需求。把通用大模型与这些独特的数据和场景结合，做出别人做不出的 AI 功能，才是小红书的胜战之路。所谓「模型与应用深度融合」，讲的正是这个差异化打法。 hi lab 的定位又透露了什么？ 全员信还明确了内部另一技术组织 hi lab 的定位：专注长期技术探索，布局前沿技术方向。这种「两条腿」结构很有意思——一边是 Dots 加 infra，负责当下落地的业务 AI；一边是 hi lab，负责不计短期回报的前沿探索。 这实际上是许多成熟科技公司的标准配置：用业务团队养活自己，用探索团队赌未来。在 AI 技术瞬息万变的当下，小红书既不想错过眼前的应用红利，也不想在长期前沿上掉队。这封全员信表面是组织调整，实质是一家内容公司对 AI 时代生存策略的郑重表态。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

10月17日，DeepSeek 在官方公号发文，宣布 V4.1-Flash 已更新至 V4.1-Flash-1017 版本，官方网页端、手机应用与 API 模型同步切换为新模型。距离上一代 V4.1-Flash 开源仅过去十天，这种按日迭代的节奏，本身就是中国头部模型厂竞争烈度的注脚。 这次小版本更新到底动了哪些基准？ 根据官方说法，相比上一版 V4.1-Flash，新模型在各项基准测试中取得了提升。结合此前 V4.1-Flash 以 MIT 许可开源的背景，主干规模约 552B 的混合专家架构、百万级上下文、以及把每 token 的 KV 缓存压到约 890 字节、约为上代四分之一，是这一代的技术底座。1017 版本更像是在这个底座上做后训练对齐与推理稳定性的修补，而非推翻重来。 缓存压到四分之一对自建用户意味着什么？ KV 缓存直接决定单张加速卡能同时挂多少并发会话、能把上下文拉多长。对自建推理的团队而言，同样的硬件预算下，能承载的会话数理论上接近翻倍，长上下文应用的边际成本随之下降。这也是 DeepSeek 持续把工程优化当作核心竞争力的原因——参数规模不再是唯一战场，单位算力的有效吞吐才是。 按日迭代会不会稀释开源版的稳定性？ 十天一版的节奏对用户的工程适配提出了更高要求：API 版本号、prompt 行为、工具调用格式都可能在小版本间发生细微漂移。对生产环境来说，这意味着必须把版本锁定、回归测试与灰度切换当作标配。对社区而言，高频更新则意味着 bug 修复更快、能力爬坡更陡，是一种用速度换稳定性的取舍。 头部模型进入按日迭代会带来什么？ 当一家头部厂商把小版本更新做成常规动作，竞争对手就被迫跟上。最终比拼的不再是单次发布会的惊艳度，而是单位时间内能力与成本曲线的斜率。对开发者来说，这既是红利也是负担——选择更多，但锁定成本也更高。 对开发者而言这版该立刻升级吗？ 如果你的生产环境已经跑在上一版 V4.1-Flash 上，建议先在小流量灰度通道里切换，对比同样 prompt 在新旧版本下的输出稳定性与工具调用成功率，确认没有行为漂移后再全量。对还没接入的团队，直接从 1017 版本起步更省事，省去了一次升级迁移。真正需要警惕的是把模型当成黑盒版本号固定下来后，长期不再回归测试——按日迭代的时代，版本锁定本身就是一种工程纪律。 把这一连串更新放在整个行业背景里看，DeepSeek 的策略很清晰：不追求一次发布会的惊天动地，而是用高频、低价、开放的小版本，持续压缩使用成本。对依赖国产模型的开发者，这意味着可以更低成本地试错与迭代；对竞争对手，则意味着必须在同样的节奏上应战。模型竞争的下半场，已经从「谁更聪明」转向「谁更便宜、更快、更稳」。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论，分享你对这条 AI 行业动态的看法。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

OpenBMB 十月十三日发布 MiniCPM-V 4.7 1B，一个十亿参数级的端侧多模态模型，支持单图、多图与视频理解，面向手机、平板与本地硬件。它与同期发布的 35B-A3B 走不同路线：这个 1B 版本主打视觉 token 压缩，官方给出四倍与十六倍两档压缩比，并称在 Instruct 模式下总分与推理效率都超过 Qwen3.5 0.8B。 视觉 token 压缩到底压的是什么？ 一张高分辨率图片进视觉编码器后会被切成上千个 patch token，每个 token 都要在注意力里与文本交互，显存和算力随像素数平方膨胀。视觉 token 压缩就是在喂进大语言模型之前，把相邻、冗余的视觉 patch 合并成更少的 token。四倍压就是把视觉序列缩到四分之一，十六倍压缩到十六分之一。 压十六倍为什么不瞎？ 朴素地把像素丢一半会丢关键细节。MiniCPM-V 的做法更接近「按需保留」：对文档、人物、文字这类信息稠密区域少压，对背景、天空这类区域狠压，让有限的视觉 token 预算花在刀刃上。这也是它敢宣传四倍到十六倍而精度不掉的原因——压缩是内容自适应的，不是均匀抽稀。 1B 模型的战场在哪？ 参数压到十亿级，模型可以跑在 NPU 甚至微控制器级硬件上。它不追求刷榜，而是做系统级的小助手：相册搜图、屏幕阅读、拍照即时讲解、离线 OCR。当视觉 token 足够便宜，多模态就从「云端每次调用」变成「手机上随时开着」的常驻能力。 视觉压缩率会不会有上限？ 压得太狠，文字与小物体这类关键信息会被抹平。四倍压缩通常无损，十六倍就要靠内容自适应保留。未来方向不是一味压更多，而是让模型学会判断「这一帧需不需要细看」，对静态背景狠压、对动作与文字少压，把有限视觉预算用到刀刃上。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 你在部署或复现这个技术细节时踩过什么坑？欢迎到论坛交换实测数据与配置片段。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

MiniMax 十月十三日开放 Music 3 权重，这是一个音乐生成模型，能从歌词与文字描述产出最长五分钟的完整歌曲。它不是单一大模型端到端吐波形，而是由一个八B 与一个零点六B 的语言模型配对，再加一套流匹配（Flow Matching）声谱合成系统组成。 为什么音乐要拆成两个语言模型？ 长歌曲要同时管全局结构与局部细节。一个八B 级模型负责词曲级的宏观规划，决定主歌副歌的情绪走向、配器与段落切换；一个零点六B 的小模型负责更细的局部条件，把宏观意图落实到每一小节。两者配对，可以在长程一致性和局部韵律之间分工，比让一个巨型模型独自承担要稳。 流匹配比扩散快在哪？ 音乐波形很长，早期扩散模型要多步去噪，生成五分钟音频代价高昂。流匹配把生成建模成一条从噪声到音频的直线，用更少的函数评估步数就能采样出声谱，再解码成波形。这让完整歌曲的生成时间从分钟级往可交互方向压。 开源音乐模型的边界在哪？ 权重开放后，创作者可以本地微调曲风、商用免版税，但也把「用 AI 批量铺歌」的门槛拉平。五分钟完整歌曲意味着短视频、游戏配乐的供给会爆炸，真正稀缺的不再是「做出一首歌」，而是「哪首值得被听见」。 五分钟完整歌和单段伴奏差在哪？ 单段伴奏没有结构，拼起来会断层。完整歌曲要求模型自己规划前奏、主歌、副歌、桥段与尾奏的情绪曲线，并让歌词与配器随段落推进而变化。双模型配对的价值就在这里：大模型管结构，小模型管细节，最终输出才像一首完整作品而不是一段循环。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 你在部署或复现这个技术细节时踩过什么坑？欢迎到论坛交换实测数据与配置片段。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

南京大学 MCG-NJU 联合京东与多所高校十月十四日放出 VideoJev，arXiv 编号 2610.18615，当天登顶 Hugging Face 每日论文榜，获 175 个赞，并开源训练评估代码与 VideoJev-4B、VideoJev-35B-A3B 两个权重。它把视频理解做成结构化决策任务：模型不逐词生成回答，而是在候选列表里直接打分。 什么是系统一式视频理解？ 传统视频 QA 让模型像人一样写一段自然语言回答，生成过程要逐 token 自回归，每步都要看一遍整段视觉上下文，长视频下延迟高得离谱。VideoJev 走「系统一」路线：把问题转成可枚举的选项，模型一次前向就输出每个选项的概率，答案直接落在给定列表里，程序可以直接取用。论文称在四个视频 QA 基准上，它与骨干模型思考模式性能相当，推理却快一百倍以上。 不生成答案会丢精度吗？ 论文在三个时序定位基准上，VideoJev-4B 与 35B-A3B 的平均 mIoU 分别比骨干提升 6.7 和 10.8 个点，同时实测加速 2.8 到 3.1 倍。也就是说在需要「指出哪一秒发生了什么」这类结构化判断上，它不仅没退化，反而更准。原因是去掉了自由生成的随机性，把模型能力集中在判别与定位上。 谁最需要这种快？ 视觉智能体要实时看屏幕、看摄像头并立刻决定下一步，等不起几十秒的生成式思考。打分式输出天然适合作为智能体的观察模块：快、可解析、可校验。这或许是具身与浏览器智能体真正缺的那块低延迟视觉判断。 打分式回答会不会限制开放性？ 候选列表必须事先枚举，这对「你怎么看这段视频」这类开放问题不友好。VideoJev 的定位不是闲聊，而是给智能体做可解析的观察信号。开放问答仍由生成式模型负责，打分模型负责其中结构化、高频、要求低延迟的子任务。两者在一个智能体里共存，而不是互相取代。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 你在部署或复现这个技术细节时踩过什么坑？欢迎到论坛交换实测数据与配置片段。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

arXiv 论文 FORGE 在十月十四日挂出新版，核心主张是用程序化的即时权重生成，替换稀疏 MoE 前馈层从 HBM 读权重的传统做法。它在每个流式多处理器内固定一个 Rotor 生成单元，用专用流水线数据通路执行旋转运算，把生成的权重直接写进共享内存，绕过 HBM 层级，也不与 SIMT 资源争抢。 MoE 解码为什么卡在显存带宽？ 自回归解码逐 token 生成，每步都要被路由命中的专家权重全部读进 SRAM。MoE 总参虽大但每 token 只激活少数专家，可一旦专家被命中，它们的完整权重仍要从 HBM 拉一遍。于是解码阶段算力利用率很低，瓶颈变成 HBM 带宽，GPU 大量计算单元在空等数据。 现算现用为什么能翻盘？ FORGE 的思路是：与其把庞大的专家权重存进 HBM 再搬运，不如用一小套可学习的旋转与投影规则，在芯片内部临时把权重「展开」出来。Rotor 生成单元是固定功能电路，不吃通用张量核心，生成结果直接进共享内存给 FFN 用。论文称这把原本带宽受限的 MoE 解码，转换成了约 0.9 个量级下的算力受限问题，等于把瓶颈从搬数据变成算数。 这条路真的省显存吗？ 权重不落地存储，理论上能砍掉 MoE 最大的驻留开销。但代价是要为这套生成电路付出硅片面积，还要保证生成权重与训练时权重分布对齐，否则精度会塌。目前它还是架构级论文，离落地还有编译栈与模型协同训练的距离，但它点破了一个趋势：MoE 的下一阶段不是堆更多专家，而是重新思考权重到底要不要存。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论 你在部署或复现这个技术细节时踩过什么坑？欢迎到论坛交换实测数据与配置片段。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com