Posts

十月九日，arXiv 上挂出一篇题为 Scaling to Tens of Thousands of Test-Time Iterations with Loop-Native Attention Residuals 的论文，作者来自包括北大、慕尼黑工业大学在内的一组机构。它要解决的问题很具体：当下大模型靠 test-time compute 变聪明，无非是让同一个网络反复前向、把中间状态在循环里转很多圈；可一旦圈数拉到几千上万步，绝大多数架构要么发散，要么直接忘了自己这一圈在算什么。这篇论文给出的答案是循环原生的注意力残差：不要再把每一圈当独立前向，而是让注意力残差沿着回路跨步携带，给漫长的递归一条稳定的记忆主干。 为什么普通循环模型转不了几千步就崩？ 递归式 transformer 这类架构，本质是把同一个权重块反复调用，试图用「重复前向」换取算力深度，而不是把网络堆深。想法很美：一个 2 层的块转一万次，等效于两万层的推理。但实测里，递归块的步数一旦过百，注意力头的分布就开始漂移，反馈回路里的微小误差被一圈圈放大，最后输出震荡、收敛到平庸解。过去的做法是加 LayerNorm、缩短递归块尺寸、在每步重新注入输入，本质都是在「压住」这个不稳定系统，代价是有效循环长度被死死锁在几十步量级。 注意力残差沿回路携带，到底改了哪根线？ 这篇论文的核心动作，是把 transformer 里本来只在单层内部流动的注意力残差，改成跨递归步持续存在的状态。普通前向里，注意力输出经过残差连接融进隐藏状态，下一层就当新的输入重来；而循环原生设计里，模型不再每圈从零算注意力，而是把上一圈算好的注意力残差作为条件带进来，让递归过程变成一个有惯性的动力系统。作者观察到，这样一来递归过程中注意力头的行为会显著稳定化，前向推理可以反复进行而不抖。配合对递归块尺寸与输入注入位置的消融，他们报告说可以把 test-time 迭代扩展到上万步量级，而强化学习回路里甚至能跑到十万 token 以上的尺度。 这和「多算几遍」的老思路差在哪？ 关键区别在记忆的位置。Chain-of-thought 式多算，是把思考写在 token 序列里，靠下一个 token 记住上一步；循环原生残差是把思考写在网络内部的一个持续状态里，不消耗上下文窗口，也不要求模型把理由逐字吐出。这意味着它更像大脑的「工作记忆」而不是「笔记本」：不需要把每一步都讲出来，却能沿着回路不断打磨同一个解。对那些需要长时间沉淀、又不希望推理成本随上下文线性膨胀的任务，这条路线值得盯紧。 当然，论文是预印本，上万步的收益究竟来自循环残差还是来自更长的等效深度，还需要独立复现。但它至少说明一件事：test-time compute 的下一仗，可能不在「多想几行字」，而在「让网络本身转得动」。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

把十月九日到十日这几条新闻放在一起看，会拼出一个被市场忽略的图景：XMax 宣布收购 1200V 氮化镓公司 HexaGaN；日本官方启动 400MW 起步的国家 AI 超算计划；EE Times 撰文讨论「AI 基建的吉瓦会计问题」；大摩报告测算中国 AI capex 八点五万亿。表面上这些是不同公司、不同国家的动作，底层指向同一件事：AI 算力的瓶颈正在从 GPU 转移到电。当显卡还在按每 18 个月迭代一次的节奏往前走，电网、变压器、功率半导体、冷却系统却在以十年为单位慢吞吞地爬。 为什么电比 GPU 先到天花板？ GPU 的供应链虽然紧张，但台积电、三星、SK 海力士都在扩产，三年内总能补上。电力不一样：一个新变电站从立项到并网要五到七年，一座抽水蓄能电站要八年，一条特高压线路要十年。AI 数据中心想要 100MW、300MW、1GW 的电力容量，电网根本供不上。结果就是：很多园区机柜建好了、GPU 也买了，就是接不上电，项目空转一年。这种瓶颈是物理性的，靠资本市场砸钱解决不了。 功率半导体在成本曲线里占多大权重？ 过去数据中心配电系统的损耗大约在百分之五到百分之八，看起来不高。但当园区规模到吉瓦级，百分之五的损耗就是五十兆瓦，按工业电价一年就是几千万到上亿元。更关键的是，损耗会变成热，热又要制冷，制冷又要耗电——这是一个复利循环。把配电损耗从百分之八压到百分之三，等效于凭空多出几十兆瓦可用容量。这就是为什么 1200V GaN、SiC、固态变压器这些过去被视为冷门的技术突然变得值钱。 对投资者和创业者意味着什么？ 未来两年，AI 产业链上被低估的环节不是 GPU，而是电。具体包括：高压直流配电、GaN/SiC 功率器件、液冷与浸没冷却、边缘储能、以及电力资产管理软件。这些环节的共同特点是：技术门槛不低，但市场关注度远低于 GPU。当 GPU 公司的估值已经按 PS 30 倍在跑，功率半导体公司还在按传统硬件公司 PS 2 倍定价。这种错配不会永远持续。 下一个观察节点是什么？ 盯两个信号：第一，下一份头部云厂财报里，电力与冷却相关资本开支占比是否首次超过 GPU 采购占比；第二，有没有哪个 AI 项目因为接不上电而公开宣布延期。一旦这两个信号出现，市场就会正式把「电」当作 AI 投资的第一主线，而不是 GPU 的附属。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据 21 世纪经济报道十月十日凌晨文章，OpenAI CFO Sarah Friar 在八月对投资者披露的口径显示：公司年初消费者业务收入占比约百分之六十，企业业务约百分之四十；到 2026 年第二季度末，企业业务收入已经超过消费者业务收入。这是一个被很多人忽略的结构拐点。OpenAI 是靠 ChatGPT 订阅起家的公司，外界印象里它就是一个 C 端产品。但二季度数据揭示：真正在推高收入曲线的，已经不是 Plus 订阅，而是企业 API、私有化部署和联合产品开发。 为什么企业收入追得这么快？ 消费者订阅的天花板是用户数乘以 ARPU（每用户平均收入）。ChatGPT 周活已经到数亿量级，Plus 提价空间有限，用户增长进入平台期。企业侧则完全不同：一家大企业一年在 AI 上的预算可以是几亿到几十亿元人民币，而且按调用量计费，业务跑起来之后收入随客户业务线性增长。OpenAI 过去两年在销售团队、解决方案架构师、合规团队上的重投入，正在 Q2 开始兑现。 C 端和 B 端的商业模式有什么本质不同？ C 端是低客单价、高 churn（流失率）、靠品牌驱动；B 端是高客单价、长合同、靠销售和合规驱动。当 OpenAI 的收入结构从 60/40 变成 B 端反超，它本质上已经从一个「消费互联网公司」变成一个「企业软件公司」。这意味着它的估值倍数也应该按企业软件逻辑重算——而不是按消费应用逻辑。对二级市场而言，这是一个被市场定价还没完全跟上的事实。 这个拐点对其他模型公司意味着什么？ Anthropic 的企业收入占比早就超过六成，OpenAI 现在才追上。国内大模型公司则普遍还在 C 端订阅和 API 价格战里挣扎。OpenAI 这个结构拐点告诉所有同行：C 端订阅是流量入口，B 端合同才是利润池。未来两年，能不能把企业客户签下长约，而不是在 C 端打价格战，将决定一家模型公司能不能活过下一个资本寒冬。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据三十六氪与新浪财经十月九日晚间复盘，OpenAI 带头扫货背景下，年内已录得 195 起 AI 并购交易，但其中只有 12 起披露了具体价格。已披露价格的最大一笔，是欧洲 AI 基础设施厂商 Nscale 以十六点五亿美元收购分布式计算公司 Anyscale。剩下一百八十三起交易，外界只知道「谁买了谁」，不知道「花了多少钱」。这不是简单的信息披露习惯问题，而是整个 AI 一级市场退出机制正在滑向一个没有公开定价锚的黑箱时代。 为什么不披露价格？ 并购双方都有动机藏价格。买方不想让市场知道自己为某个能力付了多少溢价，免得下次收购被卖方坐地起价；卖方不想让自己的早期投资人看到退出倍数太低，影响下一轮募资。上市子公司收购时，对价股份的锁定期与减持规则也让双方倾向于模糊处理。结果就是：公开数据里只剩头部几笔标志性交易，大部分中小 AI 公司的真实估值永远是个谜。 定价黑箱对创业者意味着什么？ 当没有公开可比交易，创业者在和收购方谈判时完全没有锚。对方说「你的公司值两亿」，你无从反驳——因为你拿不到其他类似交易的价格数据。这种信息不对称会系统性压低退出价格。过去两年，不少 AI 创业团队最后接受的收购价，远低于上一轮融资估值，差几倍是常事。他们心里知道被压价了，但没有公开数据支持自己抬价。 IPO 变少之后并购会成为主通道吗？ 美股 IPO 窗口对未盈利公司一直偏紧，港股排队又长。对绝大多数 AI 创业团队而言，独立上市正在变成小概率事件，被并购才是大概率结局。当并购成为主退出通道，而价格又不公开，整个一级市场的定价效率会严重退化。长期看，这会伤害早期投资：VC 不敢投，因为算不清退出倍数；创业者也不敢创业，因为卖公司时连议价权都没有。 破局的方向是什么？ 未来可能出现两种修复：第一，监管要求上市公司披露 AI 并购的关键对价结构，至少在年报里给出区间；第二，第三方数据公司用薪酬、客户合同、团队规模反推交易价格，建立一套非官方估值指数。在那之前，AI 创业的退出窗口期，实际上是一个信息极度不对称的买方市场。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据新浪财经十月九日援引韩国科技情报通信部十月五日发布会消息，韩国以股权方式投入四点七万亿韩元（约合三十五亿美元），支持一个国家级前沿大模型项目，计划囤积三万九千张 GPU，对标中国开源大模型。这笔钱最值得注意的不是金额，而是「股权」两个字：韩国政府不是在撒补贴，而是以股东身份把钱压进项目里。这和美国的 CHIPS 法案补贴、欧洲的 PPP 联合体都不一样。它意味着国家对这个项目的退出预期是财务回报，而不是单纯的技术自主。 政府做股东和做补贴有什么本质区别？ 补贴是花掉就结束的钱，政府不追求回收；股权是要分红、要退出、要 IPO 的钱。用股权方式投 AI，政府会被迫像一个 VC 一样要求公司讲清楚单位经济、客户是谁、毛利多少、什么时候盈利。这反而是一种纪律：项目不能靠写 PPT 骗钱，必须真的能跑通商业模式。但风险也在这里——政府股东天然会偏向「短期能出成果」的方向，可能牺牲掉真正需要十年深耕的基础研究。 三万九千张 GPU 是什么量级？ 三万九千张加速卡，按当前主流旗舰卡折算是一个中型到大型训练集群。这个规模足以训练一个中等参数的通用模型，但还不够和 GPT、Claude 这种量级正面竞争。韩国的目标很务实：不是要做世界第一，而是要保证自己在金融、制造、半导体设计这些本土关键行业有一个可控的模型可用，不被美国 API 卡脖子。这是一种「够用就好」的主权 AI 思路。 主权 AI 的几种模式怎么选？ 全球现在有三种范式：美国靠私营公司加国防合同，中国靠大厂加国资云，欧洲靠多国 PPP 联合体。韩国这次走的是第四条路：政府直接当股东，绑定本土财阀（三星、SK 海力士、Naver、Kakao）一起干。这条路的优点是决策快、资金集中；缺点是一旦选错技术路线，国家资产会跟着一起亏。对其他中小国家而言，韩国样本提供了一个可复制的模板：与其从零造模型，不如集中资源养一个国家队，把它变成可退出的股权投资。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据证券时报与新浪财经九月底至十月初的报道，正在冲刺美股 IPO 的欧洲 AI 新云 Nscale（NSCL.US）在披露文件中显示，其最大客户微软与 Anthropic 合计占总合同价值的百分之八十五，其中 Anthropic 一家就豪掷四百五十亿美元锁定西弗吉尼亚州数据中心园区的 AI 云计算能力。这是一份看起来非常漂亮的招股书——长约、预付、超大规模客户——但从风险投资的视角看，它同时是一份把脆弱性写在脸上的招股书。当一家公司百分之八十五的收入来自两个客户，它到底是云厂商，还是这两个客户的外包算力部门？ 客户集中度为什么是估值杀手？ 传统 SaaS 公司的估值模型里，客户集中度超过百分之三十就要折价。原因很简单：一旦最大客户续约时压价、自建算力、或直接砍单，公司收入会在一个季度内塌方。Nscale 的百分之八十五，已经不是集中度风险，而是集中度现实。市场愿意给它高估值，唯一理由是 Anthropic 短期内离不开这么大规模的欧洲与美国电力容量。但 Anthropic 自己都在和亚马逊、谷歌谈更多算力合同，Nscale 的独家性其实是脆弱的。 四百五十亿美元长约是资产还是负债？ 表面看，四百五十亿美元是未来十年锁定的收入，是最优质的资产。但换个角度：为了兑现这份合同，Nscale 必须在西弗吉尼亚持续建数据中心、买 GPU、拉电力，这些 capex 全部要先花出去。如果 Anthropic 中途因为技术路线变化（比如模型变小、推理成本骤降）减少实际调用量，Nscale 手里就会握着一堆还在折旧但不再产生收入的硬件。长约保护了名义收入，却没有保护实际使用率。 新云运营商的终局是什么？ CoreWeave、Nscale、Lambda、Crusoe 这批「AI 新云」在过去两年享受了估值溢价，因为它们是大模型公司在三大云之外的补充算力。但终局只有两种：要么被某个超大云厂收购，成为它的区域资产；要么熬到客户成熟，被客户自建数据中心绕开。Nscale 选择在这个时点 IPO，本质是在窗口期把股票卖给二级市场，让公众投资者承接未来的产能过剩风险。对散户而言，买这种股票就是在赌 Anthropic 永远不会自己建机房。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据新浪财经十月十日凌晨更新的报道，摩根士丹利最新发布《中国 AI 路径：从 8.5 万亿元资本开支到三倍算力》研究报告，测算中国 AI 算力产业未来将进入国产芯片供应链供给大幅扩张的阶段，资本开支规模约八点五万亿元人民币，对应目标是把总算力翻三倍。这份报告在美股半导体板块因为「AI 降速」担忧而集体疲软的当口发布，本身就是一个信号：华尔街在告诉自己，中国市场的 AI capex 周期没有停，只是换了发动机。但八点五万亿这个数字背后藏着一个更尖锐的问题：这么多钱砸下去，谁能真的把它变成现金流？ 八点五万亿是怎么算出来的？ 这个数字不是某一家公司的资本开支，而是把国产 AI 芯片采购、数据中心建设、电力改造、光模块、服务器整机、存储全部加总的产业级估算。它的逻辑是：如果要把国产算力总算力翻三倍，按当前单卡成本与集群规模倒推，必须投这么多钱。这是一个供给侧数字，不代表需求侧已经有对应的付费场景。换句话说，这是「能建多少」，不是「能卖多少」。 谁在为这八点五万亿买单？ 买单方分三类：第一类是运营商与互联网大厂的云预算，第二类是地方政府算力中心的专项债，第三类是国资背景的算力运营商。这三类钱的共同特点是：都不是按「客户已经签了合同」来投的，而是按「国家需要有算力」来投的。这就埋下了一个隐患：如果两年后实际推理调用量上不来，这些数据中心会变成空转资产。大摩报告里最值得读的不是算力数字，而是它在反复追问：哪些公司已经有真实的企业 API 调用收入？ 现金流和算力为什么不是一回事？ 这是当前中国 AI 产业最容易被混淆的一组概念。算力是产能，现金流是订单。你可以花一百亿建一个一万卡集群，但如果没有客户按 token 付费，这个集群的折旧就是净亏损。过去半年，国内几家头部大模型公司的 API 价格已经打到地板，单 token 毛利极薄。要让八点五万亿 capex 跑通，必须出现真正海量的推理需求——Agent、机器人、自动驾驶、AI 硬件——而不是继续靠训练大模型互相卷。 接下来该盯什么？ 盯三个指标：国产芯片单卡实际交付量、头部大模型公司 API 收入季度环比、以及地方算力中心的机柜出租率。三个数字同时往上走，八点五万亿就是真投资；如果只有芯片交付量在涨，后两个不动，那就是又一轮产能过剩。对投资者而言，避开「纯卖铲子」叙事，找那些已经握着客户长约的环节，是接下来两年最稳妥的姿势。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据野马财经十月九日报道，CDN 老牌上市公司网宿科技于九月二十九日公告，以三亿元人民币（约合 4445.17 万美元）认购 Sand.ai 股份，对应每股 21.1137 美元、认购 210.54 万股。按出资比例推算，Sand.ai 本轮投后估值约六十八亿元人民币，已经逼近十亿美元独角兽门槛。Sand.ai 是一家做视频生成大模型的公司，主攻 AI 短剧与短视频内容生产。网宿科技原本卖 CDN 带宽，这一次直接掏钱入股一个内容生成模型，逻辑非常清晰：当 AI 把视频生成成本打到地板，未来视频流量会爆炸，CDN 带宽收入会跟着涨。 为什么 CDN 公司要押视频生成模型？ CDN 公司的商业模式是按流量收费。过去几年，短视频、长视频、直播已经把带宽推到高位，但增量在放缓。AI 短剧一旦真的跑通，意味着每一个小团队都能一天生成几十集视频，全网视频流量可能在两年内翻几倍。网宿投 Sand.ai，本质是在给自己的客户池扩容：今天投资三亿，未来带宽账单多收三十亿。这是非常朴素的上下游一体化逻辑。 六十八亿估值贵不贵？ Sand.ai 这种视频生成模型公司，公开收入数据很少，估值主要靠「模型能力加客户 pipeline」来定。视频生成赛道已经拥挤：可灵、即梦、Vidu、Runway、Pika 都在抢同一批短剧客户。Sand.ai 要在这个赛道里拿到六十八亿估值，必须证明自己的模型在短剧连续性、口型同步、成本上有独特优势。否则这三亿就是网宿买的一个期权，不是一笔稳妥的财务投资。 对 AI 短剧从业者意味着什么？ 网宿入场意味着 AI 短剧的基础设施钱已经到位：有模型公司生成内容，有 CDN 公司分发内容，有平台公司承接投放。过去两年短剧公司最头疼的是带宽成本随播放量线性上涨，现在 CDN 公司主动绑定模型公司，未来很可能推出「生成加分发」打包套餐。对中小短剧团队，这是好事——成本会继续降。但也要警惕：当基础设施被一家公司同时掌握上游生成和下游分发，你的内容议价权会被削弱。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据中信建投计算机团队十月八日发布的 AI 月报，消费端方面，ChatGPT 广告业务在上线不足两百天后已经达到十亿美元年化收入运行率；与此同时，Muse 等个人 Agent 产品正在把 AI 助手拓展到日常任务执行，推动 AI 应用在订阅之外探索广告与服务变现。十亿美元 ARR 是什么概念？这已经和不少中型 SaaS 上市公司的年度收入一个量级。而 ChatGPT 是在一个原本靠订阅赚钱的产品里，硬切出一块广告位，两百天就跑到这个数字。 广告位放在哪里用户不反感？ ChatGPT 的广告不是在对话流里硬插横幅，而是在搜索式问答、本地生活推荐、购物比价这些场景里，把「推荐商家」作为回答的一部分。用户问「附近哪家维修店靠谱」，模型给出三家经过筛选的店，其中一家是广告。这种原生广告和搜索广告逻辑类似，但比搜索更隐式——因为用户以为是 AI 在帮忙，实际上是商业化推荐。挑战在于：推荐质量一旦下降，用户对模型的信任会立刻崩。 十亿美元年化对应的用户量级是多少？ ChatGPT 周活用户已经以数亿计。假设只有百分之五的用户触达广告场景，每次广告展示 eCPM（千次展示收入）在十几美元，一个月下来就能跑出年化十亿美元。这个转化率在互联网广告里并不算高，说明 ChatGPT 的广告库存还远没被填满。未来如果把广告扩展到 Agent 执行任务过程中（比如 Agent 帮你订酒店时推荐合作酒店），收入还有十倍空间。 这对其他 AI 应用意味着什么？ 过去两年，AI 应用创业者普遍把订阅当成唯一变现方式，结果是免费用户养不起、付费用户转化低。ChatGPT 这个样本告诉市场：流量本身就是钱，只要你的用户每天真的在和模型交互，广告和佣金分成可以成为订阅之外的第二曲线。对国内做 C 端 AI 产品的团队，启示是别再死磕订阅，看看能不能在工具型场景里嵌入电商、本地生活、知识付费的分佣。免费用户不是包袱，是广告库存。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论

据观海新闻十月九日晚间报道，青岛正在推进 OPC（One Person Company，一人公司）模式，从餐饮经营诊断到用药安全、从水产养殖到外贸拓客，一批「行业专家加产品经理加 AI 工具使用者」三合一的创业者已经跑出第一波营收：有人月入稳定订阅收入，有人上半年营收过百万。这是国内地方政府第一次系统地把「一个人加一堆 AI 工具就能开公司」当成产业政策来推。听起来像鸡汤，但样本里真的有人收到了钱。 一人公司到底凭什么赚到钱？ 青岛样本里的创业者，不是技术极客，而是原本就在某个行业干了十几年的老师傅：懂餐饮的开了 AI 经营诊断服务，懂水产的做了养殖水质问答，懂外贸的做了海外拓客邮件助手。他们用 Cursor、Coze、Dify、各类 API 把行业 know-how 包装成一个订阅服务，客户是同行业的小老板。过去这种 know-how 只能靠线下咨询收钱，客单价低、交付重；现在用 AI 做成包月订阅，一个人可以服务几百个客户。 月入稳定订阅是怎么算的？ 假设一个餐饮 AI 诊断服务每月收费 299 元，一个人靠内容引流签下 200 个餐饮老板，月收入就是六万元。扣掉模型 API 成本（大概几千元）、工具订阅（几百元），毛利能到八成。这在传统服务业是不可想象的人效。但要清醒：这是头部样本，不是平均水平。绝大多数一人公司会卡在获客环节——你懂行业，但你不懂怎么把服务卖到全国。能跑出来的，往往是本来就有行业人脉的人。 这种模式的天花板在哪里？ 一人公司的护城河不是技术，而是行业 know-how 的积累速度。当你把一个细分场景做透，大模型公司迟早会把你做的事变成默认功能。比如水产养殖水质问答，等通义、文心把养殖知识库做进插件，你的订阅客户会在半年内流失。聪明的做法是：在窗口期把现金流跑出来，再用收入雇第一个员工，从一人公司变成小团队，把交付厚度加起来。否则就是在沙地上盖楼。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论