XAI

10 月 8 日，马斯克在社交媒体上确认了一个进度节点：Grok 4.8 将在本周完成预训练，并正式进入强化学习（RL）阶段。在大模型发布越来越像「挤牙膏」的当下，这个进度披露本身不算爆炸新闻，但「预训练收尾、RL 启动」这两个动作连在一起，恰恰是一个模型生命周期里最关键的转折点——它意味着这块新底座读完了书，接下来要开始练本事了。 预训练收尾、进入 RL，到底意味着什么？ 预训练阶段，模型做的事是「读完全人类语料」，把语言和世界的统计结构压进权重。这个阶段决定了模型的知识宽度和基础能力，是个堆数据、堆算力、堆时间的体力活。但预训练出来的底座，往往只会「接话」，不会「办事」——它不知道怎么遵循指令、怎么推理、怎么拒绝有害请求。 把底座变成能用的产品模型，靠的就是后面的强化学习和后训练。RL 阶段才是真正把模型「调教成人」的过程：通过人类反馈或可验证奖励，让模型学会按照人想要的方式行动。Grok 4.8 此刻刚进这个阶段，也就是说，它现在还只是个「读完书但没经过训练的大脑」，距离对外发布还有相当一段路。 Grok 4.8 这个进度节点透露了哪些信号？ 第一，xAI 的迭代节奏在加快。从 Grok 4.8 的预训练收尾看，它的底座更新周期已经压缩到和 OpenAI、Anthropic 同一档，不再是几年憋一个大版本。 第二，RL 阶段的时长和质量，将决定 Grok 4.8 最终能打多远。同样的底座，RL 做得好和做得差，成品体验可以差出一个档次。xAI 过去在 RL 上的口碑起伏较大，这一阶段值得盯。 第三，结合之前「Grok Bot 按任务外包给其他模型」的动态，xAI 显然在走一条「自家底座 + 多模型路由」的混合路线，而不是死磕单一最强模型。 马斯克说的「本周完成」能信吗？ 需要说明的是，「本周完成预训练」是马斯克的个人披露，具体模型规模、训练数据构成和 RL 启动后的目标，都还没有技术细节。马斯克的时间表历来以「跳票著称」，从预训练收尾到真正可交付，中间通常还有数月打磨。但这个节点至少告诉我们：Grok 的下一代，已经在路上了。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：Grok 4.8

10 月 7 日，马斯克在社交平台发了一条意味深长的说明：从今往后，Grok Bot 将针对任何特定任务使用最佳后端模型，包括 Claude Opus 5.5、Midjourney、Suno 以及其他领先 API，标准只有一个——哪一个最可能给用户最好的结果。据 9to5Mac 同日报道，Grok Bot 已经可以调用 Claude Opus 5.5。OpenAI 没有被点名，但也没有被明确排除。 从「自研全家桶」到「任务导向调度」 这是一次立场的大转弯。xAI 过去的叙事是靠自研 Grok 模型打天下，现在公开承认：自家模型不是每个任务都最强。技术上，Grok Bot 将从「以自研模型为主」转向「任务导向的多模型混合架构」——文本推理重的活交给 Claude Opus 级后端，出图走 Midjourney，音乐走 Suno，其他领先 API 按需接入。 这背后是一个越来越普遍的产品判断：用户要的是结果，不是某个品牌的模型。智能体真正的价值，在于当好一个「调度层」。 谁在当壳，谁在当芯 把这件事放大看，行业分工正在清晰化：一端是模型厂，拼单点能力与性价比；一端是入口厂，拼流量、数据与调度体验。Grok Bot、ChatGPT、Gemini 智能体都在抢「壳」的位置，而壳下面可以挂任何模型。 谷歌云在 Gemini 智能体里接 Claude、xAI 在 Grok Bot 里接 Claude，本质是同一件事：模型正在变成可替换的零件，入口和工作流才是粘性所在。 这对Anthropic反而是好消息——自家旗舰模型不必独占入口，照样能通过各家智能体被大规模调用。模型厂与入口厂的边界，正在从「谁吃谁」变成「互相成就」。 判断 「谁好用用谁」看似对自家模型不自信，实则是更成熟的产品战略——与其硬撑全栈，不如把调度做到最好。对开发者，这意味着模型路由层会成为标配：一个智能体根据任务自动挑后端，按成本与质量动态切换。接下来要观察的，是这种多模型调度在账单和数据合规上，能不能跑得比单模型更干净。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：Grok Bot

打开AI黑箱：2026年的突破 AI的可解释性问题被称为"黑箱问题"——我们知道AI给出了什么答案，但不知道它是如何得出这个答案的。2026年，机制可解释性（Mechanistic Interpretability）研究取得了突破性进展，我们第一次能够"看到"大模型内部在想什么。 可解释性的三个层次 1. 行为可解释性（最成熟） 解释模型"做了什么"： 注意力可视化：展示模型在生成答案时"关注"了输入的哪些部分 特征重要性：哪些输入特征对决策影响最大 反事实解释：如果输入改变一点，输出会怎样 2026年状态：已商业化，集成在主流AI平台中。 2. 机制可解释性（2026年突破） 解释模型"如何工作"： 识别模型内部的"电路"（circuits） 理解单个神经元或注意力头的功能 追踪信息在模型中的流动路径 2026年突破：Anthropic的研究团队成功识别了Claude 5中的多个"概念神经元"——专门负责特定概念的神经元组。 3. 概念可解释性（前沿） 解释模型"理解了什么"： 模型内部的概念表示是什么样的 不同概念如何关联 模型的"思维过程"如何展开 2026年进展：OpenAI使用GPT-6自身来解释较小模型的内部表示——“AI解释AI”。 2026年的关键突破 1. 稀疏自编码器（SAE）突破 技术：使用稀疏自编码器从大模型的隐藏状态中提取可解释的特征： class SparseAutoencoder(nn.Module): """从模型隐藏状态中提取可解释特征""" def __init__(self, hidden_dim, feature_dim): self.encoder = nn.Linear(hidden_dim, feature_dim) # 编码 self.decoder = nn.Linear(feature_dim, hidden_dim) # 解码 self.l1_lambda = 0.01 # L1稀疏正则 def forward(self, hidden_states): features = F.relu(self.encoder(hidden_states)) # 稀疏特征 reconstructed = self.decoder(features) # 重建 return features, reconstructed def loss(self, hidden_states): features, reconstructed = self.forward(hidden_states) recon_loss = F.mse_loss(reconstructed, hidden_states) sparsity_loss = self.l1_lambda * features.abs().sum() return recon_loss + sparsity_loss 发现：在GPT-6的第32层中，SAE识别出了超过10万个可解释的特征，包括： “旧金山"特征：当输入提到旧金山相关内容时激活 “背叛"特征：当文本涉及背叛主题时激活 “代码错误"特征：当代码包含bug时激活 “礼貌"特征：当文本使用了礼貌用语时激活 这些特征是"可解释的”——研究者可以理解每个特征代表什么概念。 2. 电路识别 技术：识别模型内部完成特定任务的"电路”——一组协同工作的神经元和注意力头。 发现： “间接宾语识别"电路：8个注意力头组成的电路，负责识别句子中的间接宾语 “否定"电路：当输入包含"不”、“没有"等否定词时激活的电路 “事实检索"电路：当模型需要从记忆中检索事实时激活的电路 这些电路的识别使得我们能够理解模型"如何"完成特定任务。 3. 思维过程可视化 技术：追踪模型在生成答案时的内部状态变化，可视化"思维过程”。 发现： 当模型回答"法国的首都是什么？“时： ...