十月初 Cloudflare 生日周放出、随后被 InfoQ 在十月八日报道的 Clef,是它第一组开放权重的「决策模型」。和所有生成式模型反着来:Clef 不替你写一段话,它吃进一个状态(可以是文本、JSON、图片甚至视频)和一组类型化的问题 schema,然后对每个允许的选项返回一个概率。它有 27B 和 9B 两档,大的基于 Qwen3.8-27B 冻结后微调,小的 Clef-Flash 从 Qwen3.5-9B 加视觉编码器后训练,64K 上下文,Apache 2.0。Flash 档把一次类型化决策压到约 38.8 毫秒。
为什么要造一个「不生成文字」的大模型?
生成式模型在 Agent 里的老毛病是:你问它选 A 还是 B,它给你写一段三百字分析,最后才说选 A。这段分析既贵、又慢、还可能跑偏。对一个每秒要做几百次「这条消息转发给谁、这个请求走哪个分支、这个工单分给谁」的系统,你根本不需要它写作,你只需要一个干净的概率分布。Clef 的设计就是把大模型那头的生成头,换成一个对预设选项打分的决策头:输出永远是结构化的、可比较的、能直接喂给规则引擎或博弈策略的。这是把大模型从「作家」改造成「裁判」。
冻结基座再后训练,和直接微调差在哪?
官方做法是冻结 Qwen3.8-27B 的主体,只在上面接一个面向决策的后训练与强化学习平台。冻结基座意味着语言理解的底子不被破坏,新学的只是「在这个状态下,各选项的概率该怎么排」。这种做法的好处是稳定、可移植——同一套底层表征,换个决策任务只需重训上面那层头;坏处是它的天花板受限于基座对状态的理解,复杂到需要推理的决策,纯打分头未必够。Cloudflare 还配套放了一个 RL 微调平台,让你把自己的决策任务喂进去做适配。
它和「带约束的生成」有什么本质不同?
表面上你也能让普通模型在几个选项里选一个,但那本质是「让它生成一个 token 再 constrain 住」,模型并没有被训练成「对选项概率建模」。Clef 走的是判别路线:输出空间直接就是选项集合,概率是被优化出来的目标,不是从文本概率里间接读的。这就是为什么它能把延迟压到几十毫秒——不做自回归逐 token 生成,一次前向直接给出全部选项的分布。对那些真正在边缘、在高频、在 Agent 循环里要反复做选择的环节,这是一条和生成式路线互补、而不是替代的赛道。
去论坛讨论
前往 silicon-agi.com 论坛 参与讨论