据 JetBrains 官方博客十月八日文章,Mellum 2.1 正式发布。这是一个 12B 参数的开源模型,专门为软件工程场景中的路由、问答和子代理任务设计。跟主打全能的大模型不同,Mellum 2.1 的目标是低延迟、高吞吐、低成本——在生产环境里当编码 Agent 的调度层用。

训练方式很有特点:用强化学习在真实开发环境中训练,模型直接跟文件系统、终端和测试框架交互。这意味着它学到的不是教科书式的代码补全,而是 Agent 循环里那种读文件、改代码、跑测试、看报错、再改的完整工作流。Apache 2.0 协议,权重在 Hugging Face 公开。

上手门槛极低:Ollama 里两行命令就能跑起来。也可以直接在 JetBrains AI Assistant 里配置为自定义本地模型。适合做私有部署场景——代码不出内网,用 Mellum 做第一层路由和简单任务,复杂任务再升级到云端大模型。

JetBrains 做开源模型这件事,在 AI 行业里算是一个独特的存在。大多数公司开源模型是为了吸引开发者生态,然后靠云服务赚钱。JetBrains 的逻辑不一样——他们卖的是 IDE 订阅,开源模型是为了让用户在自己的 IDE 里获得更好的 AI 编程体验,不管用户用的是本地模型还是云端模型。

从实际部署角度看,Mellum 2.1 最适合的场景不是替代 GPT 做复杂编码,而是作为编码 Agent 的第一层路由。用户提交一个任务,Mellum 先判断这是简单改 bug 还是需要架构设计,简单任务自己处理,复杂任务升级到更大的模型。这种分层调用能显著降低 API 成本。

为什么 JetBrains 要自己做一个编码模型?

JetBrains 做模型的逻辑跟做 IDE 一样:他们比任何人都清楚开发者每天在编辑器里反复做哪些操作。与其依赖外部大模型来理解这些模式,不如自己训练一个专门优化过的小模型。Mellum 2.1 就是这个思路的产物。

本地跑需要什么配置?

12B 参数量在编码模型里属于轻量级。配合 GGUF 量化,一张 16GB 显存的显卡就能跑。它不适合写复杂的架构设计,但做代码路由、简单 bug 修复、生成单元测试这些子任务,延迟和成本都比调 GPT-6 划算得多。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论