十月十九日,MiniMax 发布 M3.1-Flash,总参数约四千二百八十亿,每个 Token 激活约二百三十亿,原生支持一百万 Token 上下文。这类参数表最近出现得很密集,看多了容易麻木。但把几家厂商近期的发布放在一起看,会发现竞赛的重心正在从「多大」转向「多长」和「多省」。

参数还在比吗?

还在比,但比法变了。过去比总参数,现在比激活参数和单位成本。MoE 架构让总参数可以继续做大,而实际推理只走一小部分,等于用存储换成本。对使用者来说,总参数是宣传口径,激活参数和每百万 Token 价格才是账单口径。看发布会记总参数,看预算表要记后者。

百万上下文解决的是什么问题?

解决的是「把整份材料塞进去」的需求。过去做文档问答要切片、建索引、调召回,工程链路长,出错点也多。上下文足够长之后,一份几百页的合同、一整套代码库、一年的会议记录,可以整体送进模型,省掉大量预处理。这对知识密集型的交付是实质性利好,尤其是法律、审计、研发这类需要通读全文的场景。

长上下文会不会带来新的成本陷阱?

会。三个陷阱。第一,长上下文不等于有效注意力,材料塞得越多,中段信息被忽略的概率越高,检索做得好反而更准;第二,成本随长度线性上涨,一次通读整库的账单可能超过十次精准检索;第三,调试变难,输出错了很难判断是材料没读懂还是问题没问清。所以长上下文是能力,不是策略,用之前先算清楚哪类任务真的需要通读。

选模型该看哪三个指标?

第一看任务匹配度, coding、长文理解、多轮工具调用是三种不同能力,别拿一个榜单当全部;第二看单位成本,包括输入、输出和缓存命中三档价格;第三看稳定性,同一提示词跑十次结果是否一致,比跑一次多惊艳更重要。三项都过线再谈参数,否则参数只是别人的故事。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论