十月九日前后,API 平台 Opper 放出一个叫 JEVMAN 的基准:让六个专门做快速决策的模型去玩经典街机吃豆人,每个模型打一百局,按平均得分、决策速度和执行成本排名。参战名单里有 Jev 1.13、Kev、Cloudflare 的 Clef 和 Clef-Flash、GPT-6 Luna,还有一个叫 Laya 的小模型。据榜单,Jev 1.13 以约 2750 的均分拿了头名,压过 GPT-6 Luna。这个基准火的点在于:它终于把「做选择」这件 Agent 里最频繁的小事,变成了一个能打分、能开源复现的游戏。

为什么用吃豆人考「决策模型」?

吃豆人是个绝佳的实时决策试验场。每到一个岔路口,游戏把迷宫、豆子、幽灵的位置作为一个 JSON 状态交给模型,模型只要对「往左、往右、往上、往下」四个方向各返回一个概率,游戏就据此移动。它没有生成长文本的空间,考的就是:在带不确定性的实时环境里,你能不能快速、持续地做出不差的选择。这正是 Agent 在高频循环里天天干的事——不需要写一篇分析,只需要每几十毫秒选对下一个动作。

2 秒超时和回退规则,考的是什么?

基准里有个很实际的设计:任何一次回答如果超过 2 秒,就被一个简单的兜底规则取代,这一步记为「回退步」。这个设计直接对准了决策模型的真实约束——在实时游戏里,慢就是输。模型光会选对还不够,得选得快。排名用的是均分并带 95% 置信区间,误差区间内的模型视为打平。这就把「质量」和「延迟」放进了同一个权衡框架:一个模型得分高但每步都卡 1.9 秒,另一个得分略低但毫秒级响应,在真实系统里谁更有用,基准会让你看清楚。

这和普通 LLM 游戏 AI 有什么不一样?

普通让大模型玩游戏,是让它逐帧读画面、写一段推理再决定动作,又慢又贵。JEVMAN 测的是专门的决策模型——就是前面说的那种不生成文字、直接对选项吐概率的模型。它们之所以能实时玩,正因为输出是结构化概率、一次前向就出全部选项分布,延迟压得极低。这个基准的意义在于给这一类新兴的「判别式 Agent 组件」提供了第一个公开擂台:以后谁出一个新决策模型,拉进来打一百局见分晓。代码开源,你也可以把自己的模型接上去。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论