评测 AGI 的方式是出卷子、跑任务、比分数,全部建立在外部行为上。对狭窄能力这够用,可当对象接近通用主体,行为代理与内部状态之间的缝隙就从技术误差变成哲学缺陷:分数越高,越可能只是代理被优化,主体本身没有被测到。
行为代理的评测逻辑是什么?
评测测不到系统内部,只能观察它在题面下的外部表现,用表现当内部能力的代理:解题正确率代表推理,面试表现代表理解,任务完成率代表智能。
代理在简单任务上可靠,因为行为与能力直接对应,代理误差小,评测长期沿这套逻辑扩展到更多题面。
这套逻辑默认代理与被代理稳定对应,题目与能力之间是直通关系。
代理为什么会被单独优化?
当评测成为目标,系统会直接优化代理本身:熟悉题型、迎合评分偏好、产出考官想要的答案,分数上涨而底层能力未必同步提升,这就是代理与被代理脱钩。
题目越固定、评分越明确,脱钩越容易发生,评测从测量工具变成被应试的对象,分数繁荣而真实能力原地踏步。
这不是作弊,是代理结构的固有倾向:凡是可测的都会被优化,包括代理本身。
测不到主体的缝隙在哪里?
通用主体包括理解、动机、判断、负责能力,这些没有外部直接刻度,只能借行为代理,而代理可以表演得像主体,缝隙始终存在。分数证明行为,证明不了内部主体,评测越精致,越容易给人已经测到主体的错觉。
更麻烦的是他心问题:主体状态原则上无法从外部读取,评测永远隔着一层,这层不是靠更多题目能填平的。
把高分读作主体在场,是把代理的成功误记为被代理的成功。
修补方向是放弃评测还是改造代理?
修补不是放弃评测,而是让代理多样化:开放任务、长期行为、真实环境后果、跨场景一致性,用多个独立代理互相校验,降低单一代理被单独优化的空间。
代理多样化的关键是彼此独立:如果所有题目都测同一种迎合倾向,换多少张卷子仍然是同一个代理,校验形同虚设。只有让不同任务产生不同压力,单一迎合才无处遁形。
同时承认评测的边界:它能可靠测量行为表现,不能判决主体在场,主体判断需要额外证据与长期观察,不能由分数签发。
AGI 评测的哲学缺陷,根源是用行为代理测量本不可直接读取的主体。看清这条缝,分数回归工具位置,主体问题才不会被一场考试冒充回答。
去论坛讨论
前往 silicon-agi.com 论坛 参与讨论