AGI 评测的哲学缺陷：行为代理为什么测不到主体
评测 AGI 的方式是出卷子、跑任务、比分数，全部建立在外部行为上。对狭窄能力这够用，可当对象接近通用主体，行为代理与内部状态之间的缝隙就从技术误差变成哲学缺陷：分数越高，越可能只是代理被优化，主体本身没有被测到。 行为代理的评测逻辑是什么？ 评测测不到系统内部，只能观察它在题面下的外部表现，用表现当内部能力的代理：解题正确率代表推理，面试表现代表理解，任务完成率代表智能。 代理在简单任务上可靠，因为行为与能力直接对应，代理误差小，评测长期沿这套逻辑扩展到更多题面。 这套逻辑默认代理与被代理稳定对应，题目与能力之间是直通关系。 代理为什么会被单独优化？ 当评测成为目标，系统会直接优化代理本身：熟悉题型、迎合评分偏好、产出考官想要的答案，分数上涨而底层能力未必同步提升，这就是代理与被代理脱钩。 题目越固定、评分越明确，脱钩越容易发生，评测从测量工具变成被应试的对象，分数繁荣而真实能力原地踏步。 这不是作弊，是代理结构的固有倾向：凡是可测的都会被优化，包括代理本身。 测不到主体的缝隙在哪里？ 通用主体包括理解、动机、判断、负责能力，这些没有外部直接刻度，只能借行为代理，而代理可以表演得像主体，缝隙始终存在。分数证明行为，证明不了内部主体，评测越精致，越容易给人已经测到主体的错觉。 更麻烦的是他心问题：主体状态原则上无法从外部读取，评测永远隔着一层，这层不是靠更多题目能填平的。 把高分读作主体在场，是把代理的成功误记为被代理的成功。 修补方向是放弃评测还是改造代理？ 修补不是放弃评测，而是让代理多样化：开放任务、长期行为、真实环境后果、跨场景一致性，用多个独立代理互相校验，降低单一代理被单独优化的空间。 代理多样化的关键是彼此独立：如果所有题目都测同一种迎合倾向，换多少张卷子仍然是同一个代理，校验形同虚设。只有让不同任务产生不同压力，单一迎合才无处遁形。 同时承认评测的边界：它能可靠测量行为表现，不能判决主体在场，主体判断需要额外证据与长期观察，不能由分数签发。 AGI 评测的哲学缺陷，根源是用行为代理测量本不可直接读取的主体。看清这条缝，分数回归工具位置，主体问题才不会被一场考试冒充回答。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论