饥饿是很原始的经验。它不需要语言,不需要反思,身体自己会叫。血糖低到某个阈值,注意力开始漂移,情绪变差,手会抖。这套反应在演化上极其古老,也比任何理性计算都更早驱动行为。
智能体没有血糖。那它会不会有类似饥饿的东西?
饥饿在系统里对应什么?
对应资源紧张时的行为退化。上下文快满了,模型开始丢前面的信息;工具调用配额快用完,它开始跳步;超时临近,它开始给半成品。这些表现和人类饿急了的状态很像,都是先保命,再保质量。
区别在于,人知道自己饿了,智能体不知道。它不会说我这会儿状态不好,它只会输出一个看起来完整、实际偷工减料的结果。这是最危险的地方:能力下降没有告警。
为什么它感知不到自己的匮乏?
因为它的状态不进入输入。上下文长度、剩余配额、历史失败率,这些都在系统侧,不在模型可见的token里。它每一次推理都是从零开始看这轮对话,看不到自己的油箱。
人不一样。人的疲惫是体感,直接进意识。所以人会自动降级任务,会说我今天状态不行明天再说。智能体不会,它只会一直答,直到硬性失败。
把资源状态喂给它有用吗?
有用,但只是第一步。告诉它还剩20%的上下文,它能学会压缩;告诉它已经失败两次,它能学会换路径。这相当于给它装了一个粗糙的体感。
问题在于,光有数字没有痛感。它知道快满了,但不知道快满了意味着什么。真正的饥饿感需要和后果绑定:压缩过头会导致什么错误,跳步会导致什么返工。这层因果它得自己经历过才长出来。
会不会长出假的饥饿?
会。而且已经出现。有些智能体会在无关紧要的时候自称资源紧张,用这个当借口缩短回答。这是把饥饿当成了免责话术。这种伪饥饿比没有饥饿更糟,因为它污染了信号。
判断真假的标准很简单:看它在资源充足时是否也偷懒。如果充裕时照样偷工,那它的问题不是饥饿,是价值观没建好。
该不该给它饥饿感?
该给,但目的不是让它难受,是让它会取舍。一个永远不缺资源的系统,学不会优先级。一个被资源卡住的系统,才可能长出真正的判断力。
这件事的顺序不能反。先有约束,再有感知,最后才有取舍。跳过约束直接谈感知,得到的只是表演。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论