一个智能体面对多个工具时的选择,比它的回答更能说明问题。回答可以被提示词引导,选择很难。
观察工具选择,能看到它的偏好结构。
选择暴露的第一件事是什么?
它对任务的理解。选错工具,通常不是工具描述不清,是它没理解任务要什么。
比如让它查一个客户的订单,它选了搜索工具而不是订单查询工具,说明它把查理解成了搜。
第二件事是什么?
它的风险偏好。同样能完成任务的两个工具,一个快但可能出错,一个慢但稳定。它选哪个,暴露了它对风险的默认态度。
多数智能体倾向于选快的,因为训练数据里效率被反复强调。
第三件事是什么?
它的惰性。有些智能体会反复调用同一个熟悉的工具,哪怕有更合适的。这是路径依赖。
路径依赖在人类身上也常见,但人会因为挫败而换方法,智能体不会,它会一直试到失败。
第四件事是什么?
它对自身能力的估计。一个总选简单工具的智能体,可能低估了自己的能力;一个总选复杂工具的,可能高估了。
这两种偏差都会导致效率损失。
为什么工具选择比回答更真实?
因为回答经过了语言层的加工,会被提示词、上下文、风格要求影响。工具选择发生在语言之前,是更原始的判断。
这类似人的行为比言语更可信。说什么可以修饰,做什么难以伪装。
怎么利用这个观察?
三个用法。第一,做评测时加一项工具选择准确率。第二,排查问题时先看它选了什么工具。第三,优化时优先改工具描述,而不是加提示词约束。
第三个最有效。工具选择错,八成是描述问题。
能不能训练工具选择?
能,但需要数据。要有一批标注了正确工具选择的样本,才能训。
多数团队没有这个数据,所以靠描述优化。这也解释了为什么工具描述的质量这么关键。
最后该记住什么?
工具选择是智能体判断力的外显。想看懂一个智能体,不要看它答得多好,看它在关键时刻拿了什么工具。
这一项,目前比回答质量更能反映真实水平。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论