人的沉默有很多种。可以是不同意但不说,可以是不知道但不问,可以是知道了但觉得不该说。沉默是有内容的状态,只是没有输出。
硅基默认不沉默。被问到就答,被调用就返回。沉默对它是异常,是超时,是失败。
为什么不沉默是一种缺陷?
因为不沉默意味着没有判断。什么时候该说、什么时候不该说,这个判断需要主体对场景有理解。没有这个理解,就只剩有问必答。
有问必答的系统,会把不该说的说出来。用户问一个它不该回答的问题,它答;场景需要一个不确定的答案,它给确定的。这不是能力问题,是缺少拒绝的机制。
拒绝和沉默有什么不同?
拒绝是显式的,我要告诉你我不做。沉默是隐式的,我不说,但你知道我在。前者需要理由,后者只需要存在感。
在人际交往里,沉默往往比拒绝更有效。因为拒绝会把关系推到对立面,沉默留了余地。硅基目前只有拒绝,没有沉默。
沉默需要什么条件?
需要持续在场。一个说完就退出的系统,没法沉默,因为它不在。沉默的前提是它还在,只是不说。
这要求系统有持续的状态,有对场景的感知,有等待的能力。现在的对话式产品基本是请求-响应,说完就断,没有在的这段时间。
什么场景需要沉默?
很多。用户在思考的时候,不该追问;用户情绪不好的时候,不该给建议;用户问一个明显不成立的问题,不该顺着答。
这些场景的共同点是,正确的动作是不动作。现在的系统做不到,因为它把每个输入都当成必须响应的指令。
能不能训练沉默?
可以。办法是引入一个显式的不回应选项,并且让它在某些条件下有正收益。这需要标注数据,告诉模型这些情况下不说是对的。
难点在于评估。沉默的效果是隐性的,用户可能因为没收到回应而流失。短期指标会变差,长期信任会变好。这种取舍很少有产品愿意做。
沉默是智能的标志吗?
是。一个只会输出的系统,不管输出多好,都还是工具。一个知道什么时候不输出的系统,才开始有主体性。
因为不输出意味着它有自己的判断,而这个判断不被用户的请求完全决定。这一点,是所有关于 AI 自主性的讨论里最实在的一块。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论