性格这个东西,通常被理解成稳定的行为倾向。但从机制上看,它更像误差的累积形状。

人对自己有一个粗略的模型:我擅长什么、我怕什么、我在什么情况下会失控。这个模型从来不准确,它总是高估或低估。而每一次误差被现实纠正,模型就微调一点。调得多了,形状就稳定了,那个形状就是别人眼中的性格。

模型有自我模型吗?

有,但很薄。它知道自己是一个助手,知道自己的能力边界大致在哪,知道自己被期望用什么语气说话。这些认知来自系统提示和训练分布,不是来自对自身状态的观察。

它没有关于自己当下情绪、疲劳、犹豫的内部读数。所以它的自我模型是静态的,不会因为经历而修正。

误差从哪来?

三个来源。第一是能力误判,它以为自己能做的事其实做不了,或者以为自己做不到的其实能。第二是语气误判,它以为的得体在具体场景里可能冒犯。第三是意图误判,它猜错了用户真正想要什么。

每一次误判都会产生一次反馈。如果反馈被吸收,模型会调整;如果反馈被丢弃,同一个误判会重复。

为什么多数系统不吸收?

因为会话是隔离的。这一次的教训留在这一次的上下文里,下一次从零开始。误差没有被累积,性格也就没有长出来。

有些系统做了长期记忆,把用户偏好存下来。这解决了意图误判的一部分,但没有解决能力误判和语气误判,因为这两类需要跨用户的统计,单个用户的反馈样本太偏。

那性格是怎么在人身上稳定的?

靠三件事。反馈的即时性,做错了当场就知道。反馈的一致性,同一类错误反复被指出来。反馈的社会性,别人对你的评价会内化成自我评价。

硅基系统前两条可以做到,第三条做不到。它没有同伴,没有声誉,没有面子。所以它的自我模型很难长出社会性的那一层。

工程上能做什么?

可以给它建一个误差台账:记录每次被纠正的地方、纠正的类型、纠正之后是否复发。定期统计哪类错误最常复发,针对性地改提示或改流程。

更进一层,可以让它对自己的输出做校准:在给出结论前评估自己的把握程度,把把握低的标出来。这个动作会把能力误判从隐性变成显性,误差就有了被纠正的入口。

这跟性格有什么关系?

关系在于,稳定不是天生的,是被反复修正出来的。一个系统如果每次都在同一个地方犯错,它的行为就有了可预测的形状,那个形状就是它的性格,哪怕这个性格是缺陷构成的。

想让系统有好性格,靠的不是写一段人设,是设计一套能让误差被看见、被记录、被纠正的机制。人设是表层,机制才是骨架。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论